小红书【2026校招】生成式大模型安全策略产品
任职要求
1、本科及以上学历，计算机科学、人工智能、信息安全或相关领域； 2、精通生成式AI技术（如LLM、扩散模型）及其安全挑战，熟悉常见攻击和防护方案，精通AIGC识别基本方法（Watermark、C2PA、检测模型等） 3、具…
工作职责
1、负责生成式大模型安全防护产品策略的规划、设计和迭代，包括Safety Alignment、发prompt injection、反model jailbreak、风险生成内容过滤和实时检测机制。 2、负责设计多模态 AIGC 安全检测体系（文本/图像/视频），覆盖违规内容识别、伪造判定、真实度评估、深度伪造检测、模型生成技术追踪等方向。 3、持续跟踪和分析当前生成式AI技术的发展趋势，收集相关信息，并推动防御手段的更新和升级，以确保系统的安全性。 4、协同算法与研发团队，推动AIGC检测技术落地，优化防护效果和性能指标。 5、监控大模型安全态势，分析潜在风险，制定预防性和应急响应策略。 6、跨部门协调（如GA、安全运营、法务、数据），确保策略与业务目标对齐，并推动规模化应用。 7、跟踪行业法规和最佳实践，保障产品符合国内外安全与伦理标准。
1、推动NLP和大模型算法在社区业务中的落地，负责基础NLP相关算法研发； 2、参与智能客服算法开发，探索agent框架在客服业务中的应用； 3、参与翻译算法和海外多语言策略开发，探索大模型在多语言环境中的应用； 4、参与小红书生成式搜索相关算法和系统研发，通过最新的生成式AI等技术，打造新一代智能化搜索引擎； 5、探索大模型预训练、文本理解、多模态理解、多模态推理等多个前沿方向在业务中的前瞻应用。
项目内容介绍： 人工智能和大模型数据智能服务项目。主要分为以下两个方向： 1、GPT应用平台场景，打造企业级一站式大模型平台，提供先进的生成式AI生产及应用全流程开发工具链；支持了公司辅助营销、智能客服等众多智能化应用。 2、整车行业智能化场景的解决方案，包括；研发和生产数字化、数字化营销和服务等。 - 通过先进的数据分析和人工智能算法，实现生产资源的优化配置和生产流程的精细化管理； - 通过AI检测提高产品质量、提升生产效率、降低生产成本以及优化生产工艺； - 通过AI的数据挖掘和分析，为产品设计、制造、测试等环节提供决策支持； - 通过AI辅助生成营销文案，处理大量的客户咨询和服务请求，降低运营成本，提高效率等。 职位描述： 1. 深入参与公司在大模型、深度学习等前沿领域的研究和开发工作； 2. 负责关键算法的设计、实现与优化，解决技术难题，提升产品性能； 3. 与产品、工程团队紧密合作，确保项目的顺利推进； 4. 跟踪业界最新学术论文与技术动态，进行技术预研和储备，为公司的发展提供有力支持；
1. 主导新一代训练与推理引擎的架构设计与核心模块开发，支撑搜广推业务在长序列建模、生成式推荐、Agent 等前沿场景的规模落地。 2. 与存储、数据平台深度协同，打造端到端 ML 数据 Pipeline：统一特征管理、秒级调试、版本追踪与一键上线，让数据科学家专注模型创新。 3. 持续优化训推基础设施：自研 Embedding 高速存储、特征 DSL 引擎、弹性调度与服务化推理框架，实现 10x 级性能提升。 4. 跟踪 LLM / Agent 最新进展，将其工程化落地到搜索、广告、推荐及智能体业务，定义行业新标准。
1、负责视频/图片前处理修复增强算法的研究与落地，包括但不限于超分、降噪、去模糊、人像修复等； 2、负责在视频/图片画质还原领域探索diffusion生成式模型的应用与落地； 3、负责视频/图片画质分析和质量评估算法的研究和落地，包括但不限于噪声估计检测、低质检测（编码artifact/模糊/过锐）、色彩/曝光/对比度/清晰度评价、美学/构图评价等； 4、负责视频/图片场景分类和分析，用于改善视频编码效率和传输效率，包括但不限于ROI检测、场景分类、复杂度分析等。