小红书【2026校招】大模型运营
任职要求
1、本科及以上学历，理工科、医学、法学相关专业优先，有AI工具实操经验者优先，小红书重度用户优先； 2、具备独立开展研究工作的能力，熟悉python语言，熟悉pytorch/…
工作职责
1、负责大语言模型的价值观对齐，配合工程师设计模型优化方案，确保大模型输出内容对用户有益、无害、诚实； 2、有社区&内容相关、商业化和电商相关审核的业务的实习经验； 3、结合业内最新的大模型技术，制定方案、对整体的审核效果负责。
1、对业务模型训练效果的数据负责，与算法进行专业对话，结合模型能力要求进行数据策略的制定，为模型效果提供最优解决方案，支持从模型冷启、样本设计、数据生产、效果优化、线上监控的全过程，推动策略迭代提升模型效果； 2、负责搜索、安全生态、内容理解、大模型、商业交易等业务板块的模型需求，基于业务场景模型的应用效果设计运营链路，从模型实际应用收益出发，推动模型的策略、规则、数据链路的优化； 3、基于行业常见智能化应用手段，例如agent、rag、pe等，进行智能化标注策略设计，提供专业的智能化数据方案，搭建人机协同、智能化标注等数据链路，拿到效率、成本的收益； 4、保持数据行业前沿的视角和前瞻性的专业思考，持续推进智能化标注策略迭代，同时辅助内部工具平台、组织与业务交付流程的优化，提出有效建议，提高团队整体业务效率。
1、负责生成式大模型安全防护产品策略的规划、设计和迭代，包括Safety Alignment、发prompt injection、反model jailbreak、风险生成内容过滤和实时检测机制。 2、负责设计多模态 AIGC 安全检测体系（文本/图像/视频），覆盖违规内容识别、伪造判定、真实度评估、深度伪造检测、模型生成技术追踪等方向。 3、持续跟踪和分析当前生成式AI技术的发展趋势，收集相关信息，并推动防御手段的更新和升级，以确保系统的安全性。 4、协同算法与研发团队，推动AIGC检测技术落地，优化防护效果和性能指标。 5、监控大模型安全态势，分析潜在风险，制定预防性和应急响应策略。 6、跨部门协调（如GA、安全运营、法务、数据），确保策略与业务目标对齐，并推动规模化应用。 7、跟踪行业法规和最佳实践，保障产品符合国内外安全与伦理标准。
1、质量策略与流程设计：完成审核质量策略和流程设计，包括大模型&人审质检流程搭建、抽检策略设计、问题分析报告产出； 2、目标制定和管理：串联产品、算法、策略&规则运营、人审管理等上下游团队，对齐业务目标与拆解质量指标，通过设计所负责业务板块的目标管理体系，不断牵引交付结果达成； 3、资源管理：做好质量管理团队的需求管理，做好成本规划，监控需求的收集、分析、确认和控制； 4、项目群管理：负责社区对应业务板块的质量项目运营，以标准化的运营模式解决质量共性痛点卡点问题，促成目标达成。
1、审核规则制定&优化：依据法规与业务，制定并优化审核规则，使其贴合市场与监管要求，保障审核有章可循且精准有效；跟踪行业动态，及时调整审核规则，确保规则与时俱进，为业务合规运营筑牢根基； 2、大模型驱动的审核规则构建与优化：基于法规与业务场景，设计适配大型审核能力的规则体系，确保规则可被大模型精准理解与执行；主导大模型审核提示词(Prompts)的迭代优化，持续提升审核准确率与覆盖率； 3、人机审核协同与质量管控：深度分析大模型审核结果(通过率/误杀率/召回率)，定位规则或提示词缺陷，驱动模型与规则联合优化；为协作团队提供“大模型决策逻辑解读”及争议case处理指南，提升人效与一致性； 4、风险研判与应对：深度剖析内容，识别各类风险，制定风险化解策略，守护业务免受法律、品牌等风险冲击；基于风险评估与审核数据，协同各方优化审核策略推动业务在合规轨道上稳健发展。