vivoAI安全策略产品经理

职位概述 作为小红书Trust-and-Safety团队核心成员，负责制定生成式大模型相关安全防护和内容治理策略，保障生成式应用的安全合规性，优化AIGC内容在平台上的检测和标识。 主要职责 1.负责生成式大模型安全防护产品策略的规划、设计和迭代，包括Safety Alignment、发prompt injection、反model jailbreak、风险生成内容过滤和实时检测机制。 2.负责设计多模态 AIGC 安全检测体系（文本/图像/视频），覆盖违规内容识别、伪造判定、真实度评估、深度伪造检测、模型生成技术追踪等方向。 3.持续跟踪和分析当前生成式AI技术的发展趋势，收集相关信息，并推动防御手段的更新和升级，以确保系统的安全性。 4.协同算法与研发团队，推动AIGC检测技术落地，优化防护效果和性能指标。 5.监控大模型安全态势，分析潜在风险，制定预防性和应急响应策略。 6.跨部门协调（如GA、安全运营、法务、数据），确保策略与业务目标对齐，并推动规模化应用。 7.跟踪行业法规和最佳实践，保障产品符合国内外安全与伦理标准。

1.负责vivo AI产品（蓝心小v，圈搜，影像等）的内容安全策略制定，链路设计/优化，产品功能建设，对AI类产品内容安全大盘的风险和体验负责； 2.能够使用大模型能力，与算法团队配合，提升业务安全水平和安全团队运营效率； 3.较强的横向沟通、协调能力，能够拉通协同公司各职能（合规、品质、业务方）制定合理的安全度量、验收流程。

1、负责抖音AI搜索业务的安全舆情工作，具备风险诊断能力，与运营一起制定质量标准与策略，输出完整的风险治理产品方案，推进研发团队开发落地，为舆情结果负责； 2、深入理解AI搜业务和能力，做好业务发展与风险的平衡、关注用户体验，产出高质量的策略方案； 2、与算法和公关紧密合作，持续推进舆情风险识别、处置能力及相关工具优化，提高风险发现和处理效率。

1、为AI对话型产品的流量安全负责，识别恶意机刷/测试流量并建设处置方案，保障底层模型的成本可控、数据安全； 2、深入了解业务发展方向和逻辑，了解底层模型与上层产品之间的调用场景和业务逻辑，保障风险类型认知不断扩充，风险敞口系统可监控，规避绕过风控机制的情况发生； 3、根据新业务不同发展阶段，综合业务增长需求和风险情况，进行深度数据分析和指标监测，制定风控策略在当前阶段的平衡方案并可以合理化解释归因。