vivoAI内容安全策略产品经理

1.负责vivo AI产品（蓝心小v，圈搜，影像等）的内容安全策略制定，链路设计/优化，产品功能建设，对AI类产品内容安全大盘的风险和体验负责； 2.能够使用大模型能力，与算法团队配合，提升业务安全水平和安全团队运营效率； 3较强的横向沟通、协调能力，能够拉通协同公司各职能（合规、品质、业务方）制定合理的安全度量、验收流程。

1、负责抖音AI搜索业务的安全舆情工作，具备风险诊断能力，与运营一起制定质量标准与策略，输出完整的风险治理产品方案，推进研发团队开发落地，为舆情结果负责； 2、深入理解AI搜业务和能力，做好业务发展与风险的平衡、关注用户体验，产出高质量的策略方案； 2、与算法和公关紧密合作，持续推进舆情风险识别、处置能力及相关工具优化，提高风险发现和处理效率。

职位概述 作为小红书Trust-and-Safety团队核心成员，负责制定生成式大模型相关安全防护和内容治理策略，保障生成式应用的安全合规性，优化AIGC内容在平台上的检测和标识。 主要职责 1.负责生成式大模型安全防护产品策略的规划、设计和迭代，包括Safety Alignment、发prompt injection、反model jailbreak、风险生成内容过滤和实时检测机制。 2.负责设计多模态 AIGC 安全检测体系（文本/图像/视频），覆盖违规内容识别、伪造判定、真实度评估、深度伪造检测、模型生成技术追踪等方向。 3.持续跟踪和分析当前生成式AI技术的发展趋势，收集相关信息，并推动防御手段的更新和升级，以确保系统的安全性。 4.协同算法与研发团队，推动AIGC检测技术落地，优化防护效果和性能指标。 5.监控大模型安全态势，分析潜在风险，制定预防性和应急响应策略。 6.跨部门协调（如GA、安全运营、法务、数据），确保策略与业务目标对齐，并推动规模化应用。 7.跟踪行业法规和最佳实践，保障产品符合国内外安全与伦理标准。

-熟悉B端业务，独立负责重点客户项目的全周期管理，涵盖需求沟通、任务拆解、POC响应、项目实施推进等，保障项目签约和高质量交付 -负责AI内容审核产品的日常迭代，能独立完成产品功能设计、需求拆解、协同UX/研发/测试团队、版本验收等日常工作，把控迭代全流程 -观测业务数据、分析疑难case、制定审核规则、构建评测集，协助策略团队完成模型迭代和效果评估，提升产品核心竞争指标 -持续跟踪内容安全行业的发展趋势，定期开展竞品调研分析，参与产品建设的规划与决策 -持续关注大模型技术在内容审核领域的应用，不断跟进大模型技术的发展，推动大模型技术与产品的深度融合