vivoAI内容安全策略产品经理

1.负责vivo AI产品（蓝心小v，圈搜，影像等）的内容安全策略制定，链路设计/优化，产品功能建设，对AI类产品内容安全大盘的风险和体验负责； 2.能够使用大模型能力，与算法团队配合，提升业务安全水平和安全团队运营效率； 3较强的横向沟通、协调能力，能够拉通协同公司各职能（合规、品质、业务方）制定合理的安全度量、验收流程。

1、安全策略设计与落地： 深入分析AI游戏、UGC等业务场景，识别潜在的内容与交互风险。 产出严谨的策略文档，明确定义不同场景下的安全标准与AI行为规范，并建立可量化的安全指标体系。 2、模型对齐与数据治理： 主导制定并迭代安全数据标注规范，为标注团队提供清晰、可执行的指引。 负责对标注数据进行质量审核与反馈，建立闭环优化机制，确保用于模型训练（SFT/RLHF）的数据源头高质量、高一致性。 3、风险监控与应急响应： 建立并维护风险监控体系，通过数据分析主动发现潜在的安全问题与策略漏洞。 作为问题响应的核心推动者，负责组织跨团队资源，进行根因分析，并推动解决方案的快速落地。 4、策略平台化建设： 抽象多场景下的共性安全需求，主导安全策略平台化建设，将通用安全能力抽象为可复用、可配置的模块化服务，提升整体安全策略的部署效率与一致性。 行业洞察与前瞻研究： 5、持续追踪全球生成式AI的安全技术、合规政策与行业最佳实践，进行前瞻性研究，并转化为对内可落地的策略建议与风险预警。

1、负责抖音AI搜索业务的安全舆情工作，具备风险诊断能力，与运营一起制定质量标准与策略，输出完整的风险治理产品方案，推进研发团队开发落地，为舆情结果负责； 2、深入理解AI搜业务和能力，做好业务发展与风险的平衡、关注用户体验，产出高质量的策略方案； 2、与算法和公关紧密合作，持续推进舆情风险识别、处置能力及相关工具优化，提高风险发现和处理效率。

职位概述 作为小红书Trust-and-Safety团队核心成员，负责制定生成式大模型相关安全防护和内容治理策略，保障生成式应用的安全合规性，优化AIGC内容在平台上的检测和标识。 主要职责 1.负责生成式大模型安全防护产品策略的规划、设计和迭代，包括Safety Alignment、发prompt injection、反model jailbreak、风险生成内容过滤和实时检测机制。 2.负责设计多模态 AIGC 安全检测体系（文本/图像/视频），覆盖违规内容识别、伪造判定、真实度评估、深度伪造检测、模型生成技术追踪等方向。 3.持续跟踪和分析当前生成式AI技术的发展趋势，收集相关信息，并推动防御手段的更新和升级，以确保系统的安全性。 4.协同算法与研发团队，推动AIGC检测技术落地，优化防护效果和性能指标。 5.监控大模型安全态势，分析潜在风险，制定预防性和应急响应策略。 6.跨部门协调（如GA、安全运营、法务、数据），确保策略与业务目标对齐，并推动规模化应用。 7.跟踪行业法规和最佳实践，保障产品符合国内外安全与伦理标准。