vivoAI内容安全策略产品经理

1.负责vivo AI产品（蓝心小v，圈搜，影像等）的内容安全策略制定，链路设计/优化，产品功能建设，对AI类产品内容安全大盘的风险和体验负责； 2.能够使用大模型能力，与算法团队配合，提升业务安全水平和安全团队运营效率； 3较强的横向沟通、协调能力，能够拉通协同公司各职能（合规、品质、业务方）制定合理的安全度量、验收流程。

1、策略体系设计： 负责社区内容安全策略的整体规划与设计，覆盖评论、回答、文章等内容形态；设计多维度风险召回策略（主动管控、举报、高热等），建立统一的负向分类标准和风险等级体系。 2、策略优化迭代： 与算法团队深度合作，基于数据分析制定大模型识别方案，通过 PE/RAG/Workflow 等技术持续优化策略的召回率、准确率、漏放率等核心指标；推进 AI 技术在内容安全领域的深度应用，平衡安全治理与用户体验。 3、跨团队协作： 与运营、法务、算法、数据等团队高效协同，确保策略符合国家法规要求和平台社区价值观；参与重大安全事件的应急响应与策略预案制定。

1、负责可灵业务安全策略规划与设计，搭建覆盖模型输入、生成、输出全链路的安全指标体系，明确风险量化标准与优化目标； 2、抽象AIGC场景的安全需求，主导安全策略平台化建设，提供可复用的策略服务与配置能力，支撑业务快速迭代； 3、建立安全问题分类体系、实时监控机制及闭环分析流程，结合用户使用场景、模型能力边界，推动安全策略持续迭代优化，降低风险发生率； 4、平衡业务安全与用户体验，协同算法、研发、运营等跨团队推进策略落地，解决落地过程中的跨部门协同问题，确保策略有效落地； 5、跟踪AIGC领域安全技术趋势与合规要求，输出安全风险评估报告，推动安全能力升级，提升业务口碑及用户安全体验。

1、安全策略设计与落地： 深入分析AI游戏、UGC等业务场景，识别潜在的内容与交互风险。 产出严谨的策略文档，明确定义不同场景下的安全标准与AI行为规范，并建立可量化的安全指标体系。 2、模型对齐与数据治理： 主导制定并迭代安全数据标注规范，为标注团队提供清晰、可执行的指引。 负责对标注数据进行质量审核与反馈，建立闭环优化机制，确保用于模型训练（SFT/RLHF）的数据源头高质量、高一致性。 3、风险监控与应急响应： 建立并维护风险监控体系，通过数据分析主动发现潜在的安全问题与策略漏洞。 作为问题响应的核心推动者，负责组织跨团队资源，进行根因分析，并推动解决方案的快速落地。 4、策略平台化建设： 抽象多场景下的共性安全需求，主导安全策略平台化建设，将通用安全能力抽象为可复用、可配置的模块化服务，提升整体安全策略的部署效率与一致性。 行业洞察与前瞻研究： 5、持续追踪全球生成式AI的安全技术、合规政策与行业最佳实践，进行前瞻性研究，并转化为对内可落地的策略建议与风险预警。