阿里云阿里云智能-内容安全策略运营专家-上海
任职要求
1. 本科及以上学历优先，工作有激情，有自驱力、学习力强，对内容安全事件敏感度高； 2. 具备独立数据分析能力，有逻辑性，熟练掌握 SQL 技能，能交付业务分析报告； 3…
工作职责
1. 深入理解企业客户的大模型应用场景和功能，输出安全解决方案，以商业化标准交付客户需求； 2. 按照大模型监管的法律法规、技术标准，完成大模型应用场景的日常安全运营，为安全和体验的业务结果负责，持续进行评估与改进。同时，运营动作需要规范化，定期向客户输出审计报告； 3. 完成主管机关发起的大模型合规检查、指令处置工作； 4. 和产研、算法团队深度合作，通过评测、外层护栏、安全运营平台产品等各类能力，提升安全水位。
1、设计质量评估体系： 主导设计并持续优化面向人审、机审、大模型交付质量的全局性评估指标体系、评估链路与校准机制； 2、深度分析与洞察：对机审误伤和漏放的质量问题进行根因分析，定位问题至规则、模型、流程或人为维度，明确问题根本原因并输出解决方案； 3、主导治理效果评估： 深度分析治理策略的VVR 等核心业务指标影响，从用户体验和商业价值维度评估治理动作的ROI，为战略决策提供依据。 4、闭环推动与协同： 主动协同并驱动治理产品、规则策略、算法模型、审核运营等多方团队，建立高效的质量问题发现、定位、解决、复盘的全链路闭环机制。确保数据洞察转化为具体的产品功能迭代、规则优化、模型Retrain或流程改进，并对最终效果负责。
1.负责建设内容安全策略防控体系，设计贴合业务的解决方案，平衡业务影响的前提下，保障内容安全生态健康。 2.负责建设内容安全算法能力，持续供给有害内容识别算子并持续运营，为解决方案提供支持。 3.推动内安内容理解策略算法能力建设，将内安标准标签拆解为可解释、可复用的识别算子并持续运营。 4.负责推进大语言模型、Agent在内容安全审核与运营工作中应用，协同产研改造审核链路，探索新工作范式并持续运营。
1. 负责平台治理中心内容安全、商品合规和知识产权保护的工具产品体系规划、设计和落地实施； 2. 主导风控工具平台的需求分析、产品设计和迭代优化，并协调策略、研发、算法、运营、审核等职能团队，推动产品开发与运营流程的落地实施； 3. 持续跟进业内风控产品技术发展，结合业务需求建设新的风控能力，完善部门的风控基础能力建设； 4. 保证风控平台产品的相关用户体验，提高用户的产品满意度；
1、负责笔记生态负向整体水位的监控和分析，通过准确有价值的归因，解读生态演进趋势，协同治理团队开展相关风险治理； 2、负责笔记用户负反馈机制的运营，包括但不限于内容投诉举报、账号投诉、作者申诉等，从机制、规则、审核等各方面系统化的对负反馈链路进行完善； 3、建立问题发现机制，和生态治理、审核交付等业务团队紧密协同，从生态全局视角持续挖掘新增问题，提出业务建议； 4、参与笔记生态各类标签建设，以质量、垂类等方式对内容进行刻画分层，协同算法模型团队产出生态标签。