字节跳动机审模型运营专家-商业生态与安全

1.负责建设内容安全策略防控体系，包括感知/应急/洞察/机审/人审/处置各个环节，驱动内容安全防控良性循环； 2.推动内安内容理解策略算法能力建设，将内安标准标签拆解为可解释、可复用的识别算子并持续运营； 3.落地新业务场景防控策略部署，根据业务变化推动优化原有防控策略调整 4.负责建设内容安全核心数据资产，包括不限于领域知识图谱、细粒度样本库、黑产库，持续运营数据资产质量和规模； 5.沉淀分析思路与策略生产过程，提炼产品需求，并与相关团队协作推动自动化策略的落地。 6.紧跟国内外时事热点、了解新政策法律法规，分析解读相关政策、法律法规及其背后影响，结合新技术特点进行防控策略制定

1、设计质量评估体系： 主导设计并持续优化面向人审、机审、大模型交付质量的全局性评估指标体系、评估链路与校准机制。 2、深度分析与洞察：带领团队对误伤和漏放的质量问题进行根因分析，定位问题至规则、模型、流程或人为维度，明确问题根本原因并输出解决方案； 3、主导治理效果评估： 深度分析治理策略的VVR 等核心业务指标影响，从用户体验和商业价值维度评估治理动作的ROI，为战略决策提供依据。 4、闭环推动与协同： 主动协同并驱动治理产品、规则策略、算法模型、审核运营等多方团队，建立高效的质量问题发现、定位、解决、复盘的全链路闭环机制。确保数据洞察转化为具体的产品功能迭代、规则优化、模型Retrain或流程改进，并对最终效果负责。 5、团队与能力建设：负责组建、培养和管理一支高绩效的数据分析与策略运营团队，提升团队成员的业务洞察、数据分析和项目推动能力。将最佳实践沉淀为可复用的分析模型、工具产品和方法论，提升整个中台的质量评估效率；

1、负责笔记生态负向整体水位的监控和分析，通过准确有价值的归因，解读生态演进趋势，协同治理团队开展相关风险治理； 2、负责笔记用户负反馈机制的运营，包括但不限于内容投诉举报、账号投诉、作者申诉等，从机制、规则、审核等各方面系统化的对负反馈链路进行完善； 3、建立问题发现机制，和生态治理、审核交付等业务团队紧密协同，从生态全局视角持续挖掘新增问题，提出业务建议； 4、参与笔记生态各类标签建设，以质量、垂类等方式对内容进行刻画分层，协同算法模型团队产出生态标签。

1)负责跟踪大模型风控的趋势，输出政策解读、合规方案和合规策略，面向公司大模型内容提供合规咨询。 2)基于语言类、多模态类大模型风险防控要求，在大模型内生安全、外置防御、安全测评方面，设计风控策略并推动落地，确保安全与体验的平衡。 3)根据大模型AIGC内容安全管控要求和范围，结合业务特性进行风险评估，设计出适配业务发展需要的内容安全解决方案并推动落地。 4)通过数据分析、评测效果反馈，不断优化安全管控策略，提高大模型安全机审和人审防护质量。 5)与业务、法律、内容安全、GA等团队协作，确保大模型产品符合相关法律法规要求。 6)风险发生时快速应，协同产品技术团队，推动安全问题解决。