米哈游内容安全策略专家（AI方向）
任职要求
1、3年及以上AI大模型内容安全、合规或风控相关工作经验，有头部AI企业相关经验者优先。 2、深入理解生成式AI原理，熟悉多模态大模型的风险检测等相关技术，具备安全策略设计与落地能力。 3、熟悉内容安全相关法律法规及行业规范，具备敏锐的风险预判能力，能快速识别并应对大模型新…
工作职责
1、负责搭建公司AI大模型内容安全防控体系，制定内容安全标准、风险管控策略及落地方案，保障大模型输出合规、安全。 2、负责大模型价值观与安全对齐，配合技术团队设计模型优化方案，防控生成内容中的不良导向、违规信息等风险，提升模型安全稳健性。 3、跟踪AI行业安全动态、政策法规及新型风险，挖掘大模型安全隐患，输出风险评估报告并推动迭代优化，建立风险预警机制。 4、对接算法、运营、法务等相关部门，推动安全策略落地执行，负责内容安全相关标准的更新、同步及配套设施维护。 5、处理AI大模型内容安全应急事件，制定应急处置流程，降低安全风险对业务的影响，确保大模型全场景安全应用。
1、负责事前安全问题发现、规则制定和运营，能够有效针对底线问题做定义和识别，并分别协同审核、策略、算法、产研等团队高效执行; 2、负责事中安全应急流程设计与维护，明确定义高风险内容，搭建完善的应急处置链路，横向跨域联动各治理团队确保及时有效地解决风险; 3、负责事后安全事件复盘和有效性评估，从案例中提炼总结深层洞察和待优化点，定期输出分析报告，并横向推进产研、策略、算法、审核等团队落地解决。
1、负责快手视频安全全流程治理工作，结合大模型应用经验，基于用户理解、风险研判及业务痛点，制定从问题发现、标准体系建设、识别处置到效果监控的全流程治理机制与策略； 2、完善安全运营系统，牵头设计核心治理策略产品，优化治理链路、策略体系及运营流程机制，解决视频场景下复杂治理问题（如各类问题变种、跨场景问题等），保障问题内容治理高效、彻底； 3、负责事前安全问题发现、事中安全标准体系搭建与治理策略运营，通过标准化运营手段，确保底线问题定义和策略打法的合理性，对落地执行结果负责；同时应对突发风险（如舆情事件、违规内容爆发），输出应急策略方案，保障风险解决与社区治理工作有序推进； 4、深挖业务痛点，及时发现治理链路问题，横向跨域联动算法、产研、审核等相关团队，推动治理策略产品与安全项目落地，跟踪执行效果并结合数据复盘持续迭代优化； 5、负责策略治理相关工作，建立健全策略迭代机制，结合大模型能力优化治理效率，确保治理策略的科学性、适用性和落地性，保障产品内容安全与社区生态健康。
1. 深入理解企业客户的大模型应用场景和功能，输出安全解决方案，以商业化标准交付客户需求； 2. 按照大模型监管的法律法规、技术标准，完成大模型应用场景的日常安全运营，为安全和体验的业务结果负责，持续进行评估与改进。同时，运营动作需要规范化，定期向客户输出审计报告； 3. 完成主管机关发起的大模型合规检查、指令处置工作； 4. 和产研、算法团队深度合作，通过评测、外层护栏、安全运营平台产品等各类能力，提升安全水位。
1、根据内容安全、广告法、业务质量等要求，结合广告业务特性进行风险分析，设计适配业务发展要求的解决方案并推动落地； 2、基于业务海量图、文、音、视等内容，和用户行为、关系等数据，结合多模态内容理解认知，研发综合解决方案，解决实际业务问题； 3、保障业务运行过程中风险内容理解功能的稳定运行，并能设计体系化的响应、迭代、升级方案，保证方案全生命周期的稳定性； 4、拥抱当前AI发展前沿，探索多模态大模型技术，通过研发领域大模型、AI Agent、Copilot等技术，推动大模型在业务上的应用落地。