米哈游内容安全策略专家（AI方向）
任职要求
1、3年及以上AI大模型内容安全、合规或风控相关工作经验，有头部AI企业相关经验者优先。 2、深入理解生成式AI原理，熟悉多模态大模型的风险检测等相关技术，具备安全策略设计与落地能力。 3、熟悉内容安全相关法律法规及行业规范，具备敏锐的风险预判能力，能快速识别并应对大模型新…
工作职责
1、负责搭建公司AI大模型内容安全防控体系，制定内容安全标准、风险管控策略及落地方案，保障大模型输出合规、安全。 2、负责大模型价值观与安全对齐，配合技术团队设计模型优化方案，防控生成内容中的不良导向、违规信息等风险，提升模型安全稳健性。 3、跟踪AI行业安全动态、政策法规及新型风险，挖掘大模型安全隐患，输出风险评估报告并推动迭代优化，建立风险预警机制。 4、对接算法、运营、法务等相关部门，推动安全策略落地执行，负责内容安全相关标准的更新、同步及配套设施维护。 5、处理AI大模型内容安全应急事件，制定应急处置流程，降低安全风险对业务的影响，确保大模型全场景安全应用。
1. 为AI产品/服务的内容安全防控结果负责，能够通过对业务场景的深度分析，制定适配的解决方案，并落地内容安全策略； 2. 通过定性、定量方法评估策略表现，进行策略迭代更新，不断提升内容安全效果； 3. 对内容有深刻理解和敏锐洞察，持续挖掘新增问题，并进行问题刻画，不断扩大策略覆盖面； 4. 设计合理的大模型安全防控链路，与技术协同推进落地； 5. 深刻理解AI合规要求，设计解决方案，并推动强制性合规要求落地。
1. 构建UGC违规样本数据体系（文本、图片、用户行为）； 2. 设计与维护数据加工流程（清洗、去噪、去重、标注、标签管理）； 3. 搭建AI训练数据回流系统（人工纠错 → 样本更新 → 模型优化）； 4. 建设内容风控指标体系（准确率、漏判率、错杀率、人工介入率）； 5. 支持AI模型评估、版本对比与效果复盘； 6. 构建可复用数据资产管理系统； 7. 设计及维护审核系统的数据底层支撑； 8. 配合策略专家沉淀高质量违规样本库。
1、负责规划和迭代安全技术平台，搭建更高效、稳定、可扩展的决策引擎、模型服务平台及研发工具链，为业务提供坚实的技术底座。 2、主导设计与优化以AI和数据驱动的防控方案，深度挖掘数据价值，推动决策流程的智能化和自动化升级。 3、负责持续优化系统应用架构，支持风控策略快速迭代、模型AB实验、多场景灵活配置的架构体系，提升算法工程效率。 4、参与设计千亿级数据毫秒级响应的实时决策架构，涉及优化分布式计算、流批一体数据处理、内存计算等关键技术路径，有效提升高并发场景下的性能。
1.策略设计与迭代： 深度参与DeepSeek模型在搜索、内容创作（创意/实用写作）、多模态、Agent等场景的应用。通过数据分析与用户行为洞察，制定模型优化策略，定义数据生产标准（SFT/RL），驱动模型效果（如准确性、有用性、安全性）持续提升； 2.评测体系构建： 设计科学、多维度的模型评测体系。主导构建内部测试集，制定人工评估与自动化评估标准，量化模型能力边界，对模型上线后的核心指标负责； 3.高质量数据建设： 负责后训练阶段的高质量语料挖掘与构建。针对特定领域（如医学、法律、小说创作）建立专家级的数据标注，确保训练数据的高质量供给。