小米小爱同学安全策略产品专家

任职要求

1. 学历：本科及以上，计算机科学、信息安全、人工智能等相关专业优先。
2. 经验：5年以上内容安全/AI安全/策略产品相关经验，有大模型或AIGC安全领域经验者，特别是车载/IoT端侧大模型、跨境多语言内容安全合规经验、安全大模型（Llama Guard、ShieldGemma等）评测或适配经验优先。
3. 基模安全能力：熟悉LLM安全风险体系（有害内容、Prompt注入、越狱、数据泄露、幻觉等），有基座模型安全评测与Safety Alignment实际经验。
4. 安全策略能力：具备内容审核策略制定与…

工作职责

1. 安全策略体系搭建：负责小米内部AIGC生成业务特别是小爱同学业务的安全策略产品规划，建立覆盖输入-生成-输出全链路的安全防控体系，持续迭代审核标准与策略规则。
2. 基座模型安全治理：参与基座大模型安全评估与对齐工作，包括安全评测体系设计、Red Teaming、安全边界定义，推动模型安全能力提升。
3. 安全价值观对齐：主导安全价值观对齐工作，制定安全偏好标准，协同算法团队完成RLHF/DPO对齐训练的数据标注规范与效果评估。
4. 安全模型自研落地：主导安全侧自研模型的策略规划与产品化落地，包括内容安全分类、Prompt注入防御、幻觉检测等模型，推动从0到1建设。
5. 多模态与Agent安全：覆盖文本/图像/视频/音频全模态安全策略，制定AI Agent行为边界策略与Tool调用安全规范，防范新型安全风险。
6. 安全风险运营闭环：搭建风险发现→研判→刻画→标准执行完整运营机制，基于数据驱动与badcase分析持续迭代策略。
7. 跨团队协同与合规：与算法、工程、法务、合规等团队协作推动策略落地，跟踪国内外AIGC安全法规与前沿动态，确保业务合规。