小米小爱Agent安全专家
任职要求
1. 学历：本科及以上，计算机、信息安全等相关专业，硕士优先 2. 经验：8年以上安全领域经验，5年以上团队管理经验，有从0到1搭建10人以上安全团队的经历 3. 技术深度：精通Web/移动端/服务端/IoT安全攻防，深入了解大模型安全风险（越狱、Prompt注入、数据投毒等）及防御方案； 4. AI安全实战：熟悉大模型开发流程及智能体架构， 对基模安全、Prompt注入防御、越狱攻击防护、安全审核、模型…
工作职责
1. 安全核心团队组建：以虚拟团队筹建安全专家组，为agent安全问题定义，目标制定和路标看护负责； 协同数据专家、算法专家、系统软件专家一起制定可落地的端到端安全能力规划和目标分解 2. 安全架构设计：主导小爱全链路的安全防护体系设计，覆盖应用安全、数据安全、内容安全、业务安全、网络安全、Agent安全等； 熟知行业标杆解决方案的前提下，结合业务现状，要给出系统的长期能力构建的方案。 3. AI安全能力建设：针对大模型推理、智能体执行等场景，建立基模安全、Prompt注入防御、越狱攻击防护、安全审核、模型安全评测、红蓝对抗等核心能力； 对儿童、陪伴、UIAgent、出海等一系列的重点场景，进行安全能力构建和治理 4. 安全基础设施：推动安全工具链、自动化检测平台、DevSecOps工具链建设，实现安全能力自动化与智能化 5. 风险治理与合规：建立漏洞管理与应急响应机制，推动《生成式AI管理办法》《个保法》等合规落地，完成算法备案与安全评估 6. 跨团队协同与行业影响力：与研发、产品、法务深度协同推动"安全左移"；代表小米参与行业安全标准制定
1. 安全策略体系搭建：负责小米内部AIGC生成业务特别是小爱同学业务的安全策略产品规划，建立覆盖输入-生成-输出全链路的安全防控体系，持续迭代审核标准与策略规则。 2. 基座模型安全治理：参与基座大模型安全评估与对齐工作，包括安全评测体系设计、Red Teaming、安全边界定义，推动模型安全能力提升。 3. 安全价值观对齐：主导安全价值观对齐工作，制定安全偏好标准，协同算法团队完成RLHF/DPO对齐训练的数据标注规范与效果评估。 4. 安全模型自研落地：主导安全侧自研模型的策略规划与产品化落地，包括内容安全分类、Prompt注入防御、幻觉检测等模型，推动从0到1建设。 5. 多模态与Agent安全：覆盖文本/图像/视频/音频全模态安全策略，制定AI Agent行为边界策略与Tool调用安全规范，防范新型安全风险。 6. 安全风险运营闭环：搭建风险发现→研判→刻画→标准执行完整运营机制，基于数据驱动与badcase分析持续迭代策略。 7. 跨团队协同与合规：与算法、工程、法务、合规等团队协作推动策略落地，跟踪国内外AIGC安全法规与前沿动态，确保业务合规。
1、负责车载端智能助手终端的整体体验，深入理解用户使用场景，定义智能助手的整体交互框架，横向拉通核心功能在车端落地的规范。 2、负责车载智能助手中长期产品规划与创新探索，结合AI技术发展趋势和用户场景演进，识别重点场景机会，规划下一代智能助手体验方向 3、负责推动车载智能助手整体功能落地后的体验评估体系建设、质量运营及持续优化，保障用户体验和产品竞争力。
1. 监管合规支持 1）协助完成算法备案、大模型服务备案等监管备案工作 2）跟踪国内外AI领域法律法规动态（如《生成式人工智能服务管理暂行办法》《算法推荐管理规定》等），整理政策解读 3）协助准备监管检查材料、撰写合规说明文档 2.隐私与数据合规 1）参与产品隐私梳理，协助完成个人信息保护影响评估（PIA） 2）协助梳理数据流向，维护数据资产台账 3）配合完成隐私政策、用户协议等文本的审核与更新 3.日常合规运营 1）协助内容安全策略的合规性审查 2）整理合规案例库，输出合规培训材料 3）配合完成其他日常合规事务
1. 负责小爱语音助手多语言产品方向能力建设，包括海外英语、国内的多种方言能力； 2. 深入理解目标市场的用户需求，发现并解决语音助手在本地化过程中的问题，包括语言翻译错误、功能适配性问题等。 3. 与产品、技术团队紧密合作，推进问题的解决，确保产品质量的持续提升。 4. 收集和分析目标市场用户的需求和反馈，为产品的迭代和优化提供数据支持和建议。 5. 跟踪最新的语音助手技术趋势，为产品的创新和差异化提供策略建议。