小米大模型安全能力研究员-MiMo
任职要求
岗位要求 - 计算机、网络安全等相关方向硕博学历以上，具备 CTF 参赛经历或漏洞挖掘实战经验； - 熟悉大模型训练全链路（预训练、SFT、RLHF） - 具备扎实的系统编程能力（C/C++/Rust 其一） - 了解软件漏洞原理，如缓冲区溢出、UAF、逻辑…
工作职责
我们正在构建下一代具备自主软件安全分析能力的大模型——能够独立发现操作系统、浏览器及关键基础设施中长达数十年未被检出的零日漏洞，并在无人工干预的情况下生成可执行的漏洞利用链。 核心职责 - 负设计并执行面向软件漏洞发现的大模型训练流程，包括预训练数据构造、指令精调与 RLHF/RLAIF； - 研究提升模型在二进制分析、源码审计、模糊测试指导等安全任务上推理能力的方法； - 构建并维护 Agentic 安全评估框架，设计覆盖 CVE 复现、零日发现、漏洞利用链生成的基准测试集； - 与红队工程师协作，对模型的进攻性能力进行双用途风险评估与控制； - 研究长上下文代码推理、跨文件调用链分析、符号执行辅助等关键技术；
1、设计面向云安全场景（入侵检测、自动化渗透、合规审计）的大模型评测体系，定义“懂安全的 AI”量化标准； 2、落地自动化攻击算法，构建红蓝智能体对抗环境，持续挑战 AI 极限，评估其接管复杂防御决策的资质； 3、深入研究并创新应用 Claude、OpenAI评测框架等前沿技术，构建云安全领域的评测标杆； 4、探索多智能体对抗、自动化反馈强化学习等技术，实现评测结果直接驱动模型进化的闭环系统。
1.负责智能体运行时安全评测体系的构建，围绕真实工具调用（Function Call）、多步任务执行、跨系统交互等Agent场景，设计并实现行为级安全评测框架，覆盖提示词注入、工具滥用、权限越界、执行链异常等风险维度 2.负责智能体行为轨迹的判读与分析能力建设，构建面向Agent执行过程的轨迹回放、意图识别、异常检测与归因分析工具链，支撑多轮交互与多步执行场景下的风险定位与溯源 3.负责智能体场景下的防御SDK设计与开发，沉淀运行时拦截、行为约束、安全沙箱、工具调用鉴权等防御组件，为业务侧接入Agent能力提供标准化的安全防护方案 。 4.参与大模型内生安全对齐训练，覆盖通用合规、越狱防御及智能体场景下的交互风险，沉淀安全奖励模型（Safety RM）、高质量数据构建链路及训练策略等安全组件和方法论，探索模型内生能力与外部防御的协同方案； 5.参与大模型幻觉治理研究，涵盖评测方法、内生加固与外层检测机制，重点关注多轮交互及工具调用场景中的事实一致性与推理可靠性问题。
1、应用RAG、CoT、Agent等LLM技术，优化安全产品的智能化功能，提升模型输出质量和系统效率； 2、协助大模型微调、部署和测试； 3、配合团队进行技术调研，整理相关文档或报告。
1、负责大模型安全运营工作，包括大模型内容安全、大模型系统安全； 2、负责大模型安全策略体系、应急响应机制、安全标准体系、大模型安全风险指标体系建设。 3、协同AI安全部算法、工程、产品，构建大模型安全运营体系； 4、与京东内部大模型应用方协同，推动大模型安全能力落地各京东大模型应用场景。