阿里巴巴大模型安全对齐与智能体安全防护-阿里星

实习兼职阿里巴巴2027届实习生2026-05-11地点：北京 | 杭州状态：招聘

扫码手机上打开

任职要求

1.计算机、数学、人工智能、网络安全等相关专业硬士及以上学历，3年以上算法研发或安全研发经验，有智能体安全、系统安全、大模型安全或偏好对齐领域背景者优先；
2.精通Python/C++/Java/Go中至少一门语言，具备扎实的数据结构、算法基础及工程化能力，熟悉深度学习框架 或 安全工具链开发经验；
3.具备以下一项或多项经验者优先：智能体场景的行为评测与基准构建、Agent执行轨迹的判读…

登录查看完整任职要求

微信扫码，1秒登录

工作职责

1.负责智能体运行时安全评测体系的构建，围绕真实工具调用（Function Call）、多步任务执行、跨系统交互等Agent场景，设计并实现行为级安全评测框架，覆盖提示词注入、工具滥用、权限越界、执行链异常等风险维度
2.负责智能体行为轨迹的判读与分析能力建设，构建面向Agent执行过程的轨迹回放、意图识别、异常检测与归因分析工具链，支撑多轮交互与多步执行场景下的风险定位与溯源
3.负责智能体场景下的防御SDK设计与开发，沉淀运行时拦截、行为约束、安全沙箱、工具调用鉴权等防御组件，为业务侧接入Agent能力提供标准化的安全防护方案 。 
4.参与大模型内生安全对齐训练，覆盖通用合规、越狱防御及智能体场景下的交互风险，沉淀安全奖励模型（Safety RM）、高质量数据构建链路及训练策略等安全组件和方法论，探索模型内生能力与外部防御的协同方案；
5.参与大模型幻觉治理研究，涵盖评测方法、内生加固与外层检测机制，重点关注多轮交互及工具调用场景中的事实一致性与推理可靠性问题。

📮 投递简历 ✨AI模拟面试

难度：

包括英文材料

学历+

算法+

智能体+

大模型+

Python+

C+++

还有更多 •••

登录查看完整学习资料

相关职位

蚂蚁数字科技-大模型算法实习生（安全对齐方向）

实习日常实习

1.负责行业/领域大模型算法能力研发，包括但不限于安全对齐、安全围栏、幻觉检测、隐私保护等，满足内外部客户对内容安全、抑制模型幻觉、模型性能提升、智能体安全的需求； 2.深入研究大模型相关技术，跟进业务最新趋势，包括benchmark构建、CoT数据合成、模型微调与强化学习等方面，建设公司在领域的影响力。

北京|杭州

大模型安全实习生(MJ032780)

实习技术团队系统安全

1、应用RAG、CoT、Agent等LLM技术，优化安全产品的智能化功能，提升模型输出质量和系统效率； 2、协助大模型微调、部署和测试； 3、配合团队进行技术调研，整理相关文档或报告。

更新于 2026-01-21上海

大模型安全运营

社招2年以上安全工程师岗

1、负责大模型安全运营工作，包括大模型内容安全、大模型系统安全； 2、负责大模型安全策略体系、应急响应机制、安全标准体系、大模型安全风险指标体系建设。 3、协同AI安全部算法、工程、产品，构建大模型安全运营体系； 4、与京东内部大模型应用方协同，推动大模型安全能力落地各京东大模型应用场景。

更新于 2026-02-05北京

大模型安全能力研究员-MiMo

社招A41838

我们正在构建下一代具备自主软件安全分析能力的大模型——能够独立发现操作系统、浏览器及关键基础设施中长达数十年未被检出的零日漏洞，并在无人工干预的情况下生成可执行的漏洞利用链。核心职责 - 负设计并执行面向软件漏洞发现的大模型训练流程，包括预训练数据构造、指令精调与 RLHF/RLAIF； - 研究提升模型在二进制分析、源码审计、模糊测试指导等安全任务上推理能力的方法； - 构建并维护 Agentic 安全评估框架，设计覆盖 CVE 复现、零日发现、漏洞利用链生成的基准测试集； - 与红队工程师协作，对模型的进攻性能力进行双用途风险评估与控制； - 研究长上下文代码推理、跨文件调用链分析、符号执行辅助等关键技术；

更新于 2026-04-10北京