阿里巴巴日常实习生-大模型安全-未来生活实验室
任职要求
1.计算机、人工智能、信息安全等相关专业硕士及以上学历在读； 2.熟悉自然语言处理、深度学习基本原理，有大模型（如LLaMA、ChatGLM等）使用经验者优先； 3.具备良好的编程能力（Python、PyTorch/TensorFlow…
工作职责
1.参与大语言模型的安全性研究，识别模型在实际应用中的潜在风险； 2.协助设计和实现针对提示攻击、生成内容合规性、对抗样本检测等方面的防御机制； 3.跟踪前沿大模型安全技术，包括但不限于红队测试、安全评估框架、隐私保护等； 4.搭建实验环境，进行系统性测试与评估，输出研究报告或技术文档； 5.与团队协作，支持产品级安全能力的落地与优化。
1.负责智能体运行时安全评测体系的构建，围绕真实工具调用（Function Call）、多步任务执行、跨系统交互等Agent场景，设计并实现行为级安全评测框架，覆盖提示词注入、工具滥用、权限越界、执行链异常等风险维度 2.负责智能体行为轨迹的判读与分析能力建设，构建面向Agent执行过程的轨迹回放、意图识别、异常检测与归因分析工具链，支撑多轮交互与多步执行场景下的风险定位与溯源 3.负责智能体场景下的防御SDK设计与开发，沉淀运行时拦截、行为约束、安全沙箱、工具调用鉴权等防御组件，为业务侧接入Agent能力提供标准化的安全防护方案 。 4.参与大模型内生安全对齐训练，覆盖通用合规、越狱防御及智能体场景下的交互风险，沉淀安全奖励模型（Safety RM）、高质量数据构建链路及训练策略等安全组件和方法论，探索模型内生能力与外部防御的协同方案； 5.参与大模型幻觉治理研究，涵盖评测方法、内生加固与外层检测机制，重点关注多轮交互及工具调用场景中的事实一致性与推理可靠性问题。
1、应用RAG、CoT、Agent等LLM技术，优化安全产品的智能化功能，提升模型输出质量和系统效率； 2、协助大模型微调、部署和测试； 3、配合团队进行技术调研，整理相关文档或报告。
1、负责大模型安全运营工作，包括大模型内容安全、大模型系统安全； 2、负责大模型安全策略体系、应急响应机制、安全标准体系、大模型安全风险指标体系建设。 3、协同AI安全部算法、工程、产品，构建大模型安全运营体系； 4、与京东内部大模型应用方协同，推动大模型安全能力落地各京东大模型应用场景。
我们正在构建下一代具备自主软件安全分析能力的大模型——能够独立发现操作系统、浏览器及关键基础设施中长达数十年未被检出的零日漏洞，并在无人工干预的情况下生成可执行的漏洞利用链。 核心职责 - 负设计并执行面向软件漏洞发现的大模型训练流程，包括预训练数据构造、指令精调与 RLHF/RLAIF； - 研究提升模型在二进制分析、源码审计、模糊测试指导等安全任务上推理能力的方法； - 构建并维护 Agentic 安全评估框架，设计覆盖 CVE 复现、零日发现、漏洞利用链生成的基准测试集； - 与红队工程师协作，对模型的进攻性能力进行双用途风险评估与控制； - 研究长上下文代码推理、跨文件调用链分析、符号执行辅助等关键技术；