阿里巴巴日常实习生-大模型后训练/Agentic算法（行为风控方向）
任职要求
1、硕士研究生及以上在读，计算机、人工智能、软件工程、信息安全、统计、数学等相关专业； 2、具备大模型、强化学习、Agent相关科研、项目或实习经验，复合能力较强者优先； 3、了解业务风控相关场景者优先，包括作弊、欺诈、账号安全、恶意行为等；有日志、行为序列、图数据处…
工作职责
岗位面向行为风控这一高度复杂且动态对抗的业务场景，支持反爬、作弊、欺诈、账号安全、恶意行为等核心风控业务，聚焦大模型后训练与Agentic等前沿技术，探索下一代智能风控基座和行为域基模解决方案。 1、参与行为域数据体系建设：面向行为风控场景中的结构化、序列化、图表化等数据，参与数据处理、任务构建和评测方案设计；探索面向结构化数据的大模型后训练方法，参与行为特色“世界模型”的研究与验证。 2、参与强化学习方案设计：围绕行为风控中的复杂任务，参与Reward System、RL后训练、复杂决策、自我博弈等方向的研究与实验；协助推进全链路情报分析与风险决策能力的建模和优化。 3、参与Agent训练环境和方案构建：面向行为分析、识别、挖掘、链路还原、路径推演等场景，参与可扩展Agent训练环境的设计、搭建与迭代；支持复杂任务下Agent能力评测、训练数据构造和效果分析。 4、参与技术探索与效果分析：跟进大模型后训练、RLHF、Agent、世界模型等方向的前沿研究；结合业务场景，参与实验设计、结果分析和方案迭代，推动研究成果向真实业务问题靠近。
1、参与大模型安全评测体系的设计与建设，围绕内容安全、价值观对齐与越狱攻击等方向，搭建多维度、多场景、多语种的系统化评测方案，推动模型安全能力的量化分析与行业评估标准的完善。 2、参与大模型安全评测数据集构建与维护，覆盖通用风险、垂直领域风险及长尾风险等场景，探索基于红队对抗（Red Teaming）、自动化Prompt生成、合成数据等技术的高质量评测样本生产方案。 3、参与基于LLM-as-a-Judge的自动化评判方法研究与落地，探索评判模型的偏差校准、不确定性量化及与人类标注一致性提升的关键技术路径，构建可信、可解释的安全评测闭环。 4、参与自动化安全评测工具链与评测平台的研发与迭代，沉淀可复用的评测Pipeline与Judge模型能力，提升评测效率、覆盖度与结果一致性，支撑大模型版本迭代过程中的安全回归与持续监控。 5、跟踪国内外大模型安全评测、AI Safety Benchmark、Red Teaming 等前沿研究进展，复现相关论文与开源方案（如HarmBench、JailbreakBench、SafetyBench等），推动研究成果在实际评测场景中的落地应用。
1. 协助团队开展大模型核心应用的评测算法研发工作，参与benchmark构建和评测框架搭建工作； 2. 参与构建和扩充高质量的评测数据集，协助打通线上/线下benchmark沉淀链路； 3. 辅助研发和调优基于 LLM-as-a-Judge 的自动化评测体系，提升评测指标的置信度与对齐率； 4. 参与自动化评测及竞品横评中的 Badcase 归因，为算法模型迭代提供数据支撑与优化建议； 5. 跟踪大模型评测领域（LLM Evaluation、RAG Evaluation）的前沿技术与开源框架，协助整理技术资料并探索创新评测方案。
1、参与大模型端到端安全评测体系建设，围绕内容安全、对抗鲁棒性、越狱攻击、防御有效性等方向设计并执行系统化评测方案，推动模型安全能力量化与评估标准完善。 2、参与大模型隐层表征风险感知能力研究，构建面向风险识别/安全判别的内部表征分析框架，探索模型在不同语义空间下的风险感知与决策机制。 3、参与大模型可解释性与模型探针（Model Probing）研究与落地，基于探针技术分析模型内部知识编码、风险表征分布及安全行为形成机制，提升模型安全决策透明度与可解释能力。 4、参与面向语言理解及多模态理解场景的低侵入式插件化原生安全围栏算法研发，探索轻量、高效、可插拔的安全防护机制，提升大模型原生安全能力与部署灵活性。 5、参与大模型原生安全增强技术的探索与落地，研究以低侵入、最小打扰方式提升目标模型解码阶段安全性的关键技术路径，在保障模型安全性的同时平衡生成质量与用户体验。 6、跟踪国内外大模型安全、模型可解释性及 Runtime Safety Alignment等前沿研究进展，复现相关论文与开源方案，推动研究成果在实际业务场景中的落地应用。
1.参与大语言模型的安全性研究，识别模型在实际应用中的潜在风险； 2.协助设计和实现针对提示攻击、生成内容合规性、对抗样本检测等方面的防御机制； 3.跟踪前沿大模型安全技术，包括但不限于红队测试、安全评估框架、隐私保护等； 4.搭建实验环境，进行系统性测试与评估，输出研究报告或技术文档； 5.与团队协作，支持产品级安全能力的落地与优化。