阿里巴巴研究型实习生-大模型Agent能力后训练
任职要求
1. 具备大模型相关领域的研发经验，熟悉Qwen等主流大模型架构、具备丰富的模型训练优化经验及LLM Agent、Agent RL等大模型训练技术。 2. NLP/多模态/ML相关专业背景，博士在读，具有扎实的机器学习或大模型算法基…
工作职责
专注于Model-as-Agent后训练，并重点从以下技术方向进行深入研究： 1. Tool - 幻觉抑制及知识信息的精准生成。核心解决Extrinsic hallucination：例如模型调用外部工具（数据库查询、Web 检索、RAG等）时产生错误查询、误解释或忽略结果。 2. Model - Model as Agent的能力增强。构建Agent训练数据 + 沙盒环境 + API工具集 + Verifier的完整数据训练方案，解决Agent后训练中奖励稀疏和信用合理分配的问题。 3. Scaling - 在test time阶段通解决模型agent推理时学习增强的scaling问题，解决长上下文、长期状态管理记忆等关键问题。
我们致力于打造淘宝直播场景下“高智商、高情商”的下一代智能数字人主播，通过大模型 + 智能体（Agent） + 强化学习（RL） 的深度融合，构建具备自主决策、实时互动与高转化能力的直播AI系统。你将参与以下前沿探索： 1. 大模型与Agentic RL的协同训练范式研究：探索高效Agentic RL算法（样本效率、奖励函数设计、多智能体协作等）； 2. 多模态Agent研究：融合视觉（商品/表情/动作）、语音、文本等多源信号，通过多模态强化学习优化Agent行为策略； 3. 构建基于Agentic RL的数字人决策引擎：设计可自主调用商品工具、垂域多模态知识库查询工具、控制话术、响应观众意图的智能体架构，实现动态控场、个性化互动与高效转化； 4. 研究基于RL等算法的自主进化Agent； 5. 产出高质量学术论文和专利。
我们正在寻找对大模型系统优化充满热情的优秀在读学生，参与大模型后训练阶段（Post-Training）关键系统与架构的前沿研究。你将深度参与千亿级大模型在强化学习训练、推理效率、训推分离架构、智能体（Agent）系统等方面的系统级优化工作，探索高MFU、低延迟、高吞吐的下一代AI基础设施。 如果你热爱系统与AI的交叉领域，希望在真实超大规模场景中打磨技术，欢迎加入我们，与顶尖研究者和工程师共同推动大模型系统的技术边界！ 研究方向与实习内容： 你将从以下四个核心方向中选择1-2个深入参与，开展系统性研究与工程实现： 1. 后训练 MFU（Model FLOPs Utilization）优化 研究SFT、RLHF、DPO等后训练任务中的计算效率瓶颈； 设计高MFU的训练策略与系统支持，优化计算密度（如序列填充、混合批次、梯度累积等）； 探索算力利用率提升路径，结合通信、显存、计算进行端到端建模与优化。 2. 强化学习推理框架优化 针对RLHF中大量采样推理的需求，优化推理延迟与吞吐（如Speculative Decoding、KV Cache复用、动态批处理）； 设计轻量、高效的推理引擎，支持多轮对话、长上下文、流式生成等复杂场景； 探索训练-采样协同优化，降低推理端对训练整体效率的制约。 3. 强化学习训推分离架构优化 构建解耦的“训练-采样”系统架构，支持高并发采样与异步训练更新； 研究采样集群与训练集群之间的资源调度、数据同步与负载均衡机制； 实现弹性扩缩容、故障恢复、版本管理等系统能力，提升整体稳定性与可扩展性。 4. Agent 框架优化与系统支撑 研究面向复杂任务的Agent执行框架，优化工具调用、状态管理、多步规划的系统性能； 构建低延迟、高并发的Agent运行时环境，支持大规模仿真与自动评估； 探索Agent工作流的可复现性、可观测性与调试支持，提升研发效率。
1. 跟进和研发大规模语言模型（LLM）的预训练、持续训练、SFT、RLHF 等技术； 2. 跟进多模态的大模型（vLLM）预训练、SFT、RLHF等技术； 3. 研发基于大模型的淘宝问问助手、ChatBot、检索增强、Code、Longchain等下游应用； 4. 结合以上方向的探索和研究，撰写发表论文，和业界、学术界保持良好的交流。
专注于大规模分布式文生视频/文生图推理系统的研究、探索和开发，具体职责包括： 探索高性能、可扩展的分布式 DiT 推理引擎，支持大规模文生视频/文生图场景的高效部署； 深入优化高性能算子、运行时、分布式策略等，打造业界领先的DiT推理引擎； 分析现有引擎和典型负载的性能瓶颈，提出并实现创新的优化技术； 针对文生视频/文生图等重点场景，构建业界领先的优化解决方案。