阿里巴巴智能引擎-PostTrain框架研发工程师-AI Infra
任职要求
1. 有扎实的工程算法基础,精通数据结构和常用算法,熟练掌握GDB / Nsight等调试和性能分析工具。精通Python、C/C++语言; 2. 精通PyTorch / Megatron-LM等业界主流深度学习引擎内核,精通ROLL / VeRL / Slime等强化学习框架实现者优先,精通vLLM / SGLang / TensorRT-LLM等大模型推理引擎优化者优先; 3. 有大模型分布式训练经验者,对训练系统…
工作职责
我们关注大模型后训练系统,为提升智能体能力上限、AIGC应用提供算力基座,加入我们迎接以下挑战: 1. 支持百亿~万亿规模的稠密 / MoE大模型的强化学习训练,实现多种对齐算法,增强大模型对齐人类模态、数学、代码、推理等方面的能力 2. 极致的通过5D并行训练、推理加速、训推一体复用等技术,与前沿的强化学习算法团队和阿里硬件团队进行协同设计,在前沿异构系统上实现高效的大规模(千卡以上)强化学习训练 3. 使用强化学习、蒸馏、量化等后训练技术,在AIGC、实时生成等场景达到极致的模型效果-性能平衡点; 4. 将成熟的系统与算法成果发表于顶会,并回馈开源社区(如 ROLL),持续提升在学术界与产业界的影响力 5. 支持业界前沿的LLM、多模态、图/视频生成模型在AI创新场景的业务落地。
我们关注大规模分布式模型训练系统,服务于阿里巴巴核心业务场景,包括但不限于以下职责: 1. 性能优化:结合分布式系统、高性能计算、异构计算和编译优化,探索性能边界,分析和解决超大规模分布式计算的核心问题; 2. 框架研发:以淘天、海外等超大规模训练场景为抓手,研发和优化稀疏+稠密统一训练框架,参与开源共建; 3. 算法协同:深入工程和算法协同,结合大规模推荐、大语言、多模态算法,探索适合业务的创新训练范式。
通过技术创新支持阿里集团大模型研发快速迭代,主要工作内容和挑战如下: 1. 建设大规模强化学习的环境平台,增强大模型对齐Coding&Agentic等方面的能力。 2. 结合强化学习框架,优化强化学习效率,实现高效的大规模强化学习训练。 3. 建设覆盖各个领域场景的真实和仿真环境,支持大规模评测和Agentic后训练。 4. 将成熟的系统与算法成果发表于学术会议,并回馈开源社区(如 ROCK和ROLL等),持续提升在学术界与产业界的影响力。
1. 多模态/世界模型训推架构:负责万亿参数多模态理解、多模态生成模型、世界模型分布式训推框架的设计和实现。通过5D并行策略、细粒度显存优化、通信计算Overlap等手段,实现多模态场景高效的预训练/后训练Pipeline。 2. 模型联合的深度算子优化:结合多模态理解生成场景,通过算子融合,定制Attention、MoE等算子,并达到SOTA的训推MFU。 3. 模型加速工程:使用蒸馏、量化、剪支等加速技术,在AIGC、实时生成等场景达到极致的模型效果-性能平衡点。 4. AI创新应用落地支撑:作为算力基座的核心支撑,支持行业顶尖的多模态生成模型在 AI 创新应用场景的业务落地,解决工业级大模型训练中的迭代基建问题,确保模型从训练到应用的顺畅衔接。