阿里巴巴智能引擎-多模态/世界模型基础架构研发工程师/高级专家-AI Infra
任职要求
1. 计算机相关专业背景，有极佳的工程实现能力，精通 C/C++ 与 Python；具备扎实的数据结构与算法功底，熟练掌握 GDB / Nsight 等调试与性能分析工具。 2. 对大模型训推框架，以及其中的并行优化技术的原理有深刻的理解，有大模型分布式训练工程经验者优先。 3. …
工作职责
1. 多模态/世界模型训推架构：负责万亿参数多模态理解、多模态生成模型、世界模型分布式训推框架的设计和实现。通过5D并行策略、细粒度显存优化、通信计算Overlap等手段，实现多模态场景高效的预训练/后训练Pipeline。 2. 模型联合的深度算子优化：结合多模态理解生成场景，通过算子融合，定制Attention、MoE等算子，并达到SOTA的训推MFU。 3. 模型加速工程：使用蒸馏、量化、剪支等加速技术，在AIGC、实时生成等场景达到极致的模型效果-性能平衡点。 4. AI创新应用落地支撑：作为算力基座的核心支撑，支持行业顶尖的多模态生成模型在 AI 创新应用场景的业务落地，解决工业级大模型训练中的迭代基建问题，确保模型从训练到应用的顺畅衔接。
我们是 HappyHorse 推理工程团队，聚焦行业顶尖的多模态理解和生成模型在 AI 创新应用场景的推理落地，涵盖从推理架构设计、全链路服务编排到性能极致优化的全栈技术挑战。 主要工作内容如下： 1. 架构设计：负责跨模态理解与生成的多模态模型HappyHorse 推理平台的架构设计与演进，支持多模态模型从算法实验到大规模生产环境的工程落地； 2. 产品需求迭代：深度参与产品需求讨论，将复杂的业务逻辑转化为高效可扩展的推理框架功能； 3. 框架迭代：负责推理服务流水线（Pipeline）的构建，包括前后处理、多模型编排、高并发请求调度以及容错机制； 4. 可观测性：构建面向AIGC的监控、报警和自动化部署体系，确保大规模推理集群在高负载下的高可用性和低延迟响应。
我们是阿里巴巴离线推理团队，负责大规模多模态数据处理pipeline，支持非LLM的模型结构定制、异构卡型适配和推理加速。与千问、百炼等团队合作，以软件和SAAS的方式，为淘天、AIDC、高德、优酷、闲鱼等多个集团业务部门提供强有力的技术支撑和底层服务能力。 1. 主导或核心参与基于编译技术的算子平台化优化方案，利用Triton、TileLang、JAX/MLIR等技术栈，支持模型结构的定制与优化，缩短新卡型或新模型的适配周期。 2. 使用专业的Profiling工具，对模型在异构硬件上的端到端性能进行分析，精准定位Kernel执行、数据搬运、通信等环节的瓶颈，并提出体系化的优化方案。 3. 针对特定异构芯片（如华为昇腾、AMD MI系列等），深入分析其指令集、存储层级（HBM/Cache）和计算单元特性，使用原生语言手写和优化核心算子，实现极致性能。
我们关注大规模分布式模型训练系统，服务于阿里巴巴核心业务场景，包括但不限于以下职责： 1. 性能优化：结合分布式系统、高性能计算、异构计算和编译优化，探索性能边界，分析和解决超大规模分布式计算的核心问题； 2. 框架研发：以淘天、海外等超大规模训练场景为抓手，研发和优化稀疏+稠密统一训练框架，参与开源共建； 3. 算法协同：深入工程和算法协同，结合大规模推荐、大语言、多模态算法，探索适合业务的创新训练范式。
通过技术创新支持阿里集团大模型研发快速迭代，主要工作内容和挑战如下： 1. 建设大规模强化学习的环境平台，增强大模型对齐Coding&Agentic等方面的能力。 2. 结合强化学习框架，优化强化学习效率，实现高效的大规模强化学习训练。 3. 建设覆盖各个领域场景的真实和仿真环境，支持大规模评测和Agentic后训练。 4. 将成熟的系统与算法成果发表于学术会议，并回馈开源社区（如 ROCK和ROLL等），持续提升在学术界与产业界的影响力。