阿里巴巴AI推理平台-AI 性能研发工程师-杭州/北京
任职要求
● 计算机及相关专业背景，扎实的计算机基础知识，精通Python/Java中至少一门语言。 ● 具有1年以上分布式系统或后端服务系统相关工作经验，具备复杂系统软件的设计和调试能力。 ● 熟悉主流深度学习框架（PyTorch/TensorFlow），了解大模型推理技术栈（如 vLLM, TensorRT-LLM, TGI, O…
工作职责
本岗位隶属于我们是阿里巴巴大模型推理团队，团队负责集团内部大语言模型 AI Infra推理系统建设和维护，为淘宝、天猫、聚划算、优酷、闲鱼等多个集团业务部门提供强有力的技术支撑和底层服务能力。AI 性能工程师工作内容包括但不限于： 1. 参与大模型推理系统的研发，聚焦于推理框架与各种类型异构硬件的适配和性能优化工作。 2. 实现各类型“卡-模型”匹配度的自动化观测，指导资源调度策略，评估新硬件引入价值。 3. 线上服务的监控与问题定位，加速大模型能力在集团内落地。 如果您是一位后端研发工程师，具有丰富的性能优化经验，希望投身于AI Infra事业又苦于缺少相关经历，也欢迎投递本岗位，我们更看重您的学习和解决问题的能力！
本团队涉及如下方面的工作：（工作内容可以根据候选人专业特长安排） 1. 多模态模型的推理功能开发和性能优化，包括对Qwen-3.6、Qwen-3.7、Qwen-VL、Qwen-Audio、Qwen-Omni等多模态输入/输出模型的功能支持和推理性能优化。 2. 分布式推理架构的研发，包括多机推理架构设计，P/D分离、A/F分离、VL模型分离架构、WideEP、ElasticEP等功能研发与落地。 3. 推理引擎服务化，包括推理引擎如何接入线上服务平台，自动扩缩容和可观测性的适配，以及提升线上服务稳定性。 4. NPU/GPU各类算子、kernel开发、算子融合、Compiler的开发等。
我们是阿里巴巴大模型推理团队，负责生成式AI领域（主要是图像生成和LLM）的内部产品、训练推理服务系统建设和维护，为淘宝、天猫、聚划算、优酷、闲鱼等多个集团业务部门提供强有力的技术支撑和底层服务能力。 1. 针对特定异构芯片（如华为昇腾、AMD MI系列等），深入分析其指令集、存储层级（HBM/Cache）和计算单元特性，使用原生语言（如CANN C/C++, HIP C++）手写和优化核心算子（如Attention, MoE Gate, GEMM等），实现极致性能。 2. 主导或核心参与基于编译技术的算子优化方案，利用Triton、TileLang、JAX/MLIR等技术栈，构建一套可跨硬件复用的算子生成与图优化框架，大幅缩短新卡型或新模型的适配周期。 3. 使用专业的Profiling工具，对模型在异构硬件上的端到端性能进行分析，精准定位Kernel执行、数据搬运、通信等环节的瓶颈，并提出体系化的优化方案。 4、工作地点：北京、杭州，未来会开放「上海」工作地点，现阶段支持员工根据团队安排部分时间在上海办公，详情可与hr或面试官沟通。
我们是阿里巴巴大模型推理团队，负责内部 LLM/AIGC 百炼推理服务建设，为淘宝、天猫、聚划算、优酷、闲鱼等多个集团业务部门提供强有力的技术支撑和底层服务能力。 AI 高性能计算工程师负责探索不同AI芯片（NV，AMD, 华为昇腾, TPU, 寒武纪等）的底层架构，使用硬件手写原生 Kernel、 Trition/Tilelang 编译优化等手段，解决“从0到1”（跑通）和“从1到N”（跑得快）的关键问题。 工作地点：北京、杭州，未来会开放「上海」工作地点，现阶段支持员工根据团队安排部分时间在上海办公，详情可与hr或面试官沟通。
本团队涉及如下方面的工作：（工作内容可以根据候选人专业特长安排） 1. 多模态模型的推理功能开发和性能优化，包括对Qwen-3.6、Qwen-3.7、Qwen-VL、Qwen-Audio、Qwen-Omni等多模态输入/输出模型的功能支持和推理性能优化。 2. 分布式推理架构的研发，包括多机推理架构设计，P/D分离、A/F分离、VL模型分离架构、WideEP、ElasticEP等功能研发与落地。 3. 推理引擎服务化，包括推理引擎如何接入线上服务平台，自动扩缩容和可观测性的适配，以及提升线上服务稳定性。 4. NPU/GPU各类算子、kernel开发、算子融合、Compiler的开发等。