阿里巴巴AI推理平台-AI 高性能计算专家-大模型推理
任职要求
1. 计算机、电子工程或相关专业本科及以上学历，对计算机体系结构有深刻理解。 2. 拥有深厚的GPU/NPU/XPU高性能计算优化经验，精通至少一种异构计算平台及编程模型（如CUDA, ROCm, OpenCL, SYCL, CANN等）。 3. 熟悉现代AI模型（特别是Transformer架构）中关键算子的计算原理和优化方法。 具备以下至少…
工作职责
我们是阿里巴巴大模型推理团队，负责内部 LLM/AIGC 百炼推理服务建设，为淘宝、天猫、聚划算、优酷、闲鱼等多个集团业务部门提供强有力的技术支撑和底层服务能力。 AI 高性能计算工程师负责探索不同AI芯片（NV，AMD, 华为昇腾, TPU, 寒武纪等）的底层架构，使用硬件手写原生 Kernel、 Trition/Tilelang 编译优化等手段，解决“从0到1”（跑通）和“从1到N”（跑得快）的关键问题。 工作地点：北京、杭州，未来会开放「上海」工作地点，现阶段支持员工根据团队安排部分时间在上海办公，详情可与hr或面试官沟通。
我们是阿里巴巴大模型推理团队，负责生成式AI领域（主要是图像生成和LLM）的内部产品、训练推理服务系统建设和维护，为淘宝、天猫、聚划算、优酷、闲鱼等多个集团业务部门提供强有力的技术支撑和底层服务能力。 1. 针对特定异构芯片（如华为昇腾、AMD MI系列等），深入分析其指令集、存储层级（HBM/Cache）和计算单元特性，使用原生语言（如CANN C/C++, HIP C++）手写和优化核心算子（如Attention, MoE Gate, GEMM等），实现极致性能。 2. 主导或核心参与基于编译技术的算子优化方案，利用Triton、TileLang、JAX/MLIR等技术栈，构建一套可跨硬件复用的算子生成与图优化框架，大幅缩短新卡型或新模型的适配周期。 3. 使用专业的Profiling工具，对模型在异构硬件上的端到端性能进行分析，精准定位Kernel执行、数据搬运、通信等环节的瓶颈，并提出体系化的优化方案。 4、工作地点：北京、杭州，未来会开放「上海」工作地点，现阶段支持员工根据团队安排部分时间在上海办公，详情可与hr或面试官沟通。
搜集审核整车各个用电器的负载特性，负载参数， 包括且不限于如静态电流，启动电流，inrush 电流，电容参数等，并支持各个参数需求验证闭环。 参与低压电源架构各个组件设计， 如DCDC变换器， 低压电池，电子保险丝，保险丝盒等，支持定义各个验证roadmap/test case 及问题解决验证闭环。 支持整车低能耗设计及管理， 承接顶层需求， 比如静态里程衰减等， 根据现有电器架构能力，设计低功耗方案， 并将功耗目标分解到各个零件， 支持各个零件的低功耗设计，形成验证闭环的roadmap，并推动相关验证闭环问题解决。 支持整车power 相关系统设计， 如整车上下电逻辑， 整车power 健康度管理及报警，确保整车各个场景的电源可用性及用电安全。 支持Power架构前沿技术研究分析，如安全冗余形态研究，电压等级演进研究（48V），电源器件最新技术的使用研究，以实现整车轻量化，低能耗，低成本，高安全等综合性能述求。 支持Power 相关新技术对标分析。
本团队涉及如下方面的工作：（工作内容可以根据候选人专业特长安排） 1. 多模态模型的推理功能开发和性能优化，包括对Qwen-3.6、Qwen-3.7、Qwen-VL、Qwen-Audio、Qwen-Omni等多模态输入/输出模型的功能支持和推理性能优化。 2. 分布式推理架构的研发，包括多机推理架构设计，P/D分离、A/F分离、VL模型分离架构、WideEP、ElasticEP等功能研发与落地。 3. 推理引擎服务化，包括推理引擎如何接入线上服务平台，自动扩缩容和可观测性的适配，以及提升线上服务稳定性。 4. NPU/GPU各类算子、kernel开发、算子融合、Compiler的开发等。
本岗位隶属于我们是阿里巴巴大模型推理团队，团队负责集团内部大语言模型 AI Infra推理系统建设和维护，为淘宝、天猫、聚划算、优酷、闲鱼等多个集团业务部门提供强有力的技术支撑和底层服务能力。AI 性能工程师工作内容包括但不限于： 1. 参与大模型推理系统的研发，聚焦于推理框架与各种类型异构硬件的适配和性能优化工作。 2. 实现各类型“卡-模型”匹配度的自动化观测，指导资源调度策略，评估新硬件引入价值。 3. 线上服务的监控与问题定位，加速大模型能力在集团内落地。 如果您是一位后端研发工程师，具有丰富的性能优化经验，希望投身于AI Infra事业又苦于缺少相关经历，也欢迎投递本岗位，我们更看重您的学习和解决问题的能力！