阿里云阿里云智能-异构计算软硬件结合开发专家-杭州/深圳
任职要求
1. 具备扎实的工程能力，精通C++和Python等编程语言，熟悉 sglang/vLLM等主流LLM推理框架优化的技术。 2. 熟悉主流AI加速芯片的系统结构、指令集和计算特性，具备异构计算硬件下的开发和性能优化经验。 …
工作职责
1.负责分析硬件加速特征与内部拓扑结构，设计硬件优化实践和调优方案，并主导优化实现，充分发挥硬件潜能，确保性能符合预期。 2.结合主流LLM推理框架 (如sglang/vLLM) 和 大模型结构及计算特征，设计面向框架性能分析和优化插件并主导实现。 3.提供场景化的定制优化能力，识别并解决大模型在不同业务场景下的性能瓶颈，快速的给出满足需求的性能优化方案，并推动业务的交付应用。 4.洞悉大模型的发展趋势和硬件技术演进，结合软硬件优化的经验和数据，分析硬件的发展趋势，提炼AI硬件规格需求，形成软硬结合技术规划。
1. 针对整机柜服务器产品进行全面的计算、互联、监控等能力的全面赋能和开发； 2. 寻找适合于整机柜异构服务器产品的业务产品并进行对应的昆仑组件设计和开发，包含性能评测分析、容器镜像等 3. 针对整机柜硬件架构及业务落地场景，构建故障异常case并能设计故障诊断方案； 4. 负责跟踪及研究主流GPU架构设计技术，参与下一代AI Infra的设计； 5. 根据业务画像，构建有竞争力的异构硬件和系统全链路的量化分析，形成数据决策数据库；有效推动异构服务器产品的规划和落地。
1. 针对整机柜超节点服务器，全面赋能计算、互联、监控、故障及性能诊断等核心能力； 2. 梳理适配超节点异构服务器产品的业务场景，开展对应的昆仑组件设计与开发，涵盖性能评测分析、容器镜像等关键模块； 3. 基于整机柜硬件架构及典型业务落地场景，构建典型故障与异常案例库，并设计相应的故障诊断方案； 4. 负责跟踪与研究主流GPU架构设计技术，参与下一代AI Infra的规划与设计； 5. 结合业务画像，构建面向异构硬件与系统的全链路量化分析模型，形成数据驱动的决策数据库，有效推动异构服务器产品的规划与规模化落地。
1. 基于对目前主流AI芯片的深刻理解，分析硬件系统结构，提供软硬件优化实践和调优指南； 2. 了解市场上主流AI，大数据，HPC应用对异构计算系统设计的挑战，应用AI加速芯片，设计打造高效异构计算产品； 3. 聚焦异构资源在线性能分析，负责系统级性能分析和业务瓶颈定位，助力异构集群的极致稳定； 4. 实现异构计算基础设施serverless化，驱动异构云原生架构演进； 5. 洞悉人工智能及深度学习的应用发展趋势，参与下一代机器学习算力产品设计。
1. 负责不同机型的性能调优和稳定性验证，以保障线上运行的稳定性； 2. 负责异构系统的设计和研发，包括针对异构机器上服务的自适应调度、资源控制、性能优化等； 3. 负责OSS服务层特性的设计和研发，包括但不限于：针对高性能存储的架构开发，功能特性设计和优化，以及结合硬件系统特性进行系统优化等。