阿里云阿里云智能-AI工程系统性能优化专家-北京/杭州
任职要求
1. 熟悉深度学习框架、分布式训练和推理技术框架(如deepseed、fsdp、megatron、vllm、sglang）； 2. 熟悉AI系统的性能分析工具（如Nsight、PyTorch Profiler等）； 3. 具备一定算子开发能力，包括CUDA/Triton高性能算子设计、算子融合及混合精度优化，以支撑混合精度训推加速优化等关键场景； 4. 熟悉多模态生成式AI场景性能优化以及具备国产化芯片性能调优经验者优先。
工作职责
1. 负责灵骏集群的AI系统性能分析与优化，支持多类型客户多个AI作业场景在不同平台芯片和多种集群规模下的适配和性能调优，能快速且以工具/产品化方式识别性能瓶颈并提出解决方案； 2. 参与主流训练和推理框架的调优开发，优化分布式训练和推理引擎的底层实现；构建性能调优工具链，降低算法工程师的优化门槛； 3. 开发高性能CUDA/Triton算子，优化计算密集型任务（如矩阵乘法、Attention机制）。
1、技术方案设计 • 参与云产品管控系统的架构升级和优化工作，根据管控系统的稳定性、性能、安全等目标设计相应的技术方案，并明确方案目标、范围和交付成果； • 基于需求进行技术可行性分析和方案评审，结合当前的技术架构进行合适的技术选型和功能设计。完成技术架构和数据架构设计，并推进开发流程。 2、技术实现 • 基于技术方案的拆解，按照任务目标和产出规范，完成任务/子任务的设计、编码开发和系统功能实现； • 对编码进行阶段性的讨论和CodeReview，完成功能测试和性能测试，推动代码成功部署； • 对开发中和部署后的程序进行必要的维护和迭代，包括值班oncall、bug排查、问题诊断、产品体验改善、性能和成本优化等； • 编写技术文档，如操作手册、故障排除指南、API文档等，以支持日常答疑运维工作。 3、安全、稳定、效率和性能优化 • 通过数据分析，稳定性研究和性能测试，持续推动升级和优化云产品管控架构，实现高可用、高性能的管控系统； • 运用产品优化技术和方法，实现安全保障和优化系统性能，提高阿里云产品管控安全性，同时帮助客户提效，给客户更好的体验。 4、技术预研 • 跟踪和了解国内外云计算技术和分布式计算技术的发展和趋势，结合业务实际需要提供有效的技术支持和架构建议。 5、技术规划 • 理解业务重点，基于业务需求做出高可用、高可靠、高拓展性的技术架构规划和落地。
1、技术方案设计 • 收集、识别、分析平台设计目标及管理需求，围绕资源管理平台确定相应技术方案的目标、范围和交付成果； • 基于需求分析，进行技术可行性分析和方案评审，结合当前的技术架构进行合适的技术选型、功能设计、技术架构、数据架构和开发流程等。 2、技术实现 • 基于技术方案的拆解，按照任务目标和产出规范，完成任务/子任务的设计、编码开发和系统功能实现； • 负责核心功能的架构与代码模板的编写，开发与维护资源管理平台核心业务模块，优化程序性能等； • 对编码进行阶段性的讨论和CodeReview，并通过调试优化，推动代码成功部署； • 对开发中和部署后的程序进行必要的维护和迭代，包括值班oncall、bug排查、问题诊断、产品体验改善、性能和成本优化等； • 编写技术文档，如操作手册、故障排除指南、API文档等，以支持日常答疑运维工作。 3、安全、稳定、效率和性能优化 • 运用产品优化技术和方法，实现安全保障和优化系统性能，提高平台系统安全性及客户使用体验。 4、技术预研 • 跟踪和了解国内外资源管理平台技术发展和趋势，结合业务实际需要提供有效的技术支持和架构建议。 5、技术规划 • 理解业务重点，基于业务需求作出高可用、高可靠、高拓展性的技术架构规划和落地。
1. 负责算力引入的前置测试，主要包含整机压测，部件性能测试，多机训练/推理单集群多品牌机器混部场景测试。 2. 负责算力引入GPU软硬件结合的疑难故障&性能问题分析和解决。 3. 负责GPU压测，监控，故障诊断工具开发和优化。 4. 负责主流模型和应用在新异构系统上的性能评测和分析。 5. 负责分析大规模LLM在训练和推理中面临的的AI异构硬件系统瓶颈，提出面向未来的AI异构系统架构建议，以支撑更高效的LLM扩展。
我们正在寻找一位充满激情、经验丰富的高级技术专家，加入我们的创新团队，共同面对并解决在Serverless GPU和AI应用平台领域中的挑战性问题。 1.负责Serverless计算及AI应用托管平台的架构设计与持续优化。包括异步事件处理、GPU资源调度与弹性伸缩，AI 应用和模型托管等核心功能的设计。保障系统的高可用性、可扩展性和安全性。 2.理解业务战略及重点，并进行相应的技术架构规划并推动落地。能够为开发团队提供专业的技术指导和支持。推动分布式系统、AI应用托管等领域的知识共享和技术创新。 3.深入分析系统性能瓶颈，实施有效的优化策略，提高系统响应速度和资源使用效率。 4.加强与产品、开发、运维等部门的合作，确保技术方案的有效实施，克服项目推进中的各种障碍。 5.为关键客户提供技术支持，针对使用Serverless平台过程中出现的难题给予及时有效的解决方案，维护良好的产品体验。