阿里云阿里云智能-AI集群资源效能优化专家-上海/杭州/北京
任职要求
1. 熟悉深度学习框架(pytorch)，分布式训练和推理技术框架(如deepseed、fsdp、megatron、vllm、sglang）； 2. 熟悉AI集群资源效能的性能分析工具（如Nsight、PyTorch Profiler等）； 3. 具备性能建模…
工作职责
1. 负责灵骏集群的AI集群资源效能性能分析与优化，支持客户多个AI作业场景在不同平台芯片和多种集群规模下的适配和性能调优，能快速且以工具/产品化方式识别性能瓶颈并提出解决方案； 2. 针对主流深度学习框架、分布式训练和模型部署场景等，进行性能调优，优化算子性能、通信性能、内存利用率等关键指标，提升集群整体运行效率； 3. 对AI集群资源效能进行性能建模与仿真，建立Roofline模型等性能分析工具。通过仿真结果辅助系统设计和资源分配，为集群建设提供数据支持；同时推荐最佳训练和模型部署配置，辅助用户拿到最佳性能实践； 4. 负责开发和维护性能分析工具，支持系统性能监控、瓶颈定位和优化效果评估，提供性能分析报告，为团队和客户提供性能优化建议。
我们正在寻找具备深厚技术功底、前瞻性视野和丰富实战经验的DevOps平台工程专家，加入我们致力于构建智能化研发基础设施的核心团队。在这里，你将主导下一代AI驱动的Devops平台与智能运维系统的设计与落地，推动软件研发流程向自动化、可观测性、自愈能力和数据驱动决策全面进化。 作为团队的技术骨干，你将： 1. 设计打造企业级智能化运维（AIOps）体系 基于Python、Go等语言，构建自动化运维工具链与平台化能力，实现基础设施即代码（IaC）；引入异常检测、根因分析、故障传播图谱等AI算法，提升系统可观测性与故障响应速度，推动运维从“被动响应”向“主动预防”转变。 2. 构建全链路智能监控与自愈系统 设计并落地覆盖应用、服务、资源的端到端监控体系，集成Prometheus、Grafana、ELK、OpenTelemetry等主流技术栈；结合时序预测（LSTM、Prophet）、无监督异常检测（Isolation Forest、One-Class SVM）等模型，实现性能瓶颈预警、自动诊断与部分场景的闭环自愈。 3. 推动MLOps与DevOps深度融合 主导机器学习模型训练流水线（ML Pipeline）与模型服务化（Model Serving）平台建设，设计模型版本管理、A/B测试、流量灰度、监控告警与快速回滚机制，支撑AI能力高效、稳定地规模化落地。
大模型具备很强的泛化及理解世界能力，在小红书内的众多生产场景遍地开花，大模型的训练和部署已成为许多算法工程师的日常。在多团队、多业务频繁使用的大规模GPU集群上，如何能够通过高效的GPU调度策略，使大家不仅能丝滑地完成训练及部署任务，同时也能充分激发大规模GPU集群的效能，是行业公认的关键挑战。在这里，你可以聚焦LLM场景，接触到超大规模GPU集群，并使用真实负载数据进行深入分析及技术探索。欢迎加入我们，一起探索领先技术改变世界！ 工作职责： 1、负责万卡规模GPU集群效能分析及优化，通过调度策略优化、在离线混部、集群调度、GPU虚拟化、故障快速恢复、存储&网络加速等手段，提升大规模GPU集群的整体使用效率。 2、负责构建面向大模型训练、微调、推理、部署全流程LLMOps，与下游云原生平台深度融合，支撑大模型在公司内各业务生产链路稳定高效地落地。 3、持续关注业界最新的GPU资源调度相关技术动态，探索建设业界领先的资源调度策略及方法，构建下一代大规模AI资源调度系统。
● 负责PAI平台资源调度模块的设计与开发，全面支撑模型训练、评估及推理阶段的资源调度需求。 ● 负责GPU、CPU 及其他异构硬件资源的统一编排与高效调度，实现对稳态资源、潮汐资源、混部资源以及多云环境下资源的合理分配与协同利用。 ● 聚焦资源复用与集群利用率提升，结合大模型场景中预训练、后训练、离线推理、评估等任务的负载特征，优化排队策略、优先级管理与抢占机制，最大化整体资源效能。 ● 构建端到端的故障可观测体系，针对训练/推理任务中频发的软硬件异常（如 GPU XID 错误、网络超时、节点失联等），完善日志、指标、事件的采集与关联分析能力，实现问题快速定位与根因追溯。 ● 研发智能诊断与自动容错机制，基于历史故障模式与运行时上下文，开发自动化诊断引擎，支持动态降级、局部重试、弹性扩缩容等策略，减少人工干预，提升作业自愈能力。 ● 打造训练过程可视化与用户体验闭环，建设面向用户的训练状态看板，直观呈现任务健康度、资源使用、通信瓶颈及异常告警，并提供可操作建议，降低使用门槛，加速问题反馈与迭代优化。
通义实验室工程团队致力于打造面向公众与企业的大规模、高性能在线 AI 服务平台，支撑了通义千问、通义万相及多种开源先进模型的在线服务，并推动 AI Agents、多模态应用、MCP 等前沿技术的产品化落地。团队持续攻克异构 GPU 资源调度、多模型多地域部署、多模态任务统一推理、多样化服务等级保障（SLO），以及模型推理全链路工程化的关键挑战，不断提升资源效能和系统的性能、稳定性。 1、结合LLM技术，设计和优化RAG全链路的基础架构，提升系统的吞吐能力和响应速度； 2、构建高性能，可扩展的分布式文件处理和索引构建系统，承载海量文档的知识库的索引和检索需求； 3、规划和优化检索集群，通过合理的分片，资源分配等策略降低延迟提高吞吐，针对业务场景进行服务优化； 4、建立完善的系统监控，日志分析和trace平台，能快速定位和解决系统问题。