阿里巴巴基础设施与稳定性工程-AI容器与Agent沙箱研发工程师-杭州
任职要求
● 扎实的操作系统 / 计算机体系结构功底，熟悉Linux内核相关技术知识； ● 熟悉容器运行时（runc / containerd / kata）、虚拟化（KVM / QEMU / Firecracker 等）； ● 熟悉 Go / Rust / C / C++ 中至少一门； ● 有大规模、高可用分布式系统开发经验者优先； ● 良好的沟通能力和团队合作精神，有一定的组织协调能力； 加分项 1. …
工作职责
面向阿里集团内部业务提供容器及沙箱基础服务，支撑集团内部大模型训练、推理、Agent等工作workload形态，服务ATH、淘天、闪购、国际化等各个业务BU。 ● 负责面向AI-Agent、Faas等场景构建安全隔离、轻量、高性能的沙箱运行时环境，提供极致启动性能及极低成本； ● 负责面向AI大模型训推、AI研发等场景构建GPU相关运行时/沙箱环境，为训练、推理、开发提供安全可靠、多样化的运行环境； ● 负责Pouch/Containerd/Runc等组件的开发与维护，负责集团镜像大规模分发加速，保障容器基础设施的稳定可靠交付；
面向阿里集团内部业务提供AI Infra容器网络、服务网络等技术支持，支撑集团内部大模型训练、推理、Agent等工作workload形态，服务ATH、淘天、闪购、国际化等各个业务BU。 ● 负责面向异构/多云等 AI 计算环境构建统一的 K8s 容器网络，支持 RDMA 高性能通信，保障大规模训练与推理场景的网络性能与稳定性； ● 负责容器网络的轻量化多租隔离能力建设，支撑 AI 业务、传统业务的统一部署； ● 负责面向 Agent 场景提供安全、高效的沙箱网络技术； ● 负责 CoreDNS、kube-proxy 等云原生网络服务的建设与优化，提升 K8s Service 的可用性与性能；
构建面向大规模AI集群的GPU微架构采集、性能剖析与优化决策系统，建设集群的性能分析、瓶颈定位、故障诊断等核心能力。 1. 针对NVIDIA、AMD、国产GPGPU等多厂商芯片，设计并实现规模化、无侵入的kernel级采集工具链和微架构指标体系； 2. 构建AI continuous profiling系统，将GPU kernel数据与算子执行、框架调度、通信原语、CPU性能、高性能通信性能相关联，为全栈性能优化提供量化的性能瓶颈数据和画像系统； 3. 结合理论 Roofline 分析与 simulation 方法，融合线上 profiling 数据，建设集群范围的软硬件配合与关键性能瓶颈分析体系，支撑AI训练与推理典型负载下的系统级优化； 4. 跟踪主流GPU架构演进，参与AI基础设施规划与设计，结合生产应用画像，支撑多元GPU/AI ASIC芯片的适配与优化，构建异构硬件性能的全链路量化分析模型，面向scale-up等未来AI硬件架构演进，建立硬件性能建模与TCO评估能力，形成数据驱动的决策支撑。
负责集团多种大模型的基础训推性能优化，聚焦异构GPU的高性能算子库、通信库的开发和优化，提升计算、通信的并行效率，设计并实现高效的并行计算策略、分布式推理方案等。面向集团多变的大模型训推场景，提炼核心的优化方法，探索通用的编译优化方案，跟进前沿技术，并将优化能力集成到自研/开源大模型推理/训练框架/编译器，推动优化方案在实际业务场景中的落地，持续创新构建业界领先的AI Infra。
我们关注并负责建设高效、稳定的AI基础设施，为超大规模的分布式训练/推理提供低延迟、高吞吐以及高性价比的I/O链路优化及分布式存储方案。 1. 集团十万卡级别的混合云AI基础设施内的I/O链路优化，支撑大模型、搜推广等训练推理场景的海量小文件及超大吞吐读写等I/O需求； 2. 紧密结合集团基础设施，探索存算分离、存算一网等网络架构下优异的存储架构，以及跨DC的存储同步与全球数据编排； 3. 探索面向transformer模型架构（LLM\多模态等）的kv-cache大容量、超低延迟的存储与缓存设计，通过RDMA、多级缓存等技术，与计算引擎联合CoDesign，探索下一代“以存代算”和“以存强算”的I/O模式；