阿里巴巴基础设施与稳定性工程-AI Infra数据科学家-基础设施资源管理
任职要求
1、本科及以上学历，计算机科学、统计学、数学、电子工程或相关专业； 2、3 年以上数据开发、数据分析或AI Infra相关工作经验； 3、有 AI Infra或云计算平台相关数据开发或者研发经验者优先；了解 AI 基础设施架构（GPU 资源调度、RDMA 网络…
工作职责
1、整合 GPU/CPU 算力、存储（如 CPFS）、网络（如 RDMA/InfiniBand）、供应链流转等多维度数据，构建资源使用率、成本结构与供需分析模型，输出可落地的优化建议； 2、整合资源效能和业务性能指标（如MFU、TPM、TPOT、GPU 利用率等），建立资源效能评估模型，量化资源投入与业务产出之间的关系，为资源规划与采购决策提供数据支撑； 3、负责 AI Infra 资源数仓的数据链路设计与建设，覆盖数据采集、清洗、加工、存储与服务全流程，保障资源数据的准确性、一致性与时效性； 4、构建并维护资源数据可视化平台，开发资源热力图、利用率趋势、成本分摊仪表盘等，支撑日常运营与管理层决策； 5、与资源运营、财务、研发等团队紧密协作，搭建资源生命周期关键指标看板，定期输出资源效能分析报告，支撑资源采购与部署策略落地。
1、整合 GPU/CPU 算力、存储（如 CPFS）、网络（如 RDMA/InfiniBand）、供应链流转等多维度数据，构建资源使用率、成本结构与供需分析模型，输出可落地的优化建议； 2、整合资源效能和业务性能指标（如MFU、TPM、TPOT、GPU 利用率等），建立资源效能评估模型，量化资源投入与业务产出之间的关系，为资源规划与采购决策提供数据支撑； 3、负责 AI Infra 资源数仓的数据链路设计与建设，覆盖数据采集、清洗、加工、存储与服务全流程，保障资源数据的准确性、一致性与时效性； 4、构建并维护资源数据可视化平台，开发资源热力图、利用率趋势、成本分摊仪表盘等，支撑日常运营与管理层决策； 5、与资源运营、财务、研发等团队紧密协作，搭建资源生命周期关键指标看板，定期输出资源效能分析报告，支撑资源采购与部署策略落地。
负责集团多种大模型的基础训推性能优化，聚焦异构GPU的高性能算子库、通信库的开发和优化，提升计算、通信的并行效率，设计并实现高效的并行计算策略、分布式推理方案等。面向集团多变的大模型训推场景，提炼核心的优化方法，探索通用的编译优化方案，跟进前沿技术，并将优化能力集成到自研/开源大模型推理/训练框架/编译器，推动优化方案在实际业务场景中的落地，持续创新构建业界领先的AI Infra。
我们关注并负责建设高效、稳定的AI基础设施，为超大规模的分布式训练/推理提供低延迟、高吞吐以及高性价比的I/O链路优化及分布式存储方案。 1. 集团十万卡级别的混合云AI基础设施内的I/O链路优化，支撑大模型、搜推广等训练推理场景的海量小文件及超大吞吐读写等I/O需求； 2. 紧密结合集团基础设施，探索存算分离、存算一网等网络架构下优异的存储架构，以及跨DC的存储同步与全球数据编排； 3. 探索面向transformer模型架构（LLM\多模态等）的kv-cache大容量、超低延迟的存储与缓存设计，通过RDMA、多级缓存等技术，与计算引擎联合CoDesign，探索下一代“以存代算”和“以存强算”的I/O模式；
我们关注并负责建设高效、稳定的AI基础设施，为超大规模的分布式训练/推理提供低延迟、高吞吐以及高性价比的I/O链路优化及分布式存储方案。 1. 集团十万卡级别的混合云AI基础设施内的I/O链路优化，支撑大模型、搜推广等训练推理场景的海量小文件及超大吞吐读写等I/O需求； 2. 紧密结合集团基础设施，探索存算分离、存算一网等网络架构下优异的存储架构，以及跨DC的存储同步与全球数据编排； 3. 探索面向transformer模型架构（LLM\多模态等）的kv-cache大容量、超低延迟的存储与缓存设计，通过RDMA、多级缓存等技术，与计算引擎联合CoDesign，探索下一代“以存代算”和“以存强算”的I/O模式；