阿里巴巴研究型实习生 - 面向 AI 的基础设施网络性能与稳定性技术研究
任职要求
有良好的java、C++编程基础，对Linux系统以及…
工作职责
随着人工智能技术的飞速发展，AI 大模型对计算资源的需求日益增长。数据中心作为支撑 AI 运算的基础设施，其网络性能和稳定性直接影响 AI 模型训练的效率和推理准确性。然而，当前的数据中心网络在处理大规模数据传输、高并发请求以及复杂网络拓扑时仍然面临诸多挑战。为此，开发新一代数据中心网络技术意在提升网络传输速度、降低延迟、增强网络的容错以及故障定位等能力，对于推动 AI 技术的进一步发展具有重要意义。本项目意在聚焦于阿里云面向 AI 大模型训练的网络性能和稳定性优化技术，具体解决如下几个关键问题： 1、关于 AI 训练网络中故障的快速响应和定位问题，如何通过建立集合通信 log、上层训练框架代码 log 以及底层网络拓扑信息进行横向关联后进行精准、高校的故障根因定位； 2、AI 大模型训练要求网络能够针对故障快速恢复，恢复过程要保证新设备的热迁移，以及如何选择被迁移设备，保证客户侧无感知 3、关于下一代集合通信以及网卡侧的传输协议设计，针对性的对大模型训练和推理特征设计一套行之有效的优化技术，针对其周期性、突发式带宽的传输协议解决关键的技术挑战 交付指标： 1、发表 1-2 篇国际顶级会议论文（如 SIGCOMM/NSDI/OSDI/SOSP） 2、专利 1-2 发明专利 3、能够实际在阿里云生产环境运行的系统（非原型系统），产生实际的结果收益
面向数据库结构化数据和文件系统非结构化数据，设计并实现一站式的高性能存储底座，优化海量存储场景下元数据库性能，具体研究内容包括但不限于： 1.基于数据库的大规模PB级别数据文件系统的文件metadata管理； 2.支持AI训练和推理的并行文件系统和数据库系统的性能优化； 3.数据库结构化数据和文件系统非结构化数据一站式融合和数据流动、索引构建和检索； 4.跨云并行文件系统。
面向AI场景下数据库资源优化系统研发，具体职责包括： 1.设计基于深度强化学习（DRL）的CPU/GPU混合负载调度框架，构建基于负载管理器、资源调度器的动态资源分配模型，实现资源利用率与服务质量（QoS）的联合优化； 2.研发“资源预热+缓存预热+计算编排”混合架构，通过热点数据预测模型、计算节点池化技术及数据预热机制，突破对象存储（OSS）水平弹性的性能瓶颈； 3.基于Neon分支技术改进动态数据隔离机制，设计多分支场景下的共享数据访问优化策略，在零冗余存储前提下保障租户间、branch间安全隔离，同时提升多分支并发场景下的数据访问吞吐量。
下一代AI应用场景复杂多样，对推理加速提出迫切需求。我们将系统性探索从服务化优化提升资源效能，到前沿压缩算法设计，再到高性能算子优化等关键层面，致力于构建一套灵活、高效的推理加速体系，为下一代AI技术的广泛落地与创新突破注入强劲动力。在这里，你将拥有充分的探索空间和资源支持，和我们一起挑战具有业界影响力的高价值课题。 核心职责与挑战 我们希望你对技术充满好奇，并具备出色的动手能力。在导师的指导下，你将参与到以下一项或多项富有挑战的工作中： 1. 下一代生成模型推理技术探索: a. LLM/MLLM: 探索针对AR的生成特点，探索超高倍投机采样、模型压缩、efficient attention、蒸馏等技术。 b. Diffusion: 探索sparse attention、cache、采样步数消减等技术。 c. 软硬结合的优化技术：探索极低比特量化、稀疏计算等硬件依赖的前沿加速技术。 2. 极致性能的推理引擎工程实践: a. 深入分析与优化现有推理框架（如vLLM, TensorRT-LLM等）的性能瓶颈，进行从算子到系统层面的全栈优化。 b. 精通CUDA/CUTLASS/Triton等底层编程技术，针对新型Transformer架构变种，手写高性能算子，压榨硬件的每一分潜力。 c. 设计和实现高效的KV Cache管理与压缩方案，优化请求调度与批处理策略，最大化系统吞吐并降低延迟。
本项目旨在针对广域RDMA网络中的传输性能问题，紧密结合AI智算业务流量特征，设计并实现一套易部署的、高效的广域RDMA网络遥测、拥塞控制、传输丢包控制系统与高性能通信库，以提升跨域AI智算服务的性能与稳定性，并为未来广域分布式计算提供技术储备。具体目标如下： 1、建立面向AI智算业务的广域RDMA流量分析模型：深度融合阿里云真实训练/推理业务Trace与广域网遥测数据，刻画业务流量模式与丢包时空特征的关联关系，为机制设计提供数据驱动的依据。扩展实现面向 Scale-across的高精监控系统； 2、设计自适应于业务与网络的拥塞控制、丢包控制机制：针对AI智算业务流量特征与广域网丢包动态性，创新设计结合智能冗余重传与轻量级前向纠错的混合恢复策略和细粒度拥塞控制，实现快速丢包恢复与带宽有效利用率提升； 3、研发纯软件实现高性能长距RDMA传输框架：通过修改用户态RDMA通信库，重构关键接口与功能，将丢包控制机制无缝集成至RDMA软件栈，实现不依赖特定硬件的可部署方案，并验证其对AI智算业务与集合通信性能的提升效果； 4、面向 Scale-up/Scale-out/Scale-across 全场景的高性能通信库优化：针对阿里自研通信库，开展跨场景深度性能剖析，明确不同互联通信域下的性能瓶颈与优化空间。在 Scale-up 域聚焦节点内/近节点低时延通信优化，在 Scale-out 域强化集群间高吞吐传输能力，在 Scale-across 域完善跨域/跨机房通信的稳定性保障。同时探索PD分离场景下KvCache 存储结构与传输的协同优化。通过分层优化策略，实现全场景通信性能与稳定性的系统性提升。