阿里巴巴研究型实习生 - 面向网络智能化运维的 AI 研究与应用
任职要求
1、扎实的工程能力，优良的编程风格，熟悉JAVA/Python/C++语言和常用设计模式，具备复杂系统的设计开发调试能力； 2、优良的沟通表达能力、团队合作意识和经验；具备快速学习的能力，以及深入钻研技术问题的耐心； 3、熟悉LLM技术（训练/推理…
工作职责
基于意图的网络（Intent-Based Networking）管控和验证系统研发，具体职责包括： 1. 开发大模型驱动的自然语言转意图语言工具，降低网络策略学习与迭代成本； 2. 设计基于LLM的自动化网络变更方案生成系统，替代人工操作，减少错误风险； 3. 构建变更方案智能理解与风险预检工具，辅助运营团队提前规避故障；
随着人工智能技术的飞速发展，AI 大模型对计算资源的需求日益增长。数据中心作为支撑 AI 运算的基础设施，其网络性能和稳定性直接影响 AI 模型训练的效率和推理准确性。然而，当前的数据中心网络在处理大规模数据传输、高并发请求以及复杂网络拓扑时仍然面临诸多挑战。为此，开发新一代数据中心网络技术意在提升网络传输速度、降低延迟、增强网络的容错以及故障定位等能力，对于推动 AI 技术的进一步发展具有重要意义。本项目意在聚焦于阿里云面向 AI 大模型训练的网络性能和稳定性优化技术，具体解决如下几个关键问题： 1、关于 AI 训练网络中故障的快速响应和定位问题，如何通过建立集合通信 log、上层训练框架代码 log 以及底层网络拓扑信息进行横向关联后进行精准、高校的故障根因定位； 2、AI 大模型训练要求网络能够针对故障快速恢复，恢复过程要保证新设备的热迁移，以及如何选择被迁移设备，保证客户侧无感知 3、关于下一代集合通信以及网卡侧的传输协议设计，针对性的对大模型训练和推理特征设计一套行之有效的优化技术，针对其周期性、突发式带宽的传输协议解决关键的技术挑战 交付指标： 1、发表 1-2 篇国际顶级会议论文（如 SIGCOMM/NSDI/OSDI/SOSP） 2、专利 1-2 发明专利 3、能够实际在阿里云生产环境运行的系统（非原型系统），产生实际的结果收益
本项目旨在针对广域RDMA网络中的传输性能问题，紧密结合AI智算业务流量特征，设计并实现一套易部署的、高效的广域RDMA网络遥测、拥塞控制、传输丢包控制系统与高性能通信库，以提升跨域AI智算服务的性能与稳定性，并为未来广域分布式计算提供技术储备。具体目标如下： 1、建立面向AI智算业务的广域RDMA流量分析模型：深度融合阿里云真实训练/推理业务Trace与广域网遥测数据，刻画业务流量模式与丢包时空特征的关联关系，为机制设计提供数据驱动的依据。扩展实现面向 Scale-across的高精监控系统； 2、设计自适应于业务与网络的拥塞控制、丢包控制机制：针对AI智算业务流量特征与广域网丢包动态性，创新设计结合智能冗余重传与轻量级前向纠错的混合恢复策略和细粒度拥塞控制，实现快速丢包恢复与带宽有效利用率提升； 3、研发纯软件实现高性能长距RDMA传输框架：通过修改用户态RDMA通信库，重构关键接口与功能，将丢包控制机制无缝集成至RDMA软件栈，实现不依赖特定硬件的可部署方案，并验证其对AI智算业务与集合通信性能的提升效果； 4、面向 Scale-up/Scale-out/Scale-across 全场景的高性能通信库优化：针对阿里自研通信库，开展跨场景深度性能剖析，明确不同互联通信域下的性能瓶颈与优化空间。在 Scale-up 域聚焦节点内/近节点低时延通信优化，在 Scale-out 域强化集群间高吞吐传输能力，在 Scale-across 域完善跨域/跨机房通信的稳定性保障。同时探索PD分离场景下KvCache 存储结构与传输的协同优化。通过分层优化策略，实现全场景通信性能与稳定性的系统性提升。
下一代AI应用场景复杂多样，对推理加速提出迫切需求。我们将系统性探索从服务化优化提升资源效能，到前沿压缩算法设计，再到高性能算子优化等关键层面，致力于构建一套灵活、高效的推理加速体系，为下一代AI技术的广泛落地与创新突破注入强劲动力。在这里，你将拥有充分的探索空间和资源支持，和我们一起挑战具有业界影响力的高价值课题。 核心职责与挑战 我们希望你对技术充满好奇，并具备出色的动手能力。在导师的指导下，你将参与到以下一项或多项富有挑战的工作中： 1. 下一代生成模型推理技术探索: a. LLM/MLLM: 探索针对AR的生成特点，探索超高倍投机采样、模型压缩、efficient attention、蒸馏等技术。 b. Diffusion: 探索sparse attention、cache、采样步数消减等技术。 c. 软硬结合的优化技术：探索极低比特量化、稀疏计算等硬件依赖的前沿加速技术。 2. 极致性能的推理引擎工程实践: a. 深入分析与优化现有推理框架（如vLLM, TensorRT-LLM等）的性能瓶颈，进行从算子到系统层面的全栈优化。 b. 精通CUDA/CUTLASS/Triton等底层编程技术，针对新型Transformer架构变种，手写高性能算子，压榨硬件的每一分潜力。 c. 设计和实现高效的KV Cache管理与压缩方案，优化请求调度与批处理策略，最大化系统吞吐并降低延迟。
1.负责多模态理解大模型的前沿算法研究、实现与优化，重点攻克图像/视频理解、视觉问答、跨模态交互等关键任务。 2.参与构建和清洗大规模多模态数据集，探索数据增强策略，并可能建设高效的数据生产、标注和评估 pipeline，涵盖通用数据、视频、OCR等场景。 3.具备技术前瞻性与创新能力，跟踪国际最新技术动态，探索如多模态理解创新架构、音视频理解、Agentic RAG、AI Memory等新方向，并提出创新算法或方案，推动学术前沿发展。