阿里巴巴研究型实习生-面向全场景智能的大模型效能优化与智能体演进研究
任职要求
1、计算机科学、人工智能、电子工程等相关专业在读博士； 2、有 AI 算法/系统、高性能计算方向的顶会/顶刊论文发表； 3、扎实的 C/C++ 和 Python 编程能力，具备良好的代码工程素养； 4、熟悉 PyTorch，有实际模型训练或推理的项目经验； 5、每周至少实习 4 天，持续 3 个月以上。 加分项（满足任一即可） 1、有自动驾驶/图像/视频生成/推荐等领域相关项目经验者优先； 2、熟悉训练推理优化工具链（D…
工作职责
我们正在寻找对大模型在各种场景智能下的效能优化或智能体应用充满热情的优秀在读学生，参与大模型关键系统架构和场景化应用的前沿研究。你将深度参与千亿级大模型在复杂工业场景落地的“不可能三角”：高性能、低延迟、高自主性。 你将从以下四个核心应用方向中选择一个深入参与，开展系统性研究与工程实现： 1、面向自动驾驶/具身智能的端到端自动驾驶大模型训练优化：参与大规模分布式训练系统的性能分析与优化，包括数据并行、模型并行、流水线并行等策略的调优；参与自动驾驶核心模型（BEV、Transformer、Diffusion 等）中关键算子的性能 Profiling 与优化；基于 Transformer 架构的自动驾驶端到端模型（如 VLA，UniAD, VAD 等）的大规模预训练与微调，优化长序列感知与预测的对齐； 2、面向MoE大模型的训练推理优化：针对千亿级超大规模参数模型，深度参与类QWen/DeepSeek等MoE大模型的性能调优，研究 并行策略（张量、流水线、数据并行）下的通信重叠与显存优化；基于开源大模型推理引擎结合各类大模型和GPU/NPU等硬件，应用PD分离/DeepEP架构，探索高性能算子实现，结合编译优化，量化等手段提升模型推理性能； 3、图像视频与世界模型生成： 参与图像/视频生成模型（Diffusion Transformer、UNet、VAE、文本编码器等）的推理性能分析与端到端优化，提升生成速度与吞吐量；针对多步采样推理流程（DDPM / DDIM / Flow Matching 等）进行调度优化，探索步数压缩、缓存复用、投机采样等加速策略；协助构建推理性能基准测试体系，持续追踪优化效果；参与生成模型推理服务的工程化落地，包括多卡并行推理、动态 Batching、流式输出等方案的设计与实现； 4、大模型与推荐系统的融合创新，聚焦生成式算法或者推荐场景推理优化的研发：研究面向基于LLM的生成式召回技术，通过用户意图生成、Item ID/Title生成等方式，解决传统方法在语义鸿沟与长尾挖掘上的痛点，探索利用大模型直接生成召回和排序；针对生成式模型推理延迟高、资源消耗大的问题，研究算子优化能力、低精度计算、流式推理、投机采样等技术并应用模型推理技术。
下一代AI应用场景复杂多样，对推理加速提出迫切需求。我们将系统性探索从服务化优化提升资源效能，到前沿压缩算法设计，再到高性能算子优化等关键层面，致力于构建一套灵活、高效的推理加速体系，为下一代AI技术的广泛落地与创新突破注入强劲动力。在这里，你将拥有充分的探索空间和资源支持，和我们一起挑战具有业界影响力的高价值课题。 核心职责与挑战 我们希望你对技术充满好奇，并具备出色的动手能力。在导师的指导下，你将参与到以下一项或多项富有挑战的工作中： 1. 下一代生成模型推理技术探索: a. LLM/MLLM: 探索针对AR的生成特点，探索超高倍投机采样、模型压缩、efficient attention、蒸馏等技术。 b. Diffusion: 探索sparse attention、cache、采样步数消减等技术。 c. 软硬结合的优化技术：探索极低比特量化、稀疏计算等硬件依赖的前沿加速技术。 2. 极致性能的推理引擎工程实践: a. 深入分析与优化现有推理框架（如vLLM, TensorRT-LLM等）的性能瓶颈，进行从算子到系统层面的全栈优化。 b. 精通CUDA/CUTLASS/Triton等底层编程技术，针对新型Transformer架构变种，手写高性能算子，压榨硬件的每一分潜力。 c. 设计和实现高效的KV Cache管理与压缩方案，优化请求调度与批处理策略，最大化系统吞吐并降低延迟。
1.负责多模态理解大模型的前沿算法研究、实现与优化，重点攻克图像/视频理解、视觉问答、跨模态交互等关键任务。 2.参与构建和清洗大规模多模态数据集，探索数据增强策略，并可能建设高效的数据生产、标注和评估 pipeline，涵盖通用数据、视频、OCR等场景。 3.具备技术前瞻性与创新能力，跟踪国际最新技术动态，探索如多模态理解创新架构、音视频理解、Agentic RAG、AI Memory等新方向，并提出创新算法或方案，推动学术前沿发展。
-负责面向3D-DRAM的新型访存子系统架构 -面向新型AI应用，负责针对新型 3D 架构的设计空间探索
研究大规模深度学习模型训练芯片架构设计领域的技术攻关及技术创新，包括但不限于基于芯粒（chiplet）互联、芯片间互联、片上网络（NoC）、三维堆叠等先进芯片设计技术的应用、原型实现、算法优化及测试等内容，同时发表相应的技术论文。 工作职责： ● 技术研究：针对芯粒互联、芯片间互联、片上网络、三维堆叠等技术的应用，在大模型训练芯片中的架构设计和优化方案。报告将包含调研结果、架构选择的理论依据、性能对比分析等内容。 ● 架构仿真与评估：完成基于选定架构的仿真实验，并对比不同技术方案在吞吐量、延迟、功耗等方面的表现，提出优化方向并形成完整的评估报告。 ● 设计和验证：协助团队进行部分SoC架构的实现，包含但不限于互联方案的验证、片上网络拓扑的初步布局等。