阿里巴巴大模型推理加速算法方案前沿技术研究-阿里星

任职要求

1. 计算机科学、人工智能、电子工程、计算机体系结构等相关专业硕士及以上学历，博士优先。
2. 熟悉大语言模型训练、后训练或推理优化技术，对 Transformer、Attention、MoE、KV Cache、量化、蒸馏、投机解码等方向有深入理解。
3. 具备扎实的系统与工程能力，熟练掌握 Python/C++/CUDA/Triton 等一种或多种编程语言，有高性能算子、推理框架或分布式系统优化经验者优先。
4. 熟…

工作职责

面向大模型在高并发、低延迟、低成本生产环境中的规模化落地，本课题聚焦下一代大模型推理加速关键技术，探索从模型架构、算法创新、硬件协同到集群系统的全链路优化方法，突破当前大模型推理在计算效率、显存占用、通信开销和系统稳定性等方面的瓶颈。

1. 探索面向推理友好的高效模型架构演进方法，结合后训练技术，研究 Attention、MoE、长上下文、KV Cache 等核心结构的推理效率优化，在保证模型效果的前提下提升吞吐、降低时延与部署成本。
2. 探索具有突破性的推理算法优化方案，围绕低比特量化、投机解码、稀疏注意力、LLM/Diffusion蒸馏等方向，以算法的角度持续突破并降低推理代价。
3. 探索面向新型硬件的推理加速技术，结合 GPU/NPU、异构算力单元、存算协同、算子融合和内存访问优化等能力，提升大模型推理在不同硬件平台上的执行效率。
4. 探索大流量集群推理系统的加速方案，结合网络通信、异构算力调度、请求路由、动态批处理等技术，提升推理系统在复杂业务场景下的效率、稳定性与鲁棒性。