阿里巴巴AI推理平台-AIGC推理基础设施研发工程师-北京/杭州
社招全职3年以上地点：北京 | 杭州状态：招聘
工作描述
任职要求 1. 计算机、软件工程、人工智能等相关专业，熟练使用 Python；具备 C++、CUDA、Rust 等开发经验者优先。 2. 具备 2 年及以上 AI Infra、模型推理、分布式系统或 GPU 服务相关经验，熟悉 PyTorch 及其分布式执行机制。 3. 熟悉多机多卡系统中的进程组、集合通信、显存管理和并行计算，有 FSDP、TP、SP、EP、PP 等多种并行方案的实践经验。 4. 具备良好的系统设计和抽象能力，能够从单模型需求中识别共性问题，设计可扩展、可观测、可灰度和可回滚的平台能力。 5. 有责任心和结果意识，具备良好的沟通、执行与跨团队协作能力，能够推动复杂技术方案从设计、验证走向生产落地。 加分项 ● 有图像、视频生成、Diffusion 或 DiT 模型服务经验。 ● 熟悉 Diffusers、xDiT、vLLM、SGLang 或其他推理…
登录查看完整工作描述
微信扫码，1秒登录
包括英文材料
Python+
https://liaoxuefeng.com/books/python/introduction/index.html
中文，免费，零起点，完整示例，基于最新的Python 3版本。
https://www.learnpython.org/
a free interactive Python tutorial for people who want to learn Python, fast.
https://www.youtube.com/watch?v=K5KVEU3aaeQ
Master Python from scratch 🚀 No fluff—just clear, practical coding skills to kickstart your journey!
https://www.youtube.com/watch?v=rfscVS0vtbw
This course will give you a full introduction into all of the core concepts in python.
C+++
https://www.learncpp.com/
LearnCpp.com is a free website devoted to teaching you how to program in modern C++.
https://www.youtube.com/watch?v=ZzaPdXTrSb8
CUDA+
https://developer.nvidia.com/blog/even-easier-introduction-cuda/
This post is a super simple introduction to CUDA, the popular parallel computing platform and programming model from NVIDIA.
https://www.youtube.com/watch?v=86FAWCzIe_4
Lean how to program with Nvidia CUDA and leverage GPUs for high-performance computing and deep learning.
Rust+
https://www.youtube.com/watch?v=BpPEoZW5IiY
In this comprehensive Rust course for beginners, you will learn about the core concepts of the language and underlying mechanisms in theory.
https://www.youtube.com/watch?v=lzKeecy4OmQ
Full Rust 101 Crash Course for beginners.
https://www.youtube.com/watch?v=rQ_J9WH6CGk
分布式系统+
https://www.distributedsystemscourse.com/
The home page of a free online class in distributed systems.
https://www.youtube.com/watch?v=7VbL89mKK3M&list=PLOE1GTZ5ouRPbpTnrZ3Wqjamfwn_Q5Y9A
PyTorch+
https://datawhalechina.github.io/thorough-pytorch/
PyTorch是利用深度学习进行数据科学研究的重要工具，在灵活性、可读性和性能上都具备相当的优势，近年来已成为学术界实现深度学习算法最常用的框架。
https://www.youtube.com/watch?v=V_xro1bcAuA
Learn PyTorch for deep learning in this comprehensive course for beginners. PyTorch is a machine learning framework written in Python.
FSDP+
https://docs.pytorch.org/tutorials/intermediate/FSDP_tutorial.html
In DistributedDataParallel (DDP) training, each rank owns a model replica and processes a batch of data, finally it uses all-reduce to sync gradients across ranks.
https://www.youtube.com/watch?v=PjEwLgyzuzQ
FSDP provides a comprehensive framework for large model training in PyTorch.
还有更多 •••
相关职位
社招2年以上技术类-开发
● 在生成模型、推理优化或高性能计算相关方向具备扎实积累 ● 对 LLM 或 AIGC 模型推理过程有较深入理解，具备相关优化实践经验 ● 具备良好的算法分析能力和工程实现能力，能够独立推动方案设计与
更新于 2026-08-12北京|杭州
社招4年以上
1. 扎实的系统编程能力，可选精通 C++/Python/Rust，熟悉高性能并发编程与内存管理。 2. 深入理解 KVCache 相关技术，PagedAttention / vAttention 等
更新于 2026-06-16北京|杭州
社招4年以上
1. 扎实的后端系统开发能力，熟悉 C++/Go/Python 中至少一种，熟悉高并发服务、分布式系统、RPC、异步编程、缓存系统与资源调度系统设计。 2. 熟悉分布式资源管控或调度系统，理解多租户隔
更新于 2026-06-16北京|杭州
社招4年以上技术类-开发
1. 必备技能 （1）扎实的 C++/Python 编程功底，具备模块化设计能力。 （2）大模型推理框架（vLLM/SGLang等）经验，理解模型推理原理。 （3）分布式系统开发经验，熟悉缓存、微服务
更新于 2026-08-07北京|杭州