阿里巴巴研究型实习生-Training Infra工程师
实习兼职阿里巴巴研究型实习生地点:杭州状态:招聘♡ 收藏
工作描述
任职要求 1. 熟练掌握 Python、PyTorch,熟悉 Megatron-Core、Transformer Engine 等大模型训练框架; 2. 有新模型结构接入分布式训练框架的实践经验,能够独立完成模型适配、权重转换和训练验证; 3. 深入理解 TP、PP、DP、CP、EP、SP 等并行策略的原理、约束及组合方式; 4. 理解 Attention、稀疏 Attention、线性 Attention、MoE 等模型结构及其并行训练特点; 5. 熟悉 PyTorch Autograd、混合精度、梯度累积、分布式通信和分布式 Checkpoint; 6. 能够系统定位 Loss 异常、数值不稳定、训练 Hang、OOM、通信超时和性…
登录查看完整工作描述
微信扫码,1秒登录
包括英文材料
Python+
https://liaoxuefeng.com/books/python/introduction/index.html
中文,免费,零起点,完整示例,基于最新的Python 3版本。
https://www.learnpython.org/
a free interactive Python tutorial for people who want to learn Python, fast.
https://www.youtube.com/watch?v=K5KVEU3aaeQ
Master Python from scratch 🚀 No fluff—just clear, practical coding skills to kickstart your journey!
https://www.youtube.com/watch?v=rfscVS0vtbw
This course will give you a full introduction into all of the core concepts in python.
PyTorch+
https://datawhalechina.github.io/thorough-pytorch/
PyTorch是利用深度学习进行数据科学研究的重要工具,在灵活性、可读性和性能上都具备相当的优势,近年来已成为学术界实现深度学习算法最常用的框架。
https://www.youtube.com/watch?v=V_xro1bcAuA
Learn PyTorch for deep learning in this comprehensive course for beginners. PyTorch is a machine learning framework written in Python.
Megatron+
https://www.youtube.com/watch?v=hc0u4avAkuM
Transformer Engine+
[英文] Getting Started
https://docs.nvidia.com/deeplearning/transformer-engine/user-guide/examples/quickstart.html
Transformer Engine (TE) is a library for accelerating Transformer models on NVIDIA GPUs, providing better performance with lower memory utilization in both training and inference.
https://github.com/NVIDIA/TransformerEngine
A library for accelerating Transformer models on NVIDIA GPUs.
还有更多 •••
相关职位
实习阿里巴巴日常实习
1. 深厚的技术背景:计算机、信息科学、数学或相关专业硕士/博士学位,业界AI/Agent团队的相关实习和工作经验; 2. 有较好工程能力,有Coding/Search Agent构建、Agent记忆
更新于 2026-07-31杭州
实习阿里巴巴研究型实
1. 在读研究生以上学历,具备LLM/RAG/Agent研发经验,第一作者发表过顶级会议论文。 2. 扎实的算法能力,优良的编程风格,熟悉Python语言,具备复杂系统的设计开发调试能力。 3. 优良
更新于 2026-08-14北京|杭州
实习阿里巴巴研究型实
1. 计算机、电子信息、人工智能、自动化等相关专业,本科及以上学历。 2. 对多模态大模型/AI生成有浓厚兴趣,有相关课程学习、课程设计、科研项目或竞赛经验即可(涉及语音/音频/文本生成、多模态理解等
更新于 2026-06-29北京|杭州