小红书【REDstar】Dots-大模型高性能计算工程师- AI infra
校招全职地点:北京 | 上海状态:招聘
工作描述
任职要求 1、本科及以上学历,计算机等相关专业方向优先; 2、熟练掌握GPU CUDA编程; 3、熟练掌握Megatron/DeepSpeed/FSDP等框架的研发,熟练掌握模型并行分布式技术; 4、对大语言模型算法感兴趣,有机器学习算法知识背景; 5、追求技术极致,务实,渴望有自己…
登录查看完整工作描述
微信扫码,1秒登录
包括英文材料
学历+
CUDA+
https://developer.nvidia.com/blog/even-easier-introduction-cuda/
This post is a super simple introduction to CUDA, the popular parallel computing platform and programming model from NVIDIA.
https://www.youtube.com/watch?v=86FAWCzIe_4
Lean how to program with Nvidia CUDA and leverage GPUs for high-performance computing and deep learning.
Megatron+
https://www.youtube.com/watch?v=hc0u4avAkuM
DeepSpeed+
https://www.youtube.com/watch?v=pDGI668pNg0
FSDP+
https://docs.pytorch.org/tutorials/intermediate/FSDP_tutorial.html
In DistributedDataParallel (DDP) training, each rank owns a model replica and processes a batch of data, finally it uses all-reduce to sync gradients across ranks.
https://www.youtube.com/watch?v=PjEwLgyzuzQ
FSDP provides a comprehensive framework for large model training in PyTorch.
还有更多 •••
相关职位
校招
1、本科及以上学历,计算机、人工智能、软件工程或相关交叉学科背景优先; 2、拥有卓越的工程实现能力与扎实的算法功底,熟练掌握至少一门主流编程语言及 PyTorch 框架,熟练使用 Code Agent
更新于 2026-08-24北京|上海|杭州
校招
1、本科及以上学历,计算机、数学、物理等相关专业方向优先; 2、在大规模数据处理、评测、大规模训练、结构设计、优化、对齐、RL等方向的实际经验和差异化想法者优先; 3、在ICLR/NeurIPS/IC
更新于 2026-08-24北京|上海
校招
1、本科及以上学历,计算机等相关专业方向优先; 2、熟练掌握代码的阅读和编写技术能力,善于利用AI编程,在python和pytorch技术栈上有深入实践; 3、在视觉领域有深入的实践和理解,有一定深度
更新于 2026-08-24北京|上海