小红书大模型-Agentic RL框架研发工程师
社招全职3-5年引擎地点:北京 | 上海状态:招聘
工作描述
任职要求 【任职资格】 1.熟练掌握Megatron/DeepSpeed/FSDP等框架的研发,熟练掌握模型并行分布式技术 2.对大语言模型算法感兴趣,有机器学习算法知识背景,因为我们日常也会训练模型来确保框架的正确性 3.追求技术极致,务…
登录查看完整工作描述
微信扫码,1秒登录
包括英文材料
Megatron+
https://www.youtube.com/watch?v=hc0u4avAkuM
DeepSpeed+
[英文] Getting Started
https://www.deepspeed.ai/getting-started/
DeepSpeed model training is accomplished using the DeepSpeed engine.
https://www.youtube.com/watch?v=pDGI668pNg0
FSDP+
https://docs.pytorch.org/tutorials/intermediate/FSDP_tutorial.html
In DistributedDataParallel (DDP) training, each rank owns a model replica and processes a batch of data, finally it uses all-reduce to sync gradients across ranks.
https://www.youtube.com/watch?v=PjEwLgyzuzQ
FSDP provides a comprehensive framework for large model training in PyTorch.
还有更多 •••
相关职位
校招2027届蚂蚁星
1. 理论基础扎实: 拥有深厚的深度学习与非凸优化理论功底,具备从第一性原理(FirstPrinciples)对复杂问题进行数学建模和拆解的能力; 2. 架构深度理解: 深入掌握 Transf
更新于 2026-05-14上海|杭州
实习阿里巴巴2027
1、计算机、软件工程、人工智能等相关专业硕士及以上学历; 2、熟练掌握Python,具备扎实的工程编码能力,熟悉C/C++者优先(适用于底层算子与通信优化场景); 3、深入理解深度学习框架(PyTor
更新于 2026-04-08杭州
实习阿里巴巴日常实习
1. 学历:计算机、人工智能、数学等相关专业本科及以上在读。 2. 编程基础:精通 Python,熟练使用 PyTorch;具备扎实的机器学习与深度学习基础。 3. LLM 认知:对大语言模型的基本原
更新于 2026-08-03北京|杭州|上海