寒武纪大模型算法优化工程师-27届
校招全职地点:北京状态:招聘
工作描述
岗位职责 分析国内外先进大模型的模型结构和训练方法,挖掘性能优化空间,参与优化方案的设计与实现。 开展大模型训练性能预估与仿真,分析计算、通信和显存开销,优化并行策略和资源配置。 基于 Megatron-LM、DeepSpeed、PyTorch FSDP、verl 等框架,参与预训练、后训练及并行策略相关 Infra 开发。 跟踪 MoE…
登录查看完整工作描述
微信扫码,1秒登录
包括英文材料
大模型+
https://www.youtube.com/watch?v=xZDB1naRUlk
You will build projects with LLMs that will enable you to create dynamic interfaces, interact with vast amounts of text data, and even empower LLMs with the capability to browse the internet for research papers.
https://www.youtube.com/watch?v=zjkBMFhNj_g
Megatron+
https://www.youtube.com/watch?v=hc0u4avAkuM
FSDP+
https://docs.pytorch.org/tutorials/intermediate/FSDP_tutorial.html
In DistributedDataParallel (DDP) training, each rank owns a model replica and processes a batch of data, finally it uses all-reduce to sync gradients across ranks.
https://www.youtube.com/watch?v=PjEwLgyzuzQ
FSDP provides a comprehensive framework for large model training in PyTorch.
还有更多 •••
相关职位
校招2027届蚂蚁星
1. 热爱人工智能领域,对探索新事物充满热情; 2. 硕士及以上学历,计算机科学、人工智能或相关专业背景; 3. 熟练掌握机器学习、自然语言处理、大语言模型等相关领域的基本理论和算法,具
更新于 2026-05-14北京|杭州|成都
校招2027届蚂蚁星
1. 深入理解分布式训练体系(TP / PP / SP / EP / CP 等); 2. 熟悉主流大模型训练框架底层实现(Megatron / DeepSpeed / FSDP 等); 3. 熟悉 C
更新于 2026-05-14北京|上海|杭州
社招3年以上技术类-算法
1. 硕士及以上学历,计算机科学、人工智能或相关专业背景。 2. 熟练掌握机器学习、自然语言处理、大语言模型等相关领域的基本理论和算法,具备扎实的数学基础。 3. 熟练掌握Python编程语言,熟悉主
更新于 2026-09-03北京|杭州
