美团【基座大模型北斗实习】大模型架构研究

任职要求

1、熟悉一些常用的深度学习框架和大规模训推框架（比如megatron，verl，vllm，sglang等等），在大模型上有训练和推理算法工程优化实际经验的优先；
2、熟…

工作职责

简介：大模型架构优化探索，算法工程协同设计，涉及到训练和推理的各类算法和工程策略探索落地。参与美团基座大模型项目，包含但不限于：
1、大模型高效架构设计探索（高效attention，moe架构等）。
2、预训练 / 后训练算法工程策略。
3、投机推理算法工程策略。
4、模型轻量化策略（剪枝，量化，稀疏，蒸馏，结构搜索等） 。
5、Agentic coding系统优化策略。