美团大模型后训练架构工程师/专家
任职要求
1.有扎实的计算机理论基础；熟练掌握常用数据结构和算法；熟练掌握C++或Python 等语言 2.熟悉transformer类模型结构，熟悉GQA、MLA、MoE等模块，熟悉常用的深度学习框架和工具； 3.具备较强的逻辑思维能力，善于分析、归纳、描述、沟通和解决问题。 4.责任心强，做事认真负责，owner 意识强。 具备以下条件优先 1.有大模型微调/强化学习（SFT、DPO、PPO、GRPO、Distill等）工作经验，有训练框架开发经验 ； 2.学习能力强，动手能力强，有较强的自驱力，对大模型有一定的热情。
工作职责
1.负责文本、多模态等大模型后训练（微调/强化学习）能力建设，包括：训练框架研发、开源模型适配、训练成本优化、训练效果调优等。 2.协同产运、算法团队，推动后训练技术落地业务。 3.与团队其他成员密切合作，共同解决技术难题，推动团队整体技术提升。
1. 参与大语言模型（LLM）后训练全流程优化，包括但不限于通用能力提升、安全对齐等方向。 2. 实现并应用SFT/RLHF/DPO/PPO/GRPO等算法，探索多目标奖励模型、过程监督等前沿技术，提升模型在指令遵循、逻辑推理、多任务泛化等方面的性能。 3. 构建模型效果评估体系，设计自动化评估方案，持续跟踪模型优化效果。 4. 参与技术开源与学术研究，发表顶会论文或贡献核心开源项目。
1）训练安全基座大模型，在开源大模型基础上持续预训练实现知识注入、后训练实现指令对齐, 涵盖dense\moe架构、多模态、长上下文推理(QwenLong-L1)等各类基座。 2）探索研究安全基座大模型在各风险领域的应用，并与策略、技术等各岗位同学密切合作、推动落地。 3）快速搭建各类Agent，熟悉deepsearch/工具调用，有较强动手能力。
团队介绍：字节跳动 Seed 团队成立于 2023 年，致力于寻找通用智能的新方法，追求智能上限。团队研究方向涵盖 LLM、语音、视觉、世界模型、基础架构、AI Infra、下一代 AI 交互等，在中国、新加坡、美国等地设有实验室和岗位。 Seed 团队在 AI 领域拥有长期愿景与决心，坚持深耕基础，期望成为世界一流的 AI 研究团队，为科技和社会发展作出贡献。目前团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、扣子、即梦等超过 50 个应用场景。 1、负责机器学习系统资源调度的设计和开发，服务于各方向场景（NLP/CV/Speech等）的模型训练、模型评估和模型推理； 2、负责多种异构资源（GPU、CPU、其他异构硬件）的最优化编排，实现稳定资源、潮汐资源、混布资源、多云资源的合理化使用； 3、负责通过技术手段实现计算资源、RDMA高速网络资源、存储资源的最优调度，充分发挥大规模分布式集群的计算能力； 4、负责多机房、多地域、多云场景的在离线任务/服务调度，实现负载的合理化分布； 5、负责资源的复用和利用率的提升，更好的利用大模型场景中的预训练、后训练、离线推理、评估等任务的特性，优化排队、优先级、抢占等逻辑，提升集群利用率。
团队介绍：字节跳动 Seed 团队成立于 2023 年，致力于寻找通用智能的新方法，追求智能上限。团队研究方向涵盖 LLM、语音、视觉、世界模型、基础架构、AI Infra、下一代 AI 交互等，在中国、新加坡、美国等地设有实验室和岗位。 Seed 团队在 AI 领域拥有长期愿景与决心，坚持深耕基础，期望成为世界一流的 AI 研究团队，为科技和社会发展作出贡献。目前团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、扣子、即梦等超过 50 个应用场景。 1、负责机器学习系统资源调度的设计和开发，服务于各方向场景（NLP/CV/Speech等）的模型训练、模型评估和模型推理； 2、负责多种异构资源（GPU、CPU、其他异构硬件）的最优化编排，实现稳定资源、潮汐资源、混布资源、多云资源的合理化使用； 3、负责通过技术手段实现计算资源、RDMA高速网络资源、存储资源的最优调度，充分发挥大规模分布式集群的计算能力； 4、负责多机房、多地域、多云场景的在离线任务/服务调度，实现负载的合理化分布； 5、负责资源的复用和利用率的提升，更好的利用大模型场景中的预训练、后训练、离线推理、评估等任务的特性，优化排队、优先级、抢占等逻辑，提升集群利用率。