美团大模型异构算力工程师
任职要求
1. 有扎实的计算机理论基础，熟练掌握C++或Python语言 2. 具备良好的问题分析和一定的解决能力，具有较好的学习能力和好奇心驱动 3. 对LLM和多模态模型有基本的算法理解 4. 有实际的训练或推理场景实践，熟悉相关框架和算子细节 具备以下条件优先 1. …
工作职责
1. 围绕大模型异构算力集群，尤其是国产算力集群，面向大模型训练和推理场景支持算力评估、适配和落地维护，具体包括分布式优化框架，AI框架，网络集合通信，算子等方面内容 2. 负责大模型分布式优化框架的系统分析，性能调优，特性开发，问题定位等工作，支持常见的大模型分布式优化框架 3. 负责PyTorch在异构算力下系统分析，性能调优，问题定位等工作 4. 负责常见的大模型场景下高性能Kernel算子的关键指标分析和统计，融合开发，性能优化等工作 5. 负责大模型超万卡规模的集合通信/NCCL关键指标分析和统计，系统定位/调优等工作 6. 负责多种算力的Benchmark评测，对比验证，性能分析等工作
1、核心引擎开发与优化：负责或深度参与基于国产异构计算芯片（如NPU/PPU等）的大模型训练/推理引擎的架构设计、开发与迭代，构建高性能、高稳定性的上层软件栈； 2、大模型业务落地：将引擎能力应用于公司核心业务，主导或参与多模态、大语言模型等前沿AI模型在国产芯片上的训练、微调与推理部署，解决实际落地中的技术难题； 3、极致性能调优：针对各类业务大模型，进行深度的推理调度策略优化和关键算子（Kernel）的性能剖析与极致优化，持续提升系统的吞吐量、降低延迟； 4、生态合作与协同：作为技术接口人，与国产芯片原厂技术支持团队紧密合作，高效推进芯片驱动、基础软件栈的引入、问题排查与版本迭代，确保技术路线顺畅推进。
1. 围绕大模型异构训练集群，尤其是非NV GPU大规模异构硬件集群，面向大模型预训练、Finetune等场景进行新模型使能，系统分析/优化，业务支撑等工作，包括分布式优化框架，AI框架，网络集合通信，算子等方面内容 2. 参与美团机器学习平台建设，构建非NV GPU大规模训练场景软件栈和算法迭代Pipeline 3. 负责NLP类大模型的训练端到端流程，包括训练使能，系统调优，关键指标分析和统计，问题定位等工作，支持常见生成式NLP类大模型，包括但不限于LlaMa 1/2, GPT, BLOOM等 4. 负责视觉类，多模态大模型的训练端到端流程，包括模型使能，系统调优，关键指标分析和统计，问题定位等工作，支持常见的视觉类，多模态大模型，包括但不限于ViT，Swin Transformer，Stable Diffusion, MoE等 5. 负责大模型分布式优化框架的系统分析，性能调优，特性开发，问题定位等工作，支持常见的大模型分布式优化框架，包括但不限于Megatron, DeepSpeed, FSDP等 6. 负责PyTorch在非NV GPU场景下系统分析，性能调优，问题定位等工作 7. 负责常见的大模型训练场景下高性能Kernel算子的关键指标分析和统计，融合开发，性能优化等工作 8. 负责大模型不同规模卡数训练场景下集合通信/NCCL关键指标分析和统计，系统定位/调优等工作 9. 负责与NV GPU相同场景进行Benchmark评测，对比验证，性能分析等工作
