美团【北斗】分布式AI推理/AI-Infra研发工程师
任职要求
【岗位要求】 1、2027届获得本科及以上学历，计算机、数学等相关专业优先； 2、具有优秀的基础算法、代码能力，熟练掌握C/C++或Python编程语言，ACM/ICPC、NOI/IOI、Top Coder、Kaggle等比赛获奖者优先； 3、熟悉计算机体系结构，对 CPU/GPU 内存层次、PCIe/NVLink 带宽有清晰概念；理解操作系统核心原理（如进程调度、内存管理）； 4、熟悉分布式系统的基本原理（如一致性协议、一致性哈希、负载均衡算法、集合通信 MPI/NCCL），具备良好的分布式思维； 5、具备 CUDA C/C++ 开发或优化经验，或了解 OpenAI Triton 算子编写者优先； 6…
工作职责
为了更好地提升城市即时配送的效率与体验，2017年，美团启动了无人机配送服务的探索，通过科技创新推动履约工具变革，加快建设空地协同的本地即时配送网络。目前，美团已初步完成了自主飞行无人机、智能化调度系统及高效率运营体系的研发建设工作，由此打造了一个服务于多场景、多天候的城市低空物流解决方案。 在该岗位中您将负责： 1、推理框架研发：参与构建与优化高性能分布式 AI 推理引擎，支持大模型在多卡、多机环境下的高效分布式部署与高效通信； 2、分布式任务调度：参与设计与实现面向大模型推理的高效任务调度算法。针对 Prefill与 Decoding阶段的不同资源需求，协助研发 PD 分离架构下的请求流转与精细化调度； 3、全局负载均衡：协助构建多节点、多实例集群的负载均衡策略。基于请求长度预测、全局 KV Cache 缓存命中率以及运行时显存状态，实现智能流量分发，避免集群局部热点与雪崩； 4、弹性伸缩与容错：参与大规模分布式推理集群的健康度监控，协同开发故障自动检测与动态隔离机制，提升高并发在线服务（LLM-as-a-Service）的可用性（SLA）； 5、性能剖析与调优：协助排查高并发场景下，由网络延迟、长尾请求（Tail Latency）、线程锁竞争或集合通信（NCCL）瓶颈导致的全局吞吐跌落； 6.主动探索并运用各类AI工具优化日常工作流程，积极推动AI在无人机业务中的落地实践。
【愿景】 美团是中国领先的生活服务科技平台，拥有覆盖数千万商户与数亿用户的真实履约网络。美团无人车是国内率先实现城市道路无人配送规模化运营的团队，累计完成超百万订单的真实配送里程。我们正在推动无人车感知系统从模块化架构向端到端智能架构的代际跃迁——让无人车从"按规则行驶"进化为"像人一样看懂世界、自主决策"。 【岗位职责】 1.端到端自动驾驶建模：参与、设计及实现端到端的自动驾驶建模方法，搭建从传感器数据到行为决策的端到端模型。 2. VLA/VA：将LLM/VLM/COT/RL等方法应用在端到端模型的优化和能力构建上，建设更具备泛化性、可拓展性的自动驾驶算法能力。 3.世界模型能力建设：基于传感器仿真算法和状态预测算法，建设高质量稀缺数据生成能力和端到端算法闭环仿真能力。 4.大规模场景重建：研究并落地基于大规模 Feedforward 框架的三维重建算法（如 VGGT，3D GaussianSplatting等），探索其在自动驾驶场景中的工程化应用。
【愿景】 美团是中国领先的生活服务科技平台，拥有覆盖数千万商户与数亿用户的真实履约网络。美团无人车是国内率先实现城市道路无人配送规模化运营的团队，累计完成超百万订单的真实配送里程。我们正在推动无人车感知系统从模块化架构向端到端智能架构的代际跃迁——让无人车从"按规则行驶"进化为"像人一样看懂世界、自主决策"。 【岗位职责】 1.负责构建基于强化学习算法的下一代行为决策模型，设计实现对齐人类偏好的高效训练方法，深入攻克长尾动态博弈、多车交互难题，提升自车行驶的安全性； 2.负责云端WA模型的设计与落地，构建高效闭环训练多智能体仿真环境和数据生成引擎，为长尾场景的数据生产和能力评测提供有效支撑。
【愿景】 美团是中国领先的生活服务科技平台，拥有覆盖数千万商户与数亿用户的真实履约网络。美团无人车是国内率先实现城市道路无人配送规模化运营的团队，累计完成超百万订单的真实配送里程。我们正在推动无人车感知系统从模块化架构向端到端智能架构的代际跃迁——让无人车从"按规则行驶"进化为"像人一样看懂世界、自主决策"。 【岗位职责】 1.负责下一代自动驾驶 AI Infra 与基础模型体系建设，探索并落地多模态大模型、生成式模型、强化学习、世界模型（World Model）、视觉语言模型（VLM）等前沿技术在自动驾驶场景中的应用； 2.主导自动驾驶算法与 AI 系统架构设计，包括训练框架、数据闭环、推理引擎、模型部署、端云协同及软硬件协同优化，构建面向大规模量产的 AI 基础设施； 3.参与构建大规模模型训练与迭代平台，涵盖分布式训练、多机高速通信、训练算子优化、混合并行、显存优化、编译加速及异构计算资源调度等关键能力； 4.参与自动驾驶数据与模型迭代闭环建设，推动数据挖掘、自动标注、仿真生成、模型评测、持续训练（Continuous Training）与自动化回灌体系建设，加速算法迭代效率； 5.参与大规模云计算与仿真平台建设，打造支持千万级场景生成、海量数据回放、云端仿真与大规模并行验证的新一代 Simulation Infra。
【愿景】 美团龙猫基座大模型，不只聪明，更懂生活。从语言理解到全模态感知，从架构创新到极致推理，从海量预训练到亿级真实订单 —— 我们造的不仅是实验室里的“优等生”，更是活在大街小巷、三餐四季里的AI。 而我们想做的远不止于此 —— 让模型自己提出假设、训练自己、不断进化； 让一群智能体像团队一样分工协作、攻克复杂问题； 让 AI 走出屏幕，理解物理世界、走进真实场景。 这是我们正在冲刺的方向，也是你可以参与定义的未来。 加入我们，一起把智能带进真实物理世界，亲手打造下一代 AGI！ 【团队介绍】 基座大模型AI Infra团队，以支撑前沿基础模型持续演进为目标，面向大模型研发与生产全链路，构建高性能、高稳定性、可持续扩展的AI基础设施体系。围绕高效率实验平台、大规模训练生产能力，以及模型结构与芯片架构协同优化， 沉淀软硬一体、训推贯通的关键基础能力，提升模型迭代效率、训练资源利用率与系统上限。 【你将负责】 模型推理是大模型应用的核心能力，是影响大模型应用成本和效率的关键因素。本课题专注于大模型推理加速与分布式系统优化的前沿技术探索，通过软硬件协同设计和算法工程联合优化，降低大模型推理的应用成本，提高推理性能。研究内容包括但不限于： 1.投机推理（Speculative Decoding），研究基于预测性执行的动态推理优化方法，参与设计低延迟推理框架，通过概率模型预生成候选序列以降低解码计算开销。 2.分布式系统优化，探索多节点协同推理中的通信-计算负载均衡策略，提出基于异构硬件的混合并行调度方案，实现吞吐量提升。 3.稀疏Transformer优化与模型压缩，通过稀疏Transformer优化以及模型压缩技术提升模型的计算效率。 4.算子优化，熟悉最新硬件架构的算子优化方法，通过更高效的算子优化模型的吞吐和延时。