美团【北斗】大模型推理系统工程师
校招全职核心本地商业-基础研发平台地点:北京 | 上海状态:招聘
工作描述
任职要求 【任职资格】 1.熟悉PyTorch等深度学习框架。 2.熟悉sglang、vLLM、trt-llm、FasterTransformer等开源框架。 3.能够熟练掌握Python、C++、CUDA等开发语言中的一种。 4.有比较强的数据结构、算法和统计分析、数学建模的能力。 【为什么是我们】 1.大模型推理的前沿研究,从推理加速算法到推理框架、硬件感知的算子优化等方面,算法、软件、硬件协同设计的工作模式,对个人的能力提升大。 2.研究和应用相辅相成,内部大量应用场景,研究工作不缺乏落地机会。 3.团队人员工程、算法实力都比较强,能够获得非常好的成长环境。 工作职责 【愿景】 美团龙猫基座大模型,不只聪明,更懂生活。从语言理解到全模态感知,从架构创新到极致推理,从海量预训练到亿级真实订单 …
登录查看完整工作描述
微信扫码,1秒登录
包括英文材料
PyTorch+
https://datawhalechina.github.io/thorough-pytorch/
PyTorch是利用深度学习进行数据科学研究的重要工具,在灵活性、可读性和性能上都具备相当的优势,近年来已成为学术界实现深度学习算法最常用的框架。
https://www.youtube.com/watch?v=V_xro1bcAuA
Learn PyTorch for deep learning in this comprehensive course for beginners. PyTorch is a machine learning framework written in Python.
深度学习+
https://d2l.ai/
Interactive deep learning book with code, math, and discussions.
SGLang+
[英文] Install SGLang
https://docs.sglang.ai/get_started/install.html
SGLang is a fast serving framework for large language models and vision language models.
https://github.com/sgl-project/sgl-learning-materials
大模型+
https://www.youtube.com/watch?v=xZDB1naRUlk
You will build projects with LLMs that will enable you to create dynamic interfaces, interact with vast amounts of text data, and even empower LLMs with the capability to browse the internet for research papers.
https://www.youtube.com/watch?v=zjkBMFhNj_g
vLLM+
https://www.newline.co/@zaoyang/ultimate-guide-to-vllm--aad8b65d
vLLM is a framework designed to make large language models faster, more efficient, and better suited for production environments.
https://www.youtube.com/watch?v=Ju2FrqIrdx0
vLLM is a cutting-edge serving engine designed for large language models (LLMs), offering unparalleled performance and efficiency for AI-driven applications.
还有更多 •••
相关职位
实习核心本地商业-基
1、具有扎实的编程功底,熟悉 C++/CUDA 编程最佳; 2、深入理解 Transformer/MoE/Attention 等 LLM 概念; 3、熟悉 RDMA,PD 分离等技术; 4、有一手的开
更新于 2026-04-03北京|上海
实习核心本地商业-基
1、熟悉NLP、LLM、RL等相关领域,对其中一个或多个方向有深入的研究经历,且有相关实际项目经验; 2、熟悉Python、C++等至少一门编程语言,熟悉LINUX环境; 3、熟悉 Megatron、
更新于 2026-04-03北京|上海
校招核心本地商业-业
【任职资格】 2027届本科及以上学历,计算机、人工智能等相关专业,且以下条件至少满足一项: 1.有大厂实验室的实习经验,或有贡献突出的开源项目,熟悉PyTorch、Megatron、vLLM/SGL
更新于 2026-06-03北京|上海