月之暗面LLM推理优化工程师
社招全职3年以上技术类/Technical地点：北京状态：招聘
工作描述
核心职责 训练-推理协同优化 推动 Quantized-aware Training (QAT) 和 Quantized Training 的工程化落地，研发W8A8、W4A16等低比特训练方案，实现训练与推理精度-效率的最优平衡 设计并实现 Speculative Decoding（投机解码）及其变体（如EAGLE，DFlash等）的全链路方案，包括Draft模型训练、接受率优化与系统调度策略 建立从训练到推理的端到端优化链路，确保相关…
登录查看完整工作描述
微信扫码，1秒登录
包括英文材料
学历+
深度学习+
https://d2l.ai/
Interactive deep learning book with code, math, and discussions.
分布式系统+
https://www.distributedsystemscourse.com/
The home page of a free online class in distributed systems.
https://www.youtube.com/watch?v=7VbL89mKK3M&list=PLOE1GTZ5ouRPbpTnrZ3Wqjamfwn_Q5Y9A
Megatron+
https://www.youtube.com/watch?v=hc0u4avAkuM
vLLM+
https://www.newline.co/@zaoyang/ultimate-guide-to-vllm--aad8b65d
vLLM is a framework designed to make large language models faster, more efficient, and better suited for production environments.
https://www.youtube.com/watch?v=Ju2FrqIrdx0
vLLM is a cutting-edge serving engine designed for large language models (LLMs), offering unparalleled performance and efficiency for AI-driven applications.
还有更多 •••
相关职位
校招技术类/Tech
核心职责 训练-推理协同优化 推动 Quantized-aware Training (QAT) 和 Quantized Training 的工程化落地，研发W8A8、W4A16等低比特训练方案，实现
更新于 2026-08-14北京
社招1年以上技术类-开发
1. 具备扎实的计算机理论基础，对数据结构及算法有较强的功底； 2. 精通C++/Python至少一种语言，具备优秀的系统Debug/Profiling能力和性能调优经验； 3. 一年以上实战经验，具
更新于 2026-09-09杭州
实习阿里巴巴研究型实
1. 计算机或相关方向博士、硕士在读。扎实的工程能力，优良的编程风格，熟悉C++/Go/Python等1至2种语言； 2. 熟悉大模型推理技术，熟悉至少一种推理引擎。熟悉分布式缓存/存储系统； 3.
更新于 2026-03-17杭州
