月之暗面AI infra 推理实习生

职位要求 1、2026届及以后硕士及以上学历在读（博士优先），计算机、人工智能、数学、通信等相关专业； 2、拥有优秀数学基础和代码功底；基础优秀者无需大模型相关经验； 3、在体系结构、编译优化、分布式

岗位简介 加入我们，你将负责自动驾驶大模型从实验室到车端落地的关键一环——构建高吞吐、低延迟的推理服务平台。你会接触到业界最前沿的推理引擎（TensorRT、SGLang、vLLM）、KV Cache

1. 具备大模型多模态、CTR及端侧场景的推理引擎性能优化能力，能主导低延迟高吞吐方案设计； 2. 能够运用模型量化、蒸馏、压缩及端上编译优化等方法，实现资源受限环境下端侧模型的高效部署与运行； 3.

工作职责： 优化超大规模线上推理集群运行效率和稳定性 跟踪最新模型进展，设计技术架构将模型应用到产品 设计和优化工作流，通过自动化手段加速模型到产品的迭代效率 任职要求： 拥有良好的代码开发习惯，熟