理想汽车【实习生】模型部署优化实习

【关于我们】 小鹏机器人中心致力于研发先进的人形机器人技术，包括机器人的行走、操作、智能导航，以及在大语言模型支持下的人机交互等。我们的软硬件团队覆盖深圳、上海、广州、北京和北美，组成了一支世界一流的跨领域团队。作为本团队的一员，你将成为连接人工智能与物理世界的桥梁，与其它领域的工程师共同解决前沿的科研和工程难题，并在机器人技术的发展中留下自己的印记。 作为小鹏机器人核心团队的实习生，你将深入参与具身智能（Embodied AI）VLA 大模型的全链路优化工作，主要探索和负责以下领域： 核心职责：参与具身 VLA 大模型的部署优化，熟悉算子优化、模型量化等原理。 技术探索：参与研究和应用最新的大模型结构，探索软硬一体的高效模型部署设计方案，提升模型推理性能。 团队协作：与算法、硬件及基础设施团队紧密合作，共同推进模型从训练到部署的迭代，解决前沿工程技术与算法论文在真实场景中的落地挑战。

1. 负责自动驾驶模型在嵌入式平台上的部署与性能优化。 2. 设计并实现模型量化、剪枝、蒸馏等轻量化技术方案。 3. 协同算法团队完成模型训练到部署的全流程闭环。 4. 分析并解决模型部署过程中的精度损失与实时性瓶颈问题。

岗位职责： 1. 将训练好的模型（LLM、CV等）部署到机器人端侧平台，完成推理加速优化 2. 使用 TensorRT、ONNX Runtime、vLLM 等工具链进行模型编译、量化、推理加速 3. 优化模型在 GPU/NPU 上的内存占用和推理延迟 4. 搭建模型部署与性能评测 pipeline 5. 与算法团队合作，将新模型快速集成到机器人系统中

【职位前言】 DeepSeek-R1的发布给世界带来了不小的震撼，更令人敬佩的是，无论是赶超OpenAI o1的模型效果，还是节省百万美元成本的工程优化，这背后的原理与实现都在官方发布的技术报告和开源项目中一一公开。 大语言模型的前沿研究将不再只是少数巨头才玩得起的项目，更多的研究者可以入局这场对人工智能探索的新征程。 如果您对模型背后的工程优化充满好奇（FP8混合精度训练、分布式专家并行等），想深入了解并上手实践，但又没有合适的计算资源与明确的优化目标，又对模型 post-training（GRPO强化学习、模型蒸馏等等）跃跃欲试，但又没有明确的应用场景和数据资源—— 那不妨来网易云音乐，和我们搭上这趟时代的列车，一起拆解硬核技术，聚焦于音乐业务中的搜索、推荐、广告场景，探索大模型的应用落地与高效部署。 【职位描述】 1、参与大模型在后训练和推理工程中的性能优化，结合底层硬件特性从混合精度训练、矩阵计算加速、注意力机制计算优化、GPU分布式并行等方面提升工程效率； 2、通过强化学习、模型蒸馏等方式，构建音乐领域具有 CoT 推理能力的大语言模型，应用于搜索、推荐、广告等业务场景。 【我们拥有】 1、音乐行业内海量用户独一无二的数据资源； 2、贴近实际的业务场景，让 idea 落地并发挥价值； 3、可观的计算资源，性能上还有极大的空间待与你一同挖掘； 4、鼓励创新探索、倡导悉心钻研、宽松融洽多元的团队氛围； 5、成果转换的支持，合作完成项目及论文，助力未来的职业发展。