小米自动驾驶 - 大模型训练框架优化专家
任职要求
1. 本科及以上学历,扎实的编程基础(Python/C++)与良好的工程习惯 2. 精通深度学习框架底层原理(PyTorch 核心机制如Torch.Compile, Autograd、TorchScript, XLA), 3. 熟悉分布式训练框架(Horovod、Megatron-LM、DeepSpe…
工作职责
1. 负责分析和优化大模型的分布式训练链路,提升训练性能和效率; 2. 对大模型训练优化技术展开研究,并落地到自动驾驶; 3. 负责推进训练框架和AI平台的结合,建立先进的训练调度机制、集群算力利用率评估机制等。
1、负责基于现有大模型训练框架分析自动驾驶与机器人模型训练链路,包括数据加载、分布式并行、显存占用、通信开销和算子执行等环节,定位性能瓶颈; 2、围绕训练吞吐、GPU 利用率和模型迭代效率开展优化,推动训练周期缩短和训练资源成本下降; 3、结合 PyTorch、Megatron-LM、DeepSpeed 等技术栈,开展分布式训练策略、混合精度、算子融合、通信优化和 CUDA 高性能算子优化; 4、推进训练框架与 AI 平台、调度系统和监控体系协同,建立训练效率、集群算力利用率和任务稳定性的评估机制; 5、探索 AI Agent 在自动化 profiling、瓶颈定位和代码优化建议中的应用,沉淀可复用的训练优化工具链。
岗位描述: 1.负责支持小鹏VLA2.0、智能座舱、具身等新一代大模型的部署架构设计和开发,不同芯片上架构统一。 2.负责新一代大模型的端侧量产部署,解决各种端侧实际部署问题颜。 3.负责在大模型自驾芯片上的性能优化,充分挖掘芯片性能,确保大模型的端侧软件性能表现满足量产需求。 4.探索未来大模型和推理芯片上的新一代的软件架构和部署方案案。
加入我们,驱动自动驾驶的未来! 现正积极招募对大模型技术充满热情的实习生。如果你对VLM(视觉语言模型)、VLA(视觉语言动作模型)、世界模型、视频生成或强化学习有浓厚兴趣或研究经验,欢迎加入我们,共同探索自动驾驶技术的边界! 职位亮点 • 前沿技术探索:深入参与多模态大模型、生成式世界模型、强化学习等尖端技术在自动驾驶领域的应用研究 • 全流程实践:从数据构建、模型设计、训练优化到评测部署,全面参与自动驾驶大模型的研发全流程 • 丰富资源支持:提供大规模真实驾驶场景数据集与充足计算资源,支持技术创新与突破 • 成果转化与发表:开放的技术氛围,支持顶会论文发表与专利申请,优秀成果有望落地应用 • 参与VLA/VLM算法研发,探索视觉-语言-动作模型在自动驾驶决策规划中的应用 • 开展生成式世界模型研究,包括状态建模、轨迹预测与端到端规划 • 运用强化学习/模仿学习技术,提升模型在复杂驾驶场景的应对能力 • 构建多模态预训练与SFT数据集,优化模型泛化性与鲁棒性 • 跟踪顶级会议最新研究成果,复现开源项目并进行技术验证