小鹏汽车【26届校招】大语言模型应用工程师
任职要求
岗位需求 1. 教育背景： 计算机、人工智能、软件工程等相关专业本科及以上学位。 2. 模型实战经验： 具备 LLM（如 LLaMA, GPT, Qwen 等）的实际使用、调优或应用开发经验。 3. 核心技能： (至少熟悉以下一项) - 有实际的 LLM SFT/RLHF 等微调经验，熟悉主流的微调框架（如 verl, Trinity-RFT, Axolotl, etc）。 - 有大规模应用服务部署经…
工作职责
我们正在寻找对大语言模型（LLM）的应用落地、效果调优和系统效能提升充满热情的工程师。您将加入我们的核心研发团队，主要负责将先进的 LLM 技术转化为实际的业务价值，特别是在指令微调（SFT）、智能体（AI Agent）的设计与部署，以及应用基础设施（Infra）的优化。我们的目标是打造高效、可靠、智能的 LLM 应用解决方案，加速模型在人形机器人、自动驾驶、多模态等前沿领域的落地。 1. LLM 微调与应用落地：负责设计并执行 LLM 的指令微调（SFT）和对齐（如 RLHF/DPO）实验，以提升模型在特定应用场景（如代码生成、复杂推理、对话）的表现。主导模型效果的评估体系搭建和优化，确保模型输出的准确性、安全性和一致性。 2. 云端训练框架与效率优化：主导 LLM 微调（SFT/对齐）流程在云端环境下的效率优化，包括数据加载、多机通信、资源调度、框架稳定性等方面，确保 SFT 流程的高效、稳定和低成本运行。 3. 前沿应用技术追踪：紧密追踪 LLM 在 Agent 框架、长上下文处理、多模态交互等应用层面的最新研究与工程实践，并将其快速引入到产品线。 4. AI Agent 研发与部署：探索并实践基于 LLM 的 AI Agent（智能体） 框架，包括工具调用（Tool Use/Function Calling）、规划（Planning）、记忆（Memory）等核心模块的设计与实现。将开发的 Agent 系统集成到实际产品或业务流程中，提升自动化和智能决策能力。 5. 跨团队协作：与算法、数据和产品团队紧密合作，将模型优化成果快速产品化，并收集应用层的反馈来指导下一轮模型迭代。
我们正在寻找对大语言模型(Large Language Model,LLM)充满热情的数据算法工程师,加入我们的核心AI团队。你将主要负责LLM高质量与大规模数据的采集与处理，并参与从LLM预训练、微调、推理优化到多场景应用落地的全流程工作，推动LLM技术在对话系统、内容生成、知识推理、具身智能等领域的创新 1. 主导LLM数据的采集和处理，搭建高效的数据处理 Pipeline，实现从海量原始数据到可直接驱动模型训练的高质量数据的转化。 2. 打造并优化数据平台的核心模块（包括处理、标注、对齐、存储与可视化），确保数据的可追溯性与可验证性。 3. 参与大模型从预训练到后训练的全链路流程，深入分析模型对数据的敏感点，通过数据迭代持续提升模型能力。 4. 紧跟全球前沿技术动态，研究并引入最新的数据集与标准，将优秀的开源经验转化为团队的核心优势，持续扩展数据版图。
我们正在寻找对大语言模型（LLM）的底层原理、性能优化和高效预训练充满热情的顶级算法工程师。您将加入我们的核心研发团队，主要负责LLM预训练阶段的算法设计、优化与实现，包括模型架构的探索、训练稳定性的提升、大规模分布式训练的优化等。我们的目标是基于业务需求，设计并训练对硬件计算友好的语言模型，从根本上突破模型的性能和训练效率极限，加速LLM在人形机器人、自动驾驶、多模态等前沿领域的落地。 工作职责： 1. LLM预训练算法研发与实现： 主导1~7B参数级别的Dense以及MoE Transformer模型以及其他前沿架构在预训练阶段的设计、实验与优化，以提升模型的基础能力和效率。 2. 基准测试与性能优化： 负责模型训练过程中的关键性能指标监测与优化，特别是MMLU, GSM8K, MATH等常见标准化测试的表现。通过算法迭代，持续提高模型在理解、推理和泛化能力方面的分数。 3. 训练稳定性与效率提升： 负责分析和解决超大规模训练过程中的数值不稳定、梯度爆炸/消失等问题，引入和实现如混合精度训练、梯度裁剪、学习率调度等优化策略。 4. 前沿技术追踪与转化： 紧密追踪全球LLM预训练、Scaling Law、新型优化器（如AdamW、Lion）等最新研究进展，评估并将业界顶尖的算法创新快速转化为我们的核心竞争力。 5. 跨团队协作： 与数据工程师紧密合作，分析数据对预训练效果的影响，并与系统/硬件工程师协作，共同调优底层计算资源以实现最高训练吞吐。
负责大语言模型和多模态大模型的核心算法研发，推动模型能力在具身智能场景中的落地。 1、大模型预训练、指令微调、偏好对齐（RLHF/GRPO）的算法研发与工程实现，提升模型在推理、规划、工具调用等维度的能力； 2、多模态大模型（VLM/VLA）的研发，探索视觉-语言-动作联合建模，支撑机器人任务规划与交互理解； 3、强化学习算法研究，包括但不限于：过程奖励建模、测试时计算优化（test-time compute）、模型自我进化； 4、将研究成果部署到人形机器人系统（VLT 任务规划、HRI 交互、操作 VLA），完成从论文到产品的闭环。
负责大模型训练、推理和评测的基础设施研发，为算法团队提供高效稳定的工程底座。 1、训练系统：设计和优化大规模分布式训练架构（Pretrain/SFT/RL），解决千卡级训练的通信、调度、容错问题； 2、推理部署：基于 vLLM 等框架优化大模型推理性能，支撑 VLT/Omni 等模型在 XP5 端侧和云端的部署； 3、评测平台：开发 DeepInsight 评测系统，支持 LLM/VLM/WBC/VLA 多类模型的自动化评测、报告生成和 CI/CD 集成； 4、MLOps 工具链：构建模型版本管理、实验追踪、数据管理、资源调度等基础设施，提升研发效率； 5、RL 训练环境：构建分布式强化学习训练系统，支持 Agent-环境大规模并行交互。