小鹏汽车大语言模型算法实习生

1. 负责大语言模型（LLM）在人形机器人中的算法设计与开发，将LLM应用于机器人的对话、环境感知与人机交互任务 2. 参与大模型从预训练到后训练的全链路流程，深入分析模型对数据的敏感点，通过数据迭代与合成技术推动模型能力提升 3. 基于主流的大规模数据处理框架，参与搭建高效的数据处理 Pipeline，从海量原始数据中“炼金”，让它们转化为可直接驱动模型训练的高质量数据 4. 跟踪前沿研究，推动新技术在产品中的落地应用，根据业务需求，有机会参与LLM团队针对语言模型后训练RL框架的搭建与优化

我们正在寻找对大语言模型(Large Language Model,LLM)充满热情的数据算法工程师,加入我们的核心AI团队。你将主要负责LLM高质量与大规模数据的采集与处理，并参与从LLM预训练、微调、推理优化到多场景应用落地的全流程工作，推动LLM技术在对话系统、内容生成、知识推理、具身智能等领域的创新 1. 主导LLM数据的采集和处理，搭建高效的数据处理 Pipeline，实现从海量原始数据到可直接驱动模型训练的高质量数据的转化。 2. 打造并优化数据平台的核心模块（包括处理、标注、对齐、存储与可视化），确保数据的可追溯性与可验证性。 3. 参与大模型从预训练到后训练的全链路流程，深入分析模型对数据的敏感点，通过数据迭代持续提升模型能力。 4. 紧跟全球前沿技术动态，研究并引入最新的数据集与标准，将优秀的开源经验转化为团队的核心优势，持续扩展数据版图。

我们致力于打造淘宝直播场景下“高智商、高情商”的下一代智能数字人主播，通过大模型 + 智能体（Agent） + 强化学习（RL） 的深度融合，构建具备自主决策、实时互动与高转化能力的直播AI系统。你将参与以下前沿探索： 1. 大模型与Agentic RL的协同训练范式研究：探索高效Agentic RL算法（样本效率、奖励函数设计、多智能体协作等）； 2. 多模态Agent研究：融合视觉（商品/表情/动作）、语音、文本等多源信号，通过多模态强化学习优化Agent行为策略； 3. 构建基于Agentic RL的数字人决策引擎：设计可自主调用商品工具、垂域多模态知识库查询工具、控制话术、响应观众意图的智能体架构，实现动态控场、个性化互动与高效转化； 4. 研究基于RL等算法的自主进化Agent； 5. 产出高质量学术论文和专利。

我们正在寻找对大语言模型（LLM）的底层原理、性能优化和高效预训练充满热情的算法实习生。您将加入我们的核心研发团队，主要负责LLM预训练阶段的算法设计、优化与实现，包括模型架构的探索、训练稳定性的提升、大规模分布式训练的优化等。我们的目标是基于业务需求，设计并训练对硬件计算友好的语言模型，从根本上突破模型的性能和训练效率极限，加速LLM在人形机器人、自动驾驶、多模态等前沿领域的落地。 工作职责： 1. LLM预训练算法研发与实现： 主导1~7B参数级别的Dense以及MoE Transformer模型以及其他前沿架构在预训练阶段的设计、实验与优化，以提升模型的基础能力和效率。 2. 基准测试与性能优化： 负责模型训练过程中的关键性能指标监测与优化，特别是MMLU, GSM8K, MATH等常见标准化测试的表现。通过算法迭代，持续提高模型在理解、推理和泛化能力方面的分数。 3. 训练稳定性与效率提升： 负责分析和解决超大规模训练过程中的数值不稳定、梯度爆炸/消失等问题，引入和实现如混合精度训练、梯度裁剪、学习率调度等优化策略。 4. 前沿技术追踪与转化： 紧密追踪全球LLM预训练、Scaling Law、新型优化器（如AdamW、Lion）等最新研究进展，评估并将业界顶尖的算法创新快速转化为我们的核心竞争力。 5. 跨团队协作： 与数据工程师紧密合作，分析数据对预训练效果的影响，并与系统/硬件工程师协作，共同调优底层计算资源以实现最高训练吞吐。