小米顶尖应届-大语言模型算法工程师-大模型
任职要求
熟悉大语言模型（如Transformer、MoE）的核心原理，具备以下至少一项经验： - 大规模模型训练（分布式训练、数据优化） - 强化学习、奖励建模或AI Agent开发 - 代码生成、程序理解或相关领域 - 模型架构优化（如高效推理、长上下文处理） 熟练使用PyTorch、DeepSpeed等框架，具备代码实现与调试能力。
工作职责
参与大语言模型的核心技术研发，包括但不限于： - 预训练优化（数据合成、长上下文建模、训练动态分析） - 后训练技术（强化学习、奖励模型、推理能力提升） - 代码生成与理解（自动化数据构建、运行反馈优化） - 模型架构创新（MoE、高效推理、稳定性优化） - 探索AI Agent、长序列推理、在线学习等新兴方向
1. 构建行业有影响力的各类智能体和研究对应学术前沿问题，训练业界效果领先的大模型智能体模型，并通过发表论文、开源、竞赛等，打造学术影响力； 2. 打造业界一流的通用大模型智能体解决方案，并落地小米核心业务。 【课题名称】 大模型智能体研究与应用 【课题内容】 构建行业有影响力的各类智能体和研究对应学术前沿问题，包括但不限于： 1. 研究通用任务AI Agent核心技术，包括但不限于规划、工具调用、多智能体等，并构建和开源业界有影响力的AI Agent模型和解决方案； 2. 研究GUI Agent相关核心技术，包括但不限于SFT、离线强化学习、在线强化学习等，并训练和开源业界有影响力的GUI Agent模型； 3. 研究强化学习算法全流程核心技术，包括但不限于算法优化，奖励函数设计、环境构建等，并基于强化学习构建和开源业界有影响力的推理大语言模型、GUI Agent模型、deep search模型等； 4. 研究RAGRAG全流程核心技术，包括但不限于音-视-文全模态理解与生成、端侧RAG等，并推动相关领域技术突破和业务落地。
1. 多模态感知融合：结合用户的语音、表情、手势姿态、眼动，以及汽车各种传感器状态，实现对模态输入的编码与解码； 2. 利用在线强化学习实现端云结合的大模型基座更新； 3. 基于大模型的生成能力，构建用户反馈行为序列； 4. 构造大模型在线主客观评估体系。 【课题名称】 基于大模型的意图监测 【课题内容】 通过在线强化学习（RL）、多模态感知理解生成技术，实现对用户意图的精准识别和响应。
1. 大规模语音模态预训练 研究如何用千万小时级别语音数据在百亿级别参数模型上进行高效预训练，有效提取与利用通用声学与语义特征，提升语言理解及语音生成的一致性和自然度； 2. 多语言语音理解与生成 研究跨语言语音数据的共享表示方法，提升语音模型对多语言、方言的适配能力； 3. 噪声环境及复杂声学场景下的处理能力 研究语音大模型在嘈杂、混响、远场等典型场景下的泛化性； 4. 探索高效语音信息压缩方法 研究语音模态压缩方法，以实现长时理解，并适配不同类型的设备（云侧和端侧）的部署需求。 【课题名称】 语音理解和生成大模型 【课题内容】 本课题拟围绕先进的语音理解与生成大模型，研发面向复杂场景的通用语音技术。项目将通过大规模语音数据预训练与强化学习方法，探索高鲁棒性、高自然度的语音理解与生成能力。
1. 负责大语言模型线上推理框架的性能优化，解决高并发、低延迟、高可靠性等核心问题，提升服务吞吐量与稳定性； 2. 设计并实现分布式大模型推理系统，优化多卡（如NVIDIA GPU集群）资源调度与通信效率，支持千卡级训练/推理场景； 3. 深度适配NVIDIA GPU硬件架构，利用CUDA、cuDNN等工具链进行算子级优化，提升模型计算效率与显存利用率； 4. 调研并引入前沿技术（如异构计算、AI编译器优化），推动模型量化、蒸馏等轻量化方案落地。 【课题名称】 大模型分布式推理加速 【课题内容】 探索和实现大模型大规模推理加速包括分布式推理架构，模型和算法优化等。