小米大模型算法研究员
任职要求
1. 本科及以上学历，计算机相关专业，具有至少3年的机器学习、深度学习相关工作经验 2. 有大模型微调、预训练等实践经验；熟悉掌握Transformer、各类NLP主流模型技术方法； 3. 熟悉Python，熟练使用TensorFlow/PyTorch等深度学习框架，熟悉java/C++中的一种 4. 对技术有激情，喜欢钻研，能快速接受和掌握新技术，有较强的独立、主动的学习能力，良好的沟通表达能力；
工作职责
1. 基于海量多模态感知数据，利用大模型微调等技术建立端侧和云端用户感知能力，应用在手机、汽车、IoT场景； 2. 负责IoT主动智能推荐算法优化，探索基于大模型的生成式推荐技术，提升IoT智能推荐决策能力； 3. 负责优化小爱从用户对话中提取记忆的能力，并应用在个性化场景中；
AI赋能下沉业务，优化业务流程，提升业务效能。 1、大模型高效微调方法，包括数据采样与增强、微调技术探索等，持续提升模型的知识覆盖、推理、工具调用，长文本，RAG等相关能力； 2、大模型对齐方法，包括对齐策略迭代、奖励模型优化、数据构造与优化等，提升模型在安全、可信，风格等方面的表现； 3、基于LLM/VLM的Agent构建，包括通用Agent构建、Computer-Use能力探索、FunctionCall能力评估与增强等； 4、探索前沿的大模型相关技术，包括但不限于MoE、原生多模态、长文本技术、智能体构建等，并将前沿技术应用在业务中； 5、视觉-语言模型(VLM)优化方法，包括视觉-语言的特征对齐、VLM的优化和评估等；
1. 创新深度神经网络设计： - 开发新颖、开拓性的深度神经网络架构，推动深度学习领域的基础研究。 - 针对多模态（文本、图像、语音等）设计优化模型，提高模型的泛化能力和应用性能。 2. 科学评测体系构建： - 构建科学严谨的算法评测方法，系统评估模型的性能。 - 探索模型能力的潜在机制，推动模型优化和创新。。 3. 高质量数据合成与处理： - 通过数据生成、扩充和重写等方法，创建大规模、高质量的训练数据集。 - 结合指令调优、偏好对齐等技术提升数据质量与模型表现。 4. 强化学习优化： - 研究并实施基于RLHF/RLAIF的偏好对齐技术，提升模型在多领域的应用能力。 - 探索和优化主动学习、课程学习等有效的大模型训练方法。
1. 创新深度神经网络设计： - 开发新颖、开拓性的深度神经网络架构，推动深度学习领域的基础研究。 - 针对多模态（文本、图像、语音等）设计优化模型，提高模型的泛化能力和应用性能。 2. 科学评测体系构建： - 构建科学严谨的算法评测方法，系统评估模型的性能。 - 探索模型能力的潜在机制，推动模型优化和创新。。 3. 高质量数据合成与处理： - 通过数据生成、扩充和重写等方法，创建大规模、高质量的训练数据集。 - 结合指令调优、偏好对齐等技术提升数据质量与模型表现。 4. 强化学习优化： - 研究并实施基于RLHF/RLAIF的偏好对齐技术，提升模型在多领域的应用能力。 - 探索和优化主动学习、课程学习等有效的大模型训练方法。
1.研究实现AGI的关键能力，通过技术愿景驱动研究工作。负责大语言模型和多模态大模型的训练和优化（包括预规划、后训练等）长期课题的研究，提升大语言模型的能力，并在广泛业务场景中产生价值。 2.负责LLM训练相关的工作，包括后预训练、Instruction Tuning以及强化学习等； 3.深入参与数据及评估体系建设、大规模训练、指令微调、偏好对齐、模型优化等关键工作； 4.探索大模型底层技术突破，深入大模型基础架构前沿研究（如MoE、注意力机制、x等），探索新型架构和技术创新。