美团基座大模型研究分析实习生
任职要求
1. 硕士及以上学历，计算机、数学、统计学或相关专业； 2. 熟悉Java/Python/C++等编程语言，良好的编码习惯和一定的工程能力 3. 具有机器学习或深度学习算法的基础知识，熟练掌握自然语言处理、多模态或大模型相关算法和模型； 4. 良好的沟通能力、团队合作精神以及较强的问题解决能力。 5. 对每一行代码负责，对业务…
工作职责
负责LLM大模型评测算法的研究以及评测模型的训练、优化，具体工作内容包括但不限于： 1. 深入理解大规模语言模型的模型结构、训练过程以及评测方案，根据模型的训练过程以及评测结果，对大语言模型存在的问题和评测存在的问题进行研究，根据研究结果进行优化落地。 2. 深入分析模型评测结果中不符合认知的异常，根据具体的异常制定完善的研究策略，通过对比、归纳等方法，产出研究分析结论，指导模型训练优化。 3. 构建Data-Centric的数据-训练-评测闭环，探索研究大模型的数据、模型结构、评测策略、评测数据等对模型评测效果的影响，得出有效认知，指导模型训练和评测方案的建设。 4. 追踪大模型方向的前沿进展，积极主动地学习和探索新数据分析、模型训练以及模型评测方法。 5. 与各相关部门保持良好沟通，深度参与大模型预训练、SFT、RLHF和评测等阶段，共同推动大模型持续优化。
主要负责多模态大模型在具身智能方向的模型能力分析和训练策略优化，并且对训练数据、训练策略和模型能力之间的关系进行研究分析，产出可行的模型评测方案和训练策略，具体工作内容包括但不限于： 1. 追踪多模态大模型在具身智能方向的前沿进展，积极学习新的模型结构、前沿模型认知，并进行深入分析。 2. 建设验证具身智能的GPT时刻的评测方案和度量分析方法，指引行业的技术迭代； 3. 探索VLA的data-scaling方案，通过VLM的基座能力提升来推进具身任务泛化，实现zero-shot/few-shot的跨任务、跨本体的泛化； 4. 积极探索多模态大模型同环境交互的学习方法，研究通过强化学习的下一代智能提升的关键途径。 5. 与各相关部门保持良好沟通，深度参与多模态模型的训练过程，共同推动多模态大模型持续优化。
1. 负责多模态大模型基座架构优化、视觉编码器性能优化和多模态混合训练； 2. 参与数据建设、指令微调、偏好对齐、模型小型化优化经验(包含模型蒸馏、模型Token裁剪等)； 3. 参与大模型实际训练和项目落地，有模型轻量化优化经验优先; 4. 负责部分数据集构建、模型评测等任务梳理。
团队介绍： 我们团队负责高德出行大数据的分析和应用开发，在机器学习、深度学习、大模型agent等方向探索解决业务问题，洞察业务机会，打造智能化的用户出行数据引擎。我们鼓励创新，鼓励发表论文和申请专利，乐于用新技术在业务方向做实际落地的尝试，期待你的加入！ 具体职责包括但不限于： 1、负责机器学习、深度学习领域的数据挖掘研发工作，应用高德人地时空大数据挖掘用户画像、解决用户痛点问题； 2、负责时空大数据与AI Agent结合的应用实践，探索时空大数据Agent落地时间； 3、针对特定的业务场景对基座大模型进行微调优化，实现专属技能模型的能力升级和性能提升。
1. 跟进和研发扩散模型、视频生成基座模型等先进生成算法和模型； 2. 跟进和研发视频生成应用大模型、多条件可控生成等先进的生成算法、模型和策略； 3. 研发基于视频生成大模型的视频AIGC工具应用； 4. 结合以上方向的探索和研究，撰写发表论文，和业界、学术界保持良好的交流。