小红书Hi Lab-【Ace顶尖实习生】探索大模型预训练更加高效的scaling效率优化
任职要求
1、不限年级，本科及以上在读，计算机/人工智能/软件工程等相关专业优先； 2、优秀的代码能力、数据结构和基础算法功底，熟练掌握至少一门编程语言，包括但不限于Python等； 3、有LLM/MLLM等多模态理解技术背景，或大规模模型训练实际项目经验者优先； 4、在TPAMI/CVPR/NeurIPS/ICCV/ICML/ICLR等顶级期刊会议上发表相关论文者优先； 5、良好的沟通协作能力，责任心强，积极主动，能和团队一起探索新技术，推进技术进步。
工作职责
本课题的研究目标是研发更高效的预训练scaling效率，通过数据策略、模型结构设计(Dense, MoE, Long Context等)、初始化&优化器策略、学习范式的创新，深度理解模型的学习机制和评估方法，能够更精准的预测模型行为，并持续提升模型预训练从算力&数据到智能的转化效率。
本课题的研究目标是研发大规模、高效易用的大模型训练框架，针对不同模型架构，探索多机多卡分布式训练的性能极限。 包括不限于： 1、高度稀疏化、长文本的模型训练策略优化； 2、大规模MoE模型的大规模RL训练性能优化； 3、基于模型的训练和推理瓶颈，工程算法Codesign探索下一代大模型网络结构设计。
本课题的研究目标是： 1、研究如何充分用好文本、图片、视频等各个模态的有效信息，进行高效的多模态数据表征和联合建模，能够更加高效的从各个模态中学习有效信息； 2、探索多模数据如何才能更高效的学习，多模数据如何对文本智能能力有提升，探索理解和生成的联合建模如何进一步提高多模态模型的能力上限。
本课题的研究目标是研发面向复杂场景的可拓展大规模强化学习系统。 包括不限于： 1、超大规模Reward System构建； 2、面向复杂场景构建“策略与反馈一体化”的递归自我增强方法，解决“AI超越人类”时的可拓展监督问题； 3、面向长程任务探索人机合作博弈的强化学习机制，实现模型在超长程复杂任务上的需求明确、自我规划与执行校验能力；让AI从被动完成指令的工具转变为主动推动任务进展的的协作者，实现目标对齐； 4、强化学习进程中的大模型可解释性、可理解性。
本研究方向探索如何使AI系统获得持久记忆与持续学习能力，从根本上改变人机交互的本质。当前AI模型通常缺乏跨会话的记忆保持和经验积累，难以形成对用户的深度理解。我们致力于构建能够记住互动历史、理解个人背景并随时间成长的AI系统，使其不仅能回忆与特定用户的共同经历，还能从这些经历中学习并适应。 研究将关注记忆形成与提取的认知机制、个性化交互模式的动态调整，以及知识持续更新而不遗忘核心能力的平衡策略。这一方向的突破将推动AI从单一功能工具向能够建立长期关系的智能伙伴转变，为未来AI系统打开全新的应用场景和交互范式，使人机协作更加自然、高效且个性化。