小红书Hi Lab-【Ace顶尖实习生】探索多模态大模型的通用能力增强和跨模态能力迁移
任职要求
1、不限年级，本科及以上在读，计算机/人工智能/软件工程等相关专业优先； 2、优秀的代码能力、数据结构和基础算法功底，熟练掌握至少一门编程语言，包括但不限于Python等； 3、有LLM/MLLM等多模态理解技术背景，或大规…
工作职责
本课题的研究目标是： 1、研究如何充分用好文本、图片、视频等各个模态的有效信息，进行高效的多模态数据表征和联合建模，能够更加高效的从各个模态中学习有效信息； 2、探索多模数据如何才能更高效的学习，多模数据如何对文本智能能力有提升，探索理解和生成的联合建模如何进一步提高多模态模型的能力上限。
1. 参与有道业务的UI设计工作，为新功能、新产品提供创意及设计方案； 2. 参与产品讨论，与产品经理、工程师协作，从视觉设计和用户体验的角度提出建议与解决方案； 3. 全面跟进产研流程，与产品、研发、测试团队紧密协作，跟进设计方案落地，保证设计方案高度还原。 4. 续关注设计趋势，主动挖掘视觉/体验问题，提出改进建议，提升产品设计品质。
【训练推理框架研发】 大模型hi lab AI Infra团队专注于大语言模型领域的前沿技术研究和落地，提供高性能、高可靠、可扩展的机器学习系统、丰富的异构计算资源和极致的端到端的机器学习服务体验，为公司提供核心技术能力和服务。 1、负责机器学习框架的研究与开发，服务于公司各个产品； 2、高效部署，优化NLP/多模态大模型核心业务模型； 【轻量化】 机器学习系统团队需要将传统或者新型的轻量化算法和工程有机结合起来进行加速，提高大语言模型训练或者推理性能的同时，通过算法手段尽可能降低效果损失。候选人将在以下几个方向进行深入探索和落地： 1、量化方向：负责但不限于大语言模型的低精度训练(FP8)、推理（W8A8KV8等）、低精度优化器（量化梯度、优化器状态、参数等） 2、高性能模型结构：大语言模型Finetune或者其他阶段的LoRA系列（熟悉各种变种），训练阶段的MQA/GQA系列等 3、稀疏化方向：大语言模型剪枝、稀疏、蒸馏、Sparse Attention等 4、新型方向：Medusa、超长文本、Speculative Sampling等
1、负责小红书基座大模型团队hi lab APP应用的客户端研发和产品迭代； 2、与产品、QA、服务端研发等团队保持良好的沟通，共同保证产品顺利推进； 3、设计良好的技术架构，与团队共同推进优化代码的健壮性、可维护性。持续不断的优化代码结构，承担重点、难点的技术攻坚。
在算力驱动的 AGI 和人文精神的烟火气交汇之处，我们真诚邀请对 AI 技术有信仰的同学加入，共同打造更具影响力的智能系统。你会成为团队的一员，并和其他同事协作，共同研发 SOTA 的智能技术。期待你以务实和客观的科学态度来推进技术的进展，不被过往经验裹挟、不被主观偏好影响。期待你除了算法外仍然是为出色的工程师。期待你对技术有强烈的好奇心和开放心态，以未来几年 AI 技术的质变突破为目标。 岗位说明：你会负责下述至少一件事情 1.海量的多模态数据处理：定性分析、定量评估数据质量，并给出 scalable 的改进方案，协助搭建多模态的数据流程； 2.搭建多模态的模型架构，在多种技术方案中找到 trade off 的关键，搭建更高效且可扩展的模型框架 3.研究并改进多模态模型的 Scale Law，随着模型的变化给出 Large Scale 上的技术选择（例如参数/数据比、不同超参数设置等）