阿里巴巴LLM大模型应用算法实习生
任职要求
1. Agent方向：深入理解Transformer架构、掌握预训练（Pretrain）、监督微调（SFT）等基础算法，并深入应用 RLHF、RLAIF、DPO/GRPO 等对齐技术； 2. LLM方向：熟悉常见LLM模型，理解LLM的原理和架构，扎实的机器学习/深度学习基础，熟练掌握深度学习框架，如PyTorch等，并…
工作职责
1. Agent方向：直接参与到导购Agent的算法研发工作，包含无障碍导购Agent、搜索导购Agent两个Agent项目并结合技术创新与实际业务落地，产出高质量论文、专利与开源成果。包括相关项目的高质量数据构建，支撑复杂任务建模与行为学习，运用大模型SFT、RL等Post-training训练方法并探索 Online RL 等前沿方法，设计并落地“过程监督 + 结果监督”联合训练范式，融合MCTS、ToT、Reflection等推理方法，等等； 2. LLM应用方向：探索基于LLM的Query理解大模型，通过天猫的数据微调大模型生成ID表征向量，在搜索和推荐算法各模块进行深度的探索和应用。包括但不限于语义相关性、类目预测、召回排序等。探索生成式搜索技术（如Query扩展、结果摘要生成），助力搜索从“信息呈现”向“决策辅助”升级； 3. 结合业务需求，设计和扩展LLM的应用场景范围及规模，提高模型微调后再垂直领域的应用及专家模式的架构尝试； 4. 跟踪LLM与Agent领域的国际前沿技术动态，开展前沿算法的研究工作，推动技术创新在业务场景中的落地应用，重点突破复杂推理、GUI Agent、AI搜索等方向的技术沉淀和业务创新。
我们是网易云音乐算法团队，专注于行业领先的搜索或者推荐算法，我们致力于通过技术赋能云音乐各项业务，通过社区广场推荐，提升用户体验，产生商业化价值。 在这里你可以： 1、参与云音乐各场景相关的AIGC算法应用，使用NLP、多模态、LLM等技术，优化包括多模态内容理解、大模型交互式对话、大模型AI创作生成等业务应用的效果提升； 2、参与云音乐创新业务相关的算法优化，使用业界领先的深度学习、强化学习、图模型等，优化推荐、直播、声音、社交等业务的算法； 3、参与前沿的基础算法模型建设，包括继续预训练、视频生成微调，音乐生成训练等垂类基座模型的构建和应； 4、接触到亿级别海量、真实的用户数据，使用深度学习、强化学习、图模型等算法，发挥推荐的价值； 5、使用行业领先的大规模分布式机器学习平台，例如tensorflow等开源的工具，实现并不断优化推荐、搜索等算法。
团队负责小红书生成式推荐方向，目前已经完成了原型架构的开发和线上验证，欢迎有能力、有热情的同学一起，共同探索生成式推荐和多模态大模型在真实业务场景的价值。
尽管当前的多模态大模型（融合视觉、语音、文本）已展现出强大的感知与理解潜力，但是在实时交互场景中，由于模型设计导致的高延迟、生硬的轮次状态、频繁的打断或被打断严重影响信息传递效率。同时多个模态无法实时融合也限制了多模态模型在语音交互场景下的深度应用。生成的交互内容有时显得冗长、缺乏提炼或智能不足，这些问题限制了用户与大模型实时交流的体验。 本课题的目标是设计并验证一种全模态实时交互的大模型架构，将视觉模态、语音流模态、思考模态信息以及 SOTA LLM 进行实时融合。从而使得大模型可以与人进行即时、流畅、且深入浅出、富有智慧的多模态自然语音对话。
1、进行多模态大模型的前沿技术探索、模型训练和应用，落地在小红书实际业务场景如智能审核、推荐、搜索、交易，多模态内容理解来解决实际业务问题 2、参与多模态大模型预训练、后训练、SFT等大规模数据训练工作 3、参与LLM/LVM相关的技术业务落地，包括但不限于多模态理解、Agent搭建、RAG、意图理解等技术 4、前沿技术探索，沉淀国际顶会论文