小红书【Ace顶尖实习生】面向多Agent架构的分布式强化学习训练技术研究

随着广告系统从“流量匹配”向“深度理解”演进，传统的模型范式在面对用户动态变化的兴趣与复杂决策场景时，逐渐显露出语义理解浅、策略同质化等局限。本课题“面向千人千面Agent的广告大模型能力构建”，旨在探索如何利用大语言模型结合广告个性化投放系统赋予智能体的核心能力，实现真正意义上的个性化智慧决策。 该课题会结合个性化建模、内容理解、大语言模型等能力，对用户心智做深度建模，依赖于历史行为长记忆的同时，能利用自然语言理解用户实时的微观意图、情感倾向与潜在需求。基于不同用户及不同上下文，能为不同用户量身定制差异化的广告投放，并且Agent能够以自然语言阐述其推理依据，让投放逻辑从“黑盒”走向透明，同时通过与用户反馈的持续交互，不断自我修正与进化。 这里面涉及到多方面的能力研究，包括基于内容的个性化能力的构建，个性化能力与大语言模型能力的结合，多模态融合能力，面向广告投放Agentic能力的微调能力以及面向广告投放系统的应用。

本课题的研究目标是打造行业领先的多语言能力强化的大语言模型，结合业务海量的多语言互译语料，以及平台生活化特色的笔记评论数据，利用数据合成、RL冷启训练、SFT和RLHF等技术，实现： 1、在小红书多语言大模型翻译场景取得领先效果； 2、多语言场景下，AI搜索的检索和生成技术。

本课题聚焦在多模态数据场景下如何高效的组织其向量索引数据，设计并实现配套的混合查询优化技术，能根据用户请求动态选择合理的索引组合，实现耗时、吞吐的合理平衡。 预期成果是能用单一向量数据库产品原生支持异构多模态数据的向量索引构建和混合查询，为多模态大模型场景提供高效的向量支持。

本课题的研究目标是打造行业领先的多语言能力强化的大语言模型，结合业务海量的多语言互译语料，以及平台生活化特色的笔记评论数据，利用数据合成、RL冷启训练、SFT和RLHF等技术，实现： 1、在小红书多语言大模型翻译场景取得领先效果； 2、多语言场景下，AI搜索的检索和生成技术。