小红书【Ace顶尖实习生】基于MLLM的创作向深度思考能力提升

在搜索等实际线上业务中，推理速度限定了线上可用的模型大小以及可达效果，当前的基于transformer架构的大模型基座在推理速度上存在系统性瓶颈。本课题探索基于创新框架，如diffusion LLM和linear attention model的大模型基座范式，从数据、模型预训练、后训练、AI Infra、评测等方向探索模型效果极限。

传统的AI搜索依然基于RAG框架，少有的几个Agent框架也只涉及QueryPlanning，距离真实解决搜索中的实际问题还相距很远，例如做旅游攻略、做行业研究报告等等。我们判断，虽然当下LLM已经大范围的用于搜索领域，但是下一代的搜索技术变革一定是基于Agent的。本课题旨在研究基于Agent框架的基座模型。

传统审核大模型通常采用SFT的方式逼近人审对审核规则的识别精度，此时人工执行质量和规则合理性则成为机审体系性能上限。 本课题通过RLVR和Multi-Agent的方式，构造机审判别Agent与规则生成Agent的博弈学习，以对抗上升的方式不断提升审核规则的完备性以及相应机审识别的准召，使得机审可以突破人工上限，实现大模型智能在审核象限的涌现和“Aha moment”。

随着人工智能技术的快速发展，大模型在代码生成、语义理解、逻辑推理等领域展现出巨大潜力。软件质量保障作为软件工程的核心环节，传统方法存在测试用例设计效率低、场景覆盖率不足、自动化脚本维护成本高等痛点。 本课题旨在联合高校科研力量与企业工程实践，探索大模型技术在测试用例生成、单元测试自动化、UI测试脚本生成等质量保障场景中的创新应用。