阿里云研究型实习生-大语言模型算法研究

专注于LLM post-training和agent相关算法研究，具体职责包括： 1、探索LLM可解释性 + 模型增量CPT/RL算法，提升语言模型在专业领域上的能力； 2、探索LLM可解释性 + 低比特量化算法，降低模型training/inference阶段计算成本； 3、探索agent 增强微调算法，提升模型在专业领域上端到端解决复杂任务的能力； 4、将相关算法研究成果发表在国际顶级会议上（ICLR/NeurIPS/ICML/ACL）； 5、将相关算法研究成果应用于模型低比特量化、海外大模型业务中，显著提升阿里云通义千问模型服务效率和沙特等国家主权大模型线上效果。

我们致力于打造淘宝直播场景下“高智商、高情商”的下一代智能数字人主播，通过大模型 + 智能体（Agent） + 强化学习（RL） 的深度融合，构建具备自主决策、实时互动与高转化能力的直播AI系统。你将参与以下前沿探索： 1. 大模型与Agentic RL的协同训练范式研究：探索高效Agentic RL算法（样本效率、奖励函数设计、多智能体协作等）； 2. 多模态Agent研究：融合视觉（商品/表情/动作）、语音、文本等多源信号，通过多模态强化学习优化Agent行为策略； 3. 构建基于Agentic RL的数字人决策引擎：设计可自主调用商品工具、垂域多模态知识库查询工具、控制话术、响应观众意图的智能体架构，实现动态控场、个性化互动与高效转化； 4. 研究基于RL等算法的自主进化Agent； 5. 产出高质量学术论文和专利。

本项目主要关注大语言模型的部署环节，以解决大语言模型推理框架中的如下技术问题： 1. 优化单服务实例的性能和成本：配合前沿模型压缩算法探索高性能算子的前沿方向、创新注意力算子（Attention）实现方式、通过编译优化等手段提升模型推理性能；结合大语言模型服务的场景特性，创新请求调度算法，优化用户体验和系统吞吐；结合算法创新，采用上下文稀疏、投机采样等方法加速解码（Decoding）过程。 2. 异构硬件适配：以编译技术为基础，探索统一的跨平台优化方法，能敏捷地完成主流的GPU/CPU/NPU等硬件的适配，并在各个平台提供较高的性能。 3. 探索云上单租户多服务、多租场景下的混合部署方法，将不同尺寸、不同访问频度、不同优先级的模型混合部署在异构资源池中，并保证SLA。通过请求调度方法的创新、资源共享方法创新，降低总体部署成本、提升资源利用率和弹性。

聚焦于LLM后训练中知识蒸馏、模型安全、Agent等相关算法研究，具体职责包括： 1、知识蒸馏、RL算法优化与创新，不断提升LLM的reasoning能力； 2、LLM safety相关算法优化与创新，通过Guard模型构建、模型可解释性技术探索、适配模型安全领域特性的SFT/RL算法优化等，不断提升LLM的安全性； 3、Agent后训练探索与创新，提升模型在专业领域上端到端解决复杂任务的能力。