通义研究型实习生 - Qwen VLA基础模型研究
任职要求
1. 来自全球Top高校计算机科学、人工智能、机器学习、深度学习、软件工程、自动化、电子、控制相关领域的博士/硕士在读学生。 2. 在大规模多模态模型训练、VLA/VLN模型设计与训练、(Real2)Sim2Real、机器人感知、抓取、操作、移动、全身控制、规划、导航等领域有扎实的理论基础和实践经验,并至少在其中一个方向有代表性学术成果或项目经历。 3. 在国际顶级人工智能/机器人的会议/期刊(如NeurIPS、ICML、ICLR、TPAMI,IROS、RSS、CoRL、ICRA、IJRR、TRO…
工作职责
1. 具身多模态基础模型架构研究: 构建面向机器人的多模态基础模型,将视觉语言模型与机器人中心的物理世界理解与决策深度融合,研究可泛化的(力/触觉)-视觉-语言-状态-动作统一建模和训练方法(包括但不限于:tokenization/latent action/world modeling等技术);探索“感知-记忆-规划-控制”的端到端或模块化建模和训练范式;研究统一操作,规划,导航等多决策场景统一的建模和训练范式;探索面向长时程任务(系统辨识、历史状态记忆、失败恢复等)的决策。 2. 大规模具身数据构建与训练方法研究:构建可扩展的数据处理管线;研究多数据源的可拓展、高鲁棒使用方法和混合训练方法,包括真机摇操数据、人类视频数据、UMI数据、VQA数据等;探索基于Sim2Real/Real2Sim的数据增强和混合训练技术;建立数据质量评估与采样策略(覆盖度、难度分层、长尾任务挖掘等)。 3. 具身基础模型测评基准与自动化评测系统研究:定义覆盖关键能力和关键场景的有代表性的Benchmark,包括指令理解、物体识别与定位、抓取与操作、导航、工具使用、长任务规划、失败恢复等能力覆盖,厨房、商超、酒旅、户外、工厂等场景覆盖;研究构建高效、可靠、可复现的评测流水线和可用于迭代的指标体系。 4. 高效率、高可靠推理系统研究:将模型在真实机器人平台和主流仿真平台中部署验证,针对延迟、稳定性、安全与可恢复性做工程化增强,研究一套适配具身场景的大规模基础模型端侧/云边协同的推理框架和适配于强化学习训练得推理框架。
职位概述 我们正在寻找在视觉-语言-动作(Vision-Language-Action, VLA)领域具有扎实理论基础和丰富实践经验的算法工程师或研究员,致力于构建下一代通用智能机器人系统。你将参与从数据构建、模型设计到仿真训练与实机部署的全链路研发,推动 VLA 大模型在机械臂操作、人形机器人控制等复杂工业与开放场景中的前沿探索与实际落地。 职位描述(Responsibilities) 1. 前沿算法研究与复现 ○ 跟踪 VLA 领域最新进展(如 OpenVLA、RT-2、Pi0、RDT、Diffusion Policy 等),完成 SOTA 算法在仿真与实机环境下的复现与性能分析; ○ 探索基于大模型的端到端机器人决策框架,实现感知→理解→规划→动作的闭环。 2. VLA 模型架构设计与优化 ○ 设计面向工业场景的 VLA 模型结构,重点解决多模态特征对齐、动作序列生成、推理效率优化等问题; ○ 提升机械臂在复杂任务中的操作精度、泛化能力与鲁棒性。 3. Scaling 研究与泛化能力提升 ○ 开展 VLA 的 scaling law 研究,涵盖数据规模、模型结构、机器人构型等维度; ○ 实现长序列任务执行、跨任务技能迁移与动作泛化,在更复杂的工厂或开放环境中验证模型上限。 4. 数据系统与自动标注开发 ○ 参与多模态大模型所需的数据清洗、自动标注与增强系统的开发; ○ 探索高效的数据合成方法(如 sim2real 数据生成、LLM 辅助标注),保障数据质量与多样性。 5. 仿真训练与真实部署 ○ 基于 Isaac Sim / Gym / Lab、MuJoCo 等平台搭建高保真仿真环境,构建强化学习与模仿学习训练框架; ○ 设计 real2sim2real 迁移策略,加速算法从仿真到现实世界的部署; ○ 具备实机调试经验,能独立完成模型在机械臂或人形机器人上的部署与迭代。
Qwen 团队致力于探索 AGI,目前我们正在全力朝着“多模态多任务的AI模型 / 系统” 以及“实现大模型智力飞升”两大目标展开研发,希望实现对用户及社会有益的 AI。Qwen 团队正在快速成长和发展中,希望招募顶尖的研究人员及工程师等来和我们一起实现梦想。 推理优化的工作目前主要关注高并发serving(Qwen WEB以及API服务)下的算法侧以及系统框架侧的探索与研发,主要针对Qwen系列模型, chat模型、vl模型以及audio模型。 算法侧的的优化主要包括两部分,一部分是训练推理协同优化;另一部分是post-training部分。 系统侧的优化主要职责是针对Qwen系列模型,优化系统推理性能达到最优。
多语言技术是AI平权,助力企业出海的关键技术,也是Qwen系列的特色能力,在学术社区和工业界均获得了不错的反响和认可。然而,相较于高资源语言,大模型在低资源语言覆盖度和能力方面仍有显著差距。主要挑战在于低资源问题。本项目将致力于探索解决大模型第资源问题,主要包括以下方向: 1)探索数据合成、知识迁移等技术,优化基模型第资源语种能力; 2)通过Benchmark构建、质量估计等方法建设小语种自动评价体系; 3)研究post-training阶段小样本迁移、文化特色对齐等技术,实现小语种人类偏好对齐。