
商汤基础模型算法研究员
任职要求
1. 扎实的机器学习和数学基础,熟悉大模型强化学习、数学优化(运筹学)或数量金融中至少一项;2. 极强的个人技术和解决问题能力,能够快速搭建框架和实现算法;3. 自我驱动和团队合作意识。 加分…
工作职责
我们是一家AI上市公司研究院下语言与推理部门的量化智能团队,目标是将数学量化分析与深度研究融合,构建面向高价值领域的Super-intelligence智能体。现招基础模型算法研究员和工程师,方向包括AI for Data Science, AI for Optimization和AI for Financial Analysis,工作内容贯穿数据合成链路、模型后训练和智能体强化学习的全栈。
我们期望探索构建这样的 AI 系统:具备真实物理世界级别的全模态信息交互与处理能力、有高学习和成长属性、可以无人监管地高效执行并完成真实复杂长程任务;从而让 AI 真正成为人类的强大帮手,对工作、生活、科研等人类社会的各个方面都进一步带来更大、更深远的有益影响。 1.探索小时或者天级别复杂长程任务下的 RL Scaling 等可靠后训练范式,实现有效的探索引导和 credit assignment,并保障训练的 robustness、efficiency & effectiveness; 2.探索模型的自进化系统构建方案,在易于模型理解使用的前提下,训练模型以更高信息密度的形态构建、维护和利用 memory / skills,使模型能主动在重复性任务或封闭任务域中总结、提炼认知与经验,并进行有效复用,达到不断自进化的效果; 3.探索多模态推理和多模态环境交互的范式,尤其关注真实物理世界级别的动态环境,并基于此训练模型在复杂全模态环境下的复杂长程任务完成能力; 4.探索模型群体智能的演化可能性,可以自主进行合理的任务拆解、分工、协同探索与智能集成; 【为什么是我们】 1.获得在业内最前沿的大模型认知和技术积累,团队人才密度高且具备良好的研究、讨论氛围,鼓励大家研究最重要、最难、最开放的问题; 2.研究成果丰硕,在 agent / multi-modal agent、posttrain、reinforcement learning、memory & evolving system 等方向进行了系统探索,仅过去半年就产出 ICLR 2篇,ACL 1篇,ICML 5篇,另有10篇以上 NeurIPS/EMNLP 工作在投,投稿工作顶会中稿率达 80%,代表工作包括 VitaBench / ScaleEnv / CoBA-RL / MemOCR / Skill0 / Skill1 / SDAR 等; 3.有充足的数据和GPU资源用于实验探索,同时有良好的高校科研合作链接和丰富的学术资源,助力大家探索最重要、最难、最开放的问题; 4.工作环境优越,团队扁平,结果导向,提供有竞争力的薪资福利和良好的个人成长、发展空间;
我们在探索通过数据优化及大规模RL的方式,持续提升模型的核心基础能力和复杂生产力场景解决困难问题的能力。让模型具备深度思考与可靠行动的特性,推动模型在真实复杂任务中实现从“会说”到“会做”的跨越。团队在以下方向上进行探索,若你对以下一个或者多个课题感兴趣均欢迎投递: 1)大模型核心基础能力优化 1.围绕指令遵循、幻觉缓解、复杂推理、智能体规划等关键能力,研究并开发高效的后训练与对齐方案。 2.深入分析模型行为,通过数据策略、奖励建模、训练范式创新等,系统性提升模型的可靠性与实用性。 2)大规模强化学习与多目标RL训练 1.研究大规模强化学习(RL)及多目标强化学习的训练方案,突破RL在超大模型上的训练稳定性与扩展性问题。 2.构建可长期演进、稳定高效的RL Scaling训练管线,从算法、系统、数据等多维度推动模型能力持续提升。 3)长周期场景下的复杂推理与工具调用 1.聚焦Long Horizon任务中的多步推理、工具使用与自主智能体能力,设计并实现前沿优化方案。 2.探索包括高质量数据合成、长上下文管理、长上下文强化学习、过程监督、搜索与规划结合等关键技术,提升模型在复杂真实场景下的表现。 【为什么是我们】 1.团队扁平,人才密度高,近年团队在ICLR、NeurIPS、ICML、ACL等顶会累计发表论文数十篇,团队员工获EMNLP/ACL等Outstanding Paper; 2.参与大语言模型核心技术研发,接触大规模RL、超长上下文、分布式训练和推理优化等前沿技术; 3.充足算力保障,拥有大规模分布式训练环境和丰富数据资源。
围绕以视觉为核心的基础模型,开展前瞻预研与原型实现,持续提升模型的时空表征能力,持续提升模型理解-预测一体的记忆与推理能力; 利用三维重建、自动标注、场景仿真等算法与工程能力,高效构建训练与评测数据集,并结合强化学习等技术推动模型性能迭代; 与软件、硬件、测试等跨职能团队紧密协作,推动新一代基础模型架构的工程化落地,全面提升智能辅助驾驶系统的性能、安全性和可靠性; 跟踪学术界与工业界最新进展,撰写技术文档与论文,并在相关学术会议上输出高质量研究成果。
1.负责包含文本、视频、图片、语音等多模态数据对齐的基础大模型核心技术研发,包括 Pretrain、SFT、RL 等,持续追踪和应用领域最新技术进展; 2.预训练:跟进和研发更先进的 foundation 模型结构、训练模式、scaling law,提高训练效率和优化关键问题(如推理、长序列能力,多模态融合); 3.后训练:跟进和研发基座模型的后训练技术,充分激发模型潜力,包括但不限于高质量指令样本构建、课程学习、reasoning RL 等方向; 4.应用:通过模型与场景的深度耦合,推进大模型能力在实际业务中的最优表达,构建具备长期价值的智能 Agent; 5.结合以上方向的探索和研究,撰写发表论文,和业界、学术界保持良好的交流。