通义大语言基础模型 post-training 算法工程师
任职要求
1. 来自全球Top高校计算机科学、人工智能、机器学习、深度学习、软件工程、相关领域应届毕业生,博士/硕士毕业生优先。 2. 在深度学习、大规模模型训练、优化算法、生成式模型、自监督学习等领域有扎实的理论基础和实践经验,并至少在其中一个方向有学术成果或项目经历。 3. 在国际顶级计算机会议/期刊(如NeurIPS、ICML、ICLR、ACL、TPAMI等)以一作身份发表论文,或在开源社区、计算机领域竞赛中有突出研究成果和…
工作职责
通义千问(Qwen)是由通义实验室自主研发的超大规模语言模型,具备多模态、多语言、跨任务的理解与生成能力。Qwen系列模型,涵盖参数量从亿级到万亿级的基座大语言模型,并相继推出Qwen-VL、Qwen-Audio、Qwen-Omni、Qwen-Coder、Qwen-Image等系列模型。从多轮对话到代码生成,从逻辑推理到内容创作,从单一多模态到全模态统一理解生成,Qwen正在打造全球领先的全模态模型技术体系,推动AI在企业服务、开发者生态、个人用户等领域的深度应用,引领下一代人工智能的发展。 团队致力于在蕴含丰富世界知识的预训练模型的基础上,利用post-train技术打造出能够服务人类的AI模型。通过RL、SFT、RFT等技术,探索大模型潜能的同时,塑造大模型的能力与性格。重点探索大模型的推理能力,实现深度思考,并致力于提升其 agent 能力,让大模型服务于真实世界的任务。 工作职责: 1. 探索更多可Scalable的Verifier信号,并通过RL提升模型的各项能力。 2. 提升reward model在创作、人类偏好、指令遵循等各专项上的能力,减少reward hacking和bias。 3. 研究reasoning path压缩和外推,实现更高质量的推理思考。 4. 将LLM的推理能力和 agent以及其他模态相结合,探索统一模态的reasoning。
-负责大模型应用开发平台的算法设计与优化,提升开发者在平台上的体验与应用效率 -研究并应用前沿的深度学习和机器学习算法,推动大模型在实际业务场景中的应用落地,重点关注RAG、Agent、工作流等能力方向 -深入掌握Function Call,代码解释器,Post-training等原理及常用方法 -与产品、工程团队紧密合作,理解业务需求,制定相应的算法解决方案 -持续优化算法的效率和效果,确保平台的高性能和高可用性
Accio是阿里巴巴国际数字商业集团阿里国际站内部孵化的一款战略级AI原生应用产品,也是全球首个B2B AI Search Agent,通过持续探索Agent、LLM、VLM、RL、Memory、Reasoning、AI Search等前沿技术,自研基座、Agent系统以及AI Search系统,实现全球B2B跨境贸易跨越式发展。 1、参与开发和优化新一代多模态原生AI搜索系统,包括但不限于多模态模型训练、跨模态生成与检索、生成式AI搜、多模态Agent等; 2、参与搜索引擎研发,全链路提升搜索效果,包括但不限于多模态理解、query分析、召回、相关性、排序等关键模块的算法设计与优化; 3、参与买家Agent全链路开发与优化,跟踪前沿多模态大模型技术,探索推动开源SOTA模型的产品化落地。
-模型能力优化:面向百度搜索业务进行基础模型优化,包括但不限于 MoE 稀疏化策略、预训练任务设计、Post-Training 任务优化,基于强化学习的推理能力增强等工作 -模型成本优化:通过优化 MoE 路由策略、Latent Attention 结构优化等手段,提升推理效率,降低部署成本 -算法研究与创新:组内工作发表于 ACL/NeurIPS/ICLR 等会议,积极跟踪学术界和工业界技术进展,设计并实现相关算法创新,推动搜索基础模型的持续进步 -跨团队协作:与数据科学家、架构工程师等跨职能团队紧密合作,确保算法方案能够有效落地
1、研究前沿LLM、AIGC、多模态、NLP 算法模型到应用的转化,以及针对应用场景的算法优化; 2、将LLM、AIGC 算法模型 应用到业务产品中,提高产品的性能和用户体验; 3、将LLM、AIGC 算法模型 应用到快手研发平台中,提高平台的效能; 4、大模型训练、对齐相关工作,包括不限于思维链数据构造、模型构造优化、模型训练评估等; 5、协助开发和优化 AI Agent 的数据采集、分析及数据闭环相关工具,支持标注工具、研发工具、数据分析与可视化系统的设计与实现,提升产研团队的工作效率; 6、开发和集成多模态数据处理技术,构建跨模态数据融合框架,解决复杂业务场景下的信息提取和分析问题; 7、跟踪和研究最新的AI技术和趋势,撰写技术报告,参与学术会议和技术交流,提升公司在行业内的技术影响力。