蚂蚁金服蚂蚁集团-语言大模型语料优化算法工程师-北京/杭州【AGI专项】
任职要求
1. 硕士及以上学历，计算机科学、人工智能或相关专业背景。 2. 熟练掌握机器学习、自然语言处理、大语言模型等相关领域的基本理论和算法，具备扎实的数学基础。 3. 熟练掌握Python编程语言，熟悉主流深度学习框架（如PyTorch），具备大规模数据处理和分布式训练的实际经验。 4. 具备良好的分析和解决问题能力，能够独立思考并解决复杂的技术问题。 5. 具备较强的团队合作能力和沟通能力，能够与工程、产品…
工作职责
团队主要负责蚂蚁集团大语言模型的语料优化，涵盖数据扩源、数据质量提升、合成语料、数据利用方式优化、数学/代码/推理/对话能力提升等多个方向。我们致力于通过数据驱动的方式打造业界一流的语言基座模型。 1. 负责大语言模型各阶段训练语料的优化工作，包括预训练、后训练、强化学习训练阶段，具体的工作包括体系化地扩展各类型的数据、定义并迭代优化数据质量、建设高效的合成语料技术、优化高质量数据筛选策略、优化数据配比及训练策略等。 2. 负责端到端地优化基座模型的各项关键能力，包括数学、代码、推理、对话等能力，具体工作包括扩展各能力相关的语料、定义并迭代优化数据质量、针对性地合成相关语料、优化高质量数据筛选策略、优化各阶段数据配比及训练策略、优化评测方式等。 3. 负责研发语料优化相关的基础设施，包括研发高效的数据处理算子及链路、构建数据标签体系及标注模型、探索数据与模型效果的关系、设计数据效果评估机制等。 4. 跟踪和研究大模型领域的前沿技术方向，包括但不限于语料优化、预训练和后训练算法、知识增强、数据合成等，推动技术创新并应用到基座模型训练中。
1、深入研究强化学习在快手自研语言大模型中的创新应用，提升大模型能力上限； 2、负责大模型的基础技术研究，包括但不限于训练算法、框架及模型架构相关的基础技术探索和创新； 3、在顶级会议与开源社区塑造快手大模型团队的技术影响力。
1、负责语言大模型（Large Language Model）的技术研究，包括但不限于Pretrain、SFT、RL等技术相关的算法研发、数据策略和合成、Infra策略优化等，以及相关的基础技术探索和创新等； 2、负责基础Pretrain模型、Instruct模型、推理模型等系列大模型的技术研发； 3、持续跟进并深入调研大模型前沿技术、开源方案，跟踪业内语言模型领域的最新进展并推进相关研究，打造业界影响力。
1. 多模态Pre-training：开展研究及进行实验。研究内容包括：数据清洗与筛选、数据配比优化、课程学习、视觉语言模型结构设计与优化、训练策略优化、预训练数据合成、scaling law预测、词表优化、模型蒸馏与压缩、长上下文能力优化等。 2. 多模态Post-training：迭代Post-training训练策略（SFT/RLHF），专项能力数据迭代，参与模型能力评测及评测数据和评估标准的迭代。 3. 多模态推理和通用Agent：通过强化学习（RL）持续提升多模态模型推理能力和执行任务能力，打造多模态的Test Scaling Laws，并推动模型对网络和虚拟世界的交互和任务完成能力。 4. 统一理解生成：构建视觉统一理解生成大模型，推进多模态统一生成与理解的推理和交互新范式。
1. 负责医疗行业大模型的研发和应用，深入挖掘垂直行业、开源以及蚂蚁的海量数据，构建行业知识库，研究前沿大模型训练和优化方法，结合医疗行业特性打造可控的医疗大模型。 2. 开发医疗领域领先的技术产品，如泛医疗助手、医护办事等产品，提升医疗行业场景的用户体验和效率，打造支付宝医疗健康新时代下的AI应用。 3. 研究和跟踪前沿技术发展，探索AI助力医疗普惠和智能化的新范式。