通义Token Foundry-大模型算法专家-Qwen Agent
任职要求
【基础要求】 1. 计算机科学、人工智能、数学或相关专业硕士及以上学历。 2. 具备扎实的理论基础,熟悉Transformer架构及大模型底层原理。 3. 具备优秀的编程习惯和工程实现能力,熟悉 PyTorch 等主流深度学习框架。 【核心技能与经验】 1. 深入理解大模型后训练流程,有丰富的 SFT、RLHF、PPO、DPO 等算法的实操经验;熟悉强化学习理论,有将 RL 应用于 LLM 或 Agent 决策过程的实战经验。 2. 熟悉主流 Agent 框架与范式,有针对 Agent 特定能力进行模型微调或训练…
工作职责
1. Agent模型后训练: 负责大模型在Agent场景下的后训练(Post-training)工作,提升模型在复杂Agent任务中的表现。 2. 强化学习与RL探索: 设计并优化基于强化学习(RL)的Agent训练框架,提升模型的长期规划能力、试错反思能力及工具调用准确率。 3. 核心能力构建: 针对Agent的核心能力进行专项模型训练与对齐优化。 4. 行业解决方案落地: 深入理解具体行业的业务痛点,将Agent模型能力与行业Know-how结合,设计并落地端到端的行业Agent解决方案。 5. 前沿技术追踪: 跟踪学术界和工业界在LLM Agent、RLHF、后训练领域的最新进展,将前沿技术转化为团队的工程与算法资产。
1. 负责建设面向集团各业务线的大模型评测体系,涵盖通用能力评测与业务场景定制评测,优化基于 LLM-as-Judge、自动化评测模型训练、人工评估和用户行为数据的多维度评测框架,保障评测结果的全面性和可靠性。 2. 构建多维度评测指标体系(准确性、安全性、流畅度、一致性、业务指标等),覆盖 APP 对话助手及各业务线智能体场景。 3. 深度参与模型迭代过程中的评测驱动优化,建设完整的“数据→训练→评测→反馈”的高效数据飞轮。 4. 跟踪业界主流评测方法与 Benchmark 动态,持续优化内部评测体系。
1. 负责 RLHF 全链路建设,包括 Reward Model 的设计、训练与迭代优化,推动 PPO / DPO / GRPO 等对齐算法的工程化落地。 2. 构建 Verifier、LLM as Judge、Rule 等为一体的 Reward System,优化多维度(如安全性、准确性、有用性、逻辑性、拟人度等)的偏好数据采集策略与训练方案。 3. 与 SFT、Pretrain 团队紧密协作,分析用户的 Badcase,将 RL 信号融入模型训练全流程,持续提升对话助手的用户体验。 4. 跟踪 Agentic RL 等前沿研究进展,并推动技术创新在基座大模型研发中的落地。
1. 高质量垂域数据工程:深入优化垂直领域(如文本内容审核)的高质量数据构建与迭代方法论,持续提升数据的质量、多样性与生产效率。 2. 可扩展后训练体系:探索适配领域特性的 SFT/RL 算法,构建高效、稳定、可扩展的垂域模型后训练范式,系统性提升模型能力。 3. 前沿技术研究与落地:探索推理模型前沿技术(如高效蒸馏、reward system、agentic RL、test-time learning 等)以及模型可解释性技术,沉淀技术成果和影响力,并推动大模型相关技术在行业场景中的转化与落地,提升领域模型竞争力,支撑业务持续增长。
1. 负责大模型从 Pre-SFT、SFT 到 RLHF (DPO/PPO/GRPO等) 全阶段的算法调优与策略设计,提升模型在风格控制、安全合规、领域知识注入、多轮交互逻辑、文创、指令遵循、情绪控制、Agent Planning 等核心维度的综合能力 2. 设计高质量 SFT、RL 等数据采集、清洗和标注方案,建立数据质量评估标准和流程,持续提升数据质量和多样性 3. 参与模型合版工作,包括数据配比策略、多任务训练优化、灾难性遗忘缓解等核心技术,确保各业务线智能体能力与基座模型的高效融合 4. 探索多模态(文本、视觉、音频等)场景下的 Post-Training 方案,解决跨模态对齐与幻觉问题,探索高质量数据的合成、Self-Play、Agentic RL 等方法,与 Pretrain、RL、评测团队紧密配合,推动基座模型面向应用的全流程优化 5. 参与 APP 对话助手产品的效果优化,通过精细化的 SFT/RL 策略提升对话质量、安全性与用户体验