米哈游【提前批-大模型】Code Agentic算法研究员
任职要求
1、计算机科学、人工智能、机器学习、软件工程或相关领域硕士 / 博士学历。 2、熟悉 Transformer 架构和大模型训练流程,对 SFT、RLHF、DPO、PPO、GRPO 等 Post-training 方法有深入理解和实践经验。 3、具备扎实的代码能力,熟悉软件工程开发流程,理解代码库结构、测试体系、版本控制、CI、调试和工程协作流程。 4、熟练使用 Python 和 PyTorch,熟悉 DeepSpeed、Megatron-LM、FSDP、vLLM 等训练或推理框架中的一种或多种。 5、有代码生成、代码修复、Agent、工具调用、程序验证、自动化测试、SWE-bench 类任务等相关经验者优先。 …
工作职责
1、负责面向代码智能体的 Post-training 算法研究与落地,提升模型在真实软件工程任务中的代码理解、任务规划、工具调用、调试修复和多步执行能力。 2、探索 SFT、RLHF、GRPO、OPD 等训练方法,优化模型在代码生成、代码修改、Bug 修复、测试生成、PR Review 等场景中的表现。 3、构建 Code Agentic 训练闭环,包括任务分解、代码库检索、文件编辑、命令执行、测试反馈、错误诊断、反思修复等多轮轨迹数据的建模与优化。 4、负责高质量代码智能体数据建设,包括真实 Issue / PR 数据、Repo-level 任务、Agent 交互轨迹、失败案例、合成任务、执行反馈数据和偏好数据的治理与混合策略。 5、研究面向代码仓库的长上下文与记忆机制,提升模型在大型代码库中的定位、检索、依赖理解、跨文件修改和长期任务保持能力。
1、面向代码智能体能力构建评测体系,覆盖代码库理解、Issue 修复、跨文件修改、测试生成、调试定位、命令执行、工具调用和多步任务完成等场景。 2、设计 Repo-level 和 Agent-level 评测集,评估模型在真实软件工程任务中的任务完成率、测试通过率、修改质量、鲁棒性和执行效率。 3、分析 Code Agent 在复杂任务中的失败模式,包括错误定位失败、上下文遗漏、工具调用错误、无效修改、测试误判、循环修复等问题。 4、建立从评测结果到训练数据和 Post-training 策略的反馈闭环,通过 Bad Case 分析指导数据构造、奖励设计和训练策略优化。 5、参与内部 Benchmark、模型能力看板和回归评测系统建设,支持 Code Agent 能力持续迭代。
作为一名核心的预训练数据算法研究员,你将直接参与构建和优化我们核心大语言模型的预训练,并侧重在 code、agentic、reasoning-heavy 类任务的高质量训练数据集搭建;包含但不限于数据收集、合成数据生成、任务行为轨迹构建等。 1.开发并生成用于大模型训练的合成任务与数据集,涵盖两类场景: 可验证类任务:代码解题、数学计算题等; 不可验证类任务:开放式逻辑推理、通用综合问题求解等。 2.搭建并规模化运行多领域数据合成流程,覆盖 agent、code、math、general reasoning; 3.参与搭建 agentic task environments 以及配套的大模型训练评测体系。
作为一名预训练数据算法研究员,你将负责开发大语言模型训练所需的大规模数据处理算法与数据学习策略。 主要负责: 1.针对多源数据设计并开发code类数据、通用文本数据清洗、增强、合成算法; 2.基于大语言模型研发并迭代数据筛选策略,提升预训练语料的数据质量; 3.搭建并规模化优化数据处理流水线,保障高并发场景下的运行性能与稳定性。