米哈游【提前批-大模型】LLM Evaluation算法研究员
校招全职程序&技术类地点:北京状态:招聘
任职要求
1、计算机科学、人工智能、机器学习、软件工程或相关领域在读硕士 / 博士。 2、熟悉 LLM 评测方法,对代码生成、代码修复、Agent 评测或自动化测试有实践经验。 3、熟悉 Python,具备较强的数据分析、工程实现和实验复现能力。 4、理解软件工程基本流程,包括 Git、测试框架、CI、Issue / PR 工作流、代码审查和调试流程。 5、对 RLHF、Reward Model、DPO、LLM-as-a-Judge、Execution-based Evaluation 等方向有一定理解。 加分项 1、有 SWE-bench…
登录查看完整任职要求
微信扫码,1秒登录
工作职责
1、面向代码智能体能力构建评测体系,覆盖代码库理解、Issue 修复、跨文件修改、测试生成、调试定位、命令执行、工具调用和多步任务完成等场景。 2、设计 Repo-level 和 Agent-level 评测集,评估模型在真实软件工程任务中的任务完成率、测试通过率、修改质量、鲁棒性和执行效率。 3、分析 Code Agent 在复杂任务中的失败模式,包括错误定位失败、上下文遗漏、工具调用错误、无效修改、测试误判、循环修复等问题。 4、建立从评测结果到训练数据和 Post-training 策略的反馈闭环,通过 Bad Case 分析指导数据构造、奖励设计和训练策略优化。 5、参与内部 Benchmark、模型能力看板和回归评测系统建设,支持 Code Agent 能力持续迭代。
包括英文材料
机器学习+
https://www.youtube.com/watch?v=0oyDqO8PjIg
Learn about machine learning and AI with this comprehensive 11-hour course from @LunarTech_ai.
https://www.youtube.com/watch?v=i_LwzRVP7bg
Learn Machine Learning in a way that is accessible to absolute beginners.
https://www.youtube.com/watch?v=NWONeJKn6kc
Learn the theory and practical application of machine learning concepts in this comprehensive course for beginners.
https://www.youtube.com/watch?v=PcbuKRNtCUc
Learn about all the most important concepts and terms related to machine learning and AI.
大模型+
https://www.youtube.com/watch?v=xZDB1naRUlk
You will build projects with LLMs that will enable you to create dynamic interfaces, interact with vast amounts of text data, and even empower LLMs with the capability to browse the internet for research papers.
https://www.youtube.com/watch?v=zjkBMFhNj_g
AI agent+
https://www.ibm.com/think/ai-agents
Your one-stop resource for gaining in-depth knowledge and hands-on applications of AI agents.
Python+
https://liaoxuefeng.com/books/python/introduction/index.html
中文,免费,零起点,完整示例,基于最新的Python 3版本。
https://www.learnpython.org/
a free interactive Python tutorial for people who want to learn Python, fast.
https://www.youtube.com/watch?v=K5KVEU3aaeQ
Master Python from scratch 🚀 No fluff—just clear, practical coding skills to kickstart your journey!
https://www.youtube.com/watch?v=rfscVS0vtbw
This course will give you a full introduction into all of the core concepts in python.
数据分析+
[英文] Data Analyst Roadmap
https://roadmap.sh/data-analyst
Step by step guide to becoming an Data Analyst in 2025
Git+
https://www.youtube.com/watch?v=rH3zE7VlIMs
Learn Git from start to finished in this full course written by ThePrimeagen.
CI+
https://www.ibm.com/cn-zh/think/topics/continuous-integration
持续集成 (CI) 是一种软件开发实践,开发人员在整个开发周期中会定期将新的代码和代码变更集成到中央代码存储库中。它是 DevOps 和敏捷方法的关键组成部分。
https://www.youtube.com/watch?v=42UP1fxi2SY
还有更多 •••
相关职位
校招程序&技术类
作为一名核心的预训练数据算法研究员,你将直接参与构建和优化我们核心大语言模型的预训练,并侧重在 code、agentic、reasoning-heavy 类任务的高质量训练数据集搭建;包含但不限于数据收集、合成数据生成、任务行为轨迹构建等。 1.开发并生成用于大模型训练的合成任务与数据集,涵盖两类场景: 可验证类任务:代码解题、数学计算题等; 不可验证类任务:开放式逻辑推理、通用综合问题求解等。 2.搭建并规模化运行多领域数据合成流程,覆盖 agent、code、math、general reasoning; 3.参与搭建 agentic task environments 以及配套的大模型训练评测体系。
上海|北京
校招程序&技术类
作为一名预训练数据算法研究员,你将负责开发大语言模型训练所需的大规模数据处理算法与数据学习策略。 主要负责: 1.针对多源数据设计并开发code类数据、通用文本数据清洗、增强、合成算法; 2.基于大语言模型研发并迭代数据筛选策略,提升预训练语料的数据质量; 3.搭建并规模化优化数据处理流水线,保障高并发场景下的运行性能与稳定性。
上海|北京
校招程序&技术类
1. 专研训练框架,快速定位训练中出现的问题,分析训练过程中的模型表现,跟infra team合作来保证训练策略的正确性 2. 研究不同架构、数据、目标函数和优化方法等各个算法方面的scaling law,总结出高效稳定的预训练策略 3. 紧跟领域前沿技术,研究新型LLM模型架构,提升训练或推理的计算效率和模型性能 4. 拓展模型在长文本方向的理解和生成能力
上海|北京