夸克AI Infra实习生-训练方向（研究型）
任职要求
1、在读硕士或博士，研究型/学术背景优先；有扎实的数学基础，理解大模型训练性能加速和稳定性提升的基本方法； 2、熟悉一种或多种大模型训练框架和组件（如 megatron、deepspeed、 veRL、openRLHF、flash-attn， TE) 或有实现过算力融合，流水调度优化的经验； 3、良好的实验设计能力与论文阅读/撰写能力，能阅读并复现顶会算法； 4、实习期6个月起，能长期实习优先； 加分项 1、熟悉算子融合，量化、流水调度，在线数据packing相关方法； 2、有大规模训练加速、稳定性提升、异构硬件适配经验； 3、在相关国际期刊/会议发表过论文或有开源项目/代码仓库者优先。
工作职责
作为研究型实习生，你将加入公司大模型训练加速方向的研究团队，参与超大规模场景下，文本和多模态领域 pre/post/alignment 方向上的高效训练相关的 前沿策略和工程实现工作。该岗位以科研驱动为主，进行理论研究、策略设计、工程原型与实验评估，并鼓励发表顶会/期刊论文与开源贡献。 1、 研究RL场景加速技术，探索前沿的训推分离、梯度压缩、通信压缩、计算压缩 相关技术，改进RL场景不同模型的训练效率，提升e2e吞吐达到业界SOTA水平； 2、 研究前沿的pretrain加速技术，探索不同模态下的 IO/流水调度/算子融合/低精度量化 等加速策略，改进超大规模训练下训练效率，提升MFU； 3、研究大模型训练策略自动寻优技术，通过模型显存、计算、通信 自动化分析和模拟，实现不同模型在不同硬件、不同规模下的训练性能最大化； 4、将研究成果落地为可复现的工程原型，集成/对接业界主流的开源训练框架(megatron/veRL); 5、撰写技术报告与论文，与团队成员及外部学术界保持沟通交流；
Top Seed人才计划-Seed研究实习生专项：面向 2025 年 9 月及以后毕业的博士及本硕在读同学，加入我们，你可以自主决定研究课题，与正式员工享受同等权限和资源，和优秀的研究员一起，向智能上限发起挑战。 团队介绍：字节跳动 Seed 团队成立于 2023 年，致力于寻找通用智能的新方法，追求智能上限。团队研究方向涵盖 LLM、语音、视觉、世界模型、基础架构、AI Infra、下一代 AI 交互等，在中国、新加坡、美国等地设有实验室和岗位。 Seed 团队在 AI 领域拥有长期愿景与决心，坚持深耕基础，期望成为世界一流的 AI 研究团队，为科技和社会发展作出贡献。目前团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、扣子、即梦等超过 50 个应用场景。 1、成为研究型实习生，在你热爱的课题方向上，探索机器学习算法与系统领域最具挑战的长期关键问题； 2、寻找志同道合的伙伴，自由组建你的课题小组，享受充足的算力与数据资源支持； 3、获得长周期的培养与成长，大牛导师深度指导，国内外顶尖学者交流机会。
Top Seed人才计划-Seed研究实习生专项：面向 2025 年 9 月及以后毕业的博士及本硕在读同学，加入我们，你可以自主决定研究课题，与正式员工享受同等权限和资源，和优秀的研究员一起，向智能上限发起挑战。 团队介绍：字节跳动 Seed 团队成立于 2023 年，致力于寻找通用智能的新方法，追求智能上限。团队研究方向涵盖 LLM、语音、视觉、世界模型、基础架构、AI Infra、下一代 AI 交互等，在中国、新加坡、美国等地设有实验室和岗位。 Seed 团队在 AI 领域拥有长期愿景与决心，坚持深耕基础，期望成为世界一流的 AI 研究团队，为科技和社会发展作出贡献。目前团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、扣子、即梦等超过 50 个应用场景。 1、成为研究型实习生，在你热爱的课题方向上，探索机器学习算法与系统领域最具挑战的长期关键问题； 2、寻找志同道合的伙伴，自由组建你的课题小组，享受充足的算力与数据资源支持； 3、获得长周期的培养与成长，大牛导师深度指导，国内外顶尖学者交流机会。
Top Seed人才计划-Seed研究实习生专项：面向 2025 年 9 月及以后毕业的博士及本硕在读同学，加入我们，你可以自主决定研究课题，与正式员工享受同等权限和资源，和优秀的研究员一起，向智能上限发起挑战。 团队介绍：字节跳动 Seed 团队成立于 2023 年，致力于寻找通用智能的新方法，追求智能上限。团队研究方向涵盖 LLM、语音、视觉、世界模型、基础架构、AI Infra、下一代 AI 交互等，在中国、新加坡、美国等地设有实验室和岗位。 Seed 团队在 AI 领域拥有长期愿景与决心，坚持深耕基础，期望成为世界一流的 AI 研究团队，为科技和社会发展作出贡献。目前团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、扣子、即梦等超过 50 个应用场景。 1、成为研究型实习生，在你热爱的课题方向上，探索机器学习算法与系统领域最具挑战的长期关键问题； 2、寻找志同道合的伙伴，自由组建你的课题小组，享受充足的算力与数据资源支持； 3、获得长周期的培养与成长，大牛导师深度指导，国内外顶尖学者交流机会。
Top Seed人才计划-Seed研究实习生专项：面向 2025 年 9 月及以后毕业的博士及本硕在读同学，加入我们，你可以自主决定研究课题，与正式员工享受同等权限和资源，和优秀的研究员一起，向智能上限发起挑战。 团队介绍：字节跳动 Seed 团队成立于 2023 年，致力于寻找通用智能的新方法，追求智能上限。团队研究方向涵盖 LLM、语音、视觉、世界模型、基础架构、AI Infra、下一代 AI 交互等，在中国、新加坡、美国等地设有实验室和岗位。 Seed 团队在 AI 领域拥有长期愿景与决心，坚持深耕基础，期望成为世界一流的 AI 研究团队，为科技和社会发展作出贡献。目前团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、扣子、即梦等超过 50 个应用场景。 1、成为研究型实习生，在你热爱的课题方向上，探索机器学习算法与系统领域最具挑战的长期关键问题； 2、寻找志同道合的伙伴，自由组建你的课题小组，享受充足的算力与数据资源支持； 3、获得长周期的培养与成长，大牛导师深度指导，国内外顶尖学者交流机会。