字节跳动大模型推理优化研发实习生-Seed
任职要求
1、本科及以上学历在读，计算机、电子、自动化、软件工程等相关专业； 2、精通Python/C++编程，具备扎实的算法与数据结构功底； 3、熟悉TensorRT-LLM、ORCA、vLLM等推理框架，对主流大语言模型结构与推理加速有实践经验者优先； 4、具备端…
工作职责
日常实习：面向全体在校生，为符合岗位要求的同学提供为期3个月及以上的项目实践机会。 团队介绍：字节跳动 Seed 团队成立于 2023 年，致力于寻找通用智能的新方法，追求智能上限。团队研究方向涵盖 LLM、GenMedia、AI for Science、机器人等，在中国、新加坡、美国等地设有实验室和岗位。 Seed 团队在 AI 领域拥有长期愿景与决心，坚持深耕基础，期望成为世界一流的 AI 研究团队，为科技和社会发展作出贡献。目前团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、扣子、即梦等超过 50 个应用场景。 1、负责公司级大模型推理框架的设计、开发与持续性能优化； 2、与算法团队紧密协作，推动模型算法与系统架构的联合优化与应用落地； 3、基于GPU/CUDA等高性能计算技术，优化计算、调度与访存性能，构建业界领先的LLM推理引擎； 4、跟踪并引入机器学习系统前沿技术，探索推理、调度与部署体系的创新方向； 5、深入研究VLM的AI应用场景，进行前沿探索与创新。
日常实习：面向全体在校生，为符合岗位要求的同学提供为期3个月及以上的项目实践机会。 团队介绍：字节跳动 Seed 团队成立于 2023 年，致力于寻找通用智能的新方法，追求智能上限。团队研究方向涵盖 LLM、语音、视觉、世界模型、基础架构、AI Infra、下一代 AI 交互等，在中国、新加坡、美国等地设有实验室和岗位。 Seed 团队在 AI 领域拥有长期愿景与决心，坚持深耕基础，期望成为世界一流的 AI 研究团队，为科技和社会发展作出贡献。目前团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、扣子、即梦等超过 50 个应用场景。 1、参与模型训练/推理优化算法的研究与开发，运用数据并行、模型并行、通信优化等前沿技术，提升模型训练/推理速度及效率； 2、开发和优化AI研发场景下的工具和方法，持续改进并行训练/推理模型的框架和策略，以满足公司业务的需求； 3、对业务进行性能瓶颈分析，实施模型训练/推理性能优化措施，提升训练/推理效率，同时利用硬件特性最大化资源效用，并与业界技术进步保持同步。
日常实习：面向全体在校生，为符合岗位要求的同学提供为期3个月及以上的项目实践机会。 团队介绍：字节跳动 Seed 团队成立于 2023 年，致力于寻找通用智能的新方法，追求智能上限。团队研究方向涵盖 LLM、语音、视觉、世界模型、基础架构、AI Infra、下一代 AI 交互等，在中国、新加坡、美国等地设有实验室和岗位。 Seed 团队在 AI 领域拥有长期愿景与决心，坚持深耕基础，期望成为世界一流的 AI 研究团队，为科技和社会发展作出贡献。目前团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、扣子、即梦等超过 50 个应用场景。 1、参与模型训练/推理优化算法的研究与开发，运用数据并行、模型并行、通信优化等前沿技术，提升模型训练/推理速度及效率； 2、开发和优化AI研发场景下的工具和方法，持续改进并行训练/推理模型的框架和策略，以满足公司业务的需求； 3、对业务进行性能瓶颈分析，实施模型训练/推理性能优化措施，提升训练/推理效率，同时利用硬件特性最大化资源效用，并与业界技术进步保持同步。
日常实习：面向全体在校生，为符合岗位要求的同学提供为期3个月及以上的项目实践机会。 团队介绍：字节跳动 Seed 团队成立于 2023 年，致力于寻找通用智能的新方法，追求智能上限。团队研究方向涵盖 LLM、语音、视觉、世界模型、基础架构、AI Infra、下一代 AI 交互等，在中国、新加坡、美国等地设有实验室和岗位。 Seed 团队在 AI 领域拥有长期愿景与决心，坚持深耕基础，期望成为世界一流的 AI 研究团队，为科技和社会发展作出贡献。目前团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、扣子、即梦等超过 50 个应用场景。 1、参与模型训练/推理优化算法的研究与开发，运用数据并行、模型并行、通信优化等前沿技术，提升模型训练/推理速度及效率； 2、开发和优化AI研发场景下的工具和方法，持续改进并行训练/推理模型的框架和策略，以满足公司业务的需求； 3、对业务进行性能瓶颈分析，实施模型训练/推理性能优化措施，提升训练/推理效率，同时利用硬件特性最大化资源效用，并与业界技术进步保持同步。
日常实习：面向全体在校生，为符合岗位要求的同学提供为期3个月及以上的项目实践机会。 团队介绍：字节跳动 Seed 团队成立于 2023 年，致力于寻找通用智能的新方法，追求智能上限。团队研究方向涵盖 LLM、语音、视觉、世界模型、基础架构、AI Infra、下一代 AI 交互等，在中国、新加坡、美国等地设有实验室和岗位。 Seed 团队在 AI 领域拥有长期愿景与决心，坚持深耕基础，期望成为世界一流的 AI 研究团队，为科技和社会发展作出贡献。目前团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、扣子、即梦等超过 50 个应用场景。 1、参与模型训练/推理优化算法的研究与开发，运用数据并行、模型并行、通信优化等前沿技术，提升模型训练/推理速度及效率； 2、开发和优化AI研发场景下的工具和方法，持续改进并行训练/推理模型的框架和策略，以满足公司业务的需求； 3、对业务进行性能瓶颈分析，实施模型训练/推理性能优化措施，提升训练/推理效率，同时利用硬件特性最大化资源效用，并与业界技术进步保持同步。