字节跳动AIGC模型优化实习生-Seed
任职要求
1、硕士及以上学位在读,计算机、人工智能等专业优先; 2、熟练掌握C++、Python、Go等语言,具备良好的编程规范意识; 3、熟悉CPU/GPU架构与工作原理,有深度学习系统研发经验; 4、熟悉目前深度学习架构,如PyTorch/TensorFlow/PaddlePaddle等;熟悉SD/DIT/Transformer类生成大模型的推理部署,具备性能优化经验;熟悉分布式、微服务相关技术; 5、了解推理加速技术,包括但不限于TensorRT、TVM等; 6、具有快速学习能力和团队合作精神,善于交流、积极向上。 加分项: 1、熟悉CUDA编程并有相关开发经验; 2、了解大模型推理框架,包括EnergonAl/FasterTransformer/Triton/Flexgen等; 3、具备SD/DIT/Transformer性能优化经验。
工作职责
日常实习:面向全体在校生,为符合岗位要求的同学提供为期3个月及以上的项目实践机会。 团队介绍:字节跳动 Seed 团队成立于 2023 年,致力于寻找通用智能的新方法,追求智能上限。团队研究方向涵盖 LLM、语音、视觉、世界模型、基础架构、AI Infra、下一代 AI 交互等,在中国、新加坡、美国等地设有实验室和岗位。 Seed 团队在 AI 领域拥有长期愿景与决心,坚持深耕基础,期望成为世界一流的 AI 研究团队,为科技和社会发展作出贡献。目前团队已推出业界领先的通用大模型以及前沿的多模态能力,支持豆包、扣子、即梦等超过 50 个应用场景。 1、参与大模型推理服务部署平台的建设; 2、参与针对大模型的推理加速、模型服务化、GPU资源调度等功能的研发; 3、参与模型规模化的业务交付,以及线上模型推理服务稳定性保障 4、负责对SD/DIT/Transformer类模型的推理加速,在异构、多卡、分布式推理方面的建设,并且对过程性能、稳定性、部署效率持续优化。
日常实习:面向全体在校生,为符合岗位要求的同学提供为期3个月及以上的项目实践机会。 团队介绍:字节跳动 Seed 团队成立于 2023 年,致力于寻找通用智能的新方法,追求智能上限。团队研究方向涵盖 LLM、语音、视觉、世界模型、基础架构、AI Infra、下一代 AI 交互等,在中国、新加坡、美国等地设有实验室和岗位。 Seed 团队在 AI 领域拥有长期愿景与决心,坚持深耕基础,期望成为世界一流的 AI 研究团队,为科技和社会发展作出贡献。目前团队已推出业界领先的通用大模型以及前沿的多模态能力,支持豆包、扣子、即梦等超过 50 个应用场景。 1、参与模型训练/推理优化算法的研究与开发,运用数据并行、模型并行、通信优化等前沿技术,提升模型训练/推理速度及效率; 2、开发和优化AI研发场景下的工具和方法,持续改进并行训练/推理模型的框架和策略,以满足公司业务的需求; 3、对业务进行性能瓶颈分析,实施模型训练/推理性能优化措施,提升训练/推理效率,同时利用硬件特性最大化资源效用,并与业界技术进步保持同步。
日常实习:面向全体在校生,为符合岗位要求的同学提供为期3个月及以上的项目实践机会。 团队介绍:字节跳动 Seed 团队成立于 2023 年,致力于寻找通用智能的新方法,追求智能上限。团队研究方向涵盖 LLM、语音、视觉、世界模型、基础架构、AI Infra、下一代 AI 交互等,在中国、新加坡、美国等地设有实验室和岗位。 Seed 团队在 AI 领域拥有长期愿景与决心,坚持深耕基础,期望成为世界一流的 AI 研究团队,为科技和社会发展作出贡献。目前团队已推出业界领先的通用大模型以及前沿的多模态能力,支持豆包、扣子、即梦等超过 50 个应用场景。 1、参与模型训练/推理优化算法的研究与开发,运用数据并行、模型并行、通信优化等前沿技术,提升模型训练/推理速度及效率; 2、开发和优化AI研发场景下的工具和方法,持续改进并行训练/推理模型的框架和策略,以满足公司业务的需求; 3、对业务进行性能瓶颈分析,实施模型训练/推理性能优化措施,提升训练/推理效率,同时利用硬件特性最大化资源效用,并与业界技术进步保持同步。
日常实习:面向全体在校生,为符合岗位要求的同学提供为期3个月及以上的项目实践机会。 团队介绍:字节跳动 Seed 团队成立于 2023 年,致力于寻找通用智能的新方法,追求智能上限。团队研究方向涵盖 LLM、语音、视觉、世界模型、基础架构、AI Infra、下一代 AI 交互等,在中国、新加坡、美国等地设有实验室和岗位。 Seed 团队在 AI 领域拥有长期愿景与决心,坚持深耕基础,期望成为世界一流的 AI 研究团队,为科技和社会发展作出贡献。目前团队已推出业界领先的通用大模型以及前沿的多模态能力,支持豆包、扣子、即梦等超过 50 个应用场景。 1、参与模型训练/推理优化算法的研究与开发,运用数据并行、模型并行、通信优化等前沿技术,提升模型训练/推理速度及效率; 2、开发和优化AI研发场景下的工具和方法,持续改进并行训练/推理模型的框架和策略,以满足公司业务的需求; 3、对业务进行性能瓶颈分析,实施模型训练/推理性能优化措施,提升训练/推理效率,同时利用硬件特性最大化资源效用,并与业界技术进步保持同步。
日常实习:面向全体在校生,为符合岗位要求的同学提供为期3个月及以上的项目实践机会。 团队介绍:字节跳动 Seed 团队成立于 2023 年,致力于寻找通用智能的新方法,追求智能上限。团队研究方向涵盖 LLM、语音、视觉、世界模型、基础架构、AI Infra、下一代 AI 交互等,在中国、新加坡、美国等地设有实验室和岗位。 Seed 团队在 AI 领域拥有长期愿景与决心,坚持深耕基础,期望成为世界一流的 AI 研究团队,为科技和社会发展作出贡献。目前团队已推出业界领先的通用大模型以及前沿的多模态能力,支持豆包、扣子、即梦等超过 50 个应用场景。 1、参与模型训练/推理优化算法的研究与开发,运用数据并行、模型并行、通信优化等前沿技术,提升模型训练/推理速度及效率; 2、开发和优化AI研发场景下的工具和方法,持续改进并行训练/推理模型的框架和策略,以满足公司业务的需求; 3、对业务进行性能瓶颈分析,实施模型训练/推理性能优化措施,提升训练/推理效率,同时利用硬件特性最大化资源效用,并与业界技术进步保持同步。