字节跳动AI异构计算优化工程师-Seed
任职要求
1、熟练掌握Linux环境下的C/C++、Python语言； 2、具备扎实的计算机科学功底和编程能力，熟悉常见算法和数据结构，具有良好的编程习惯； 3、能够熟练使用至少一种主流的机器学习框架（TensorFlow/PyTorch等），熟悉框架内部实现； 4、熟悉至少一种经典深度学习模型及其应用场景，如GPT、SD、DiT、W&D等； 5、熟悉至少一种并行计算架构，熟悉其编程模型，并知晓其优、劣所在； 6、有良好的工作文档习惯，及时按要求撰写更新工作流程及技术文档。 加分项： 1、了解推理/训练/通信相关优化，有高性能算子、训练、通算融合领域经验者优先； 2、了解SIMD/SIMT外其他并行计算模型及算法，了解其并行编程模型及其优、缺点者优先； 3、了解模型剪枝、量化、LLM投机采样等优化方法原理，具备相关模型优化经验者优先； 4、了解常见AI编译器方案及其优、缺点（如XLA、TVM、MLIR），有实际开发经验者优先； 5、了解GPU硬件架构，了解GPU软件栈（CUDA、cuBLAS、cuTLASS），具备GPU性能分析的能力者优先； 6、了解AI Compiler技术栈（MLIR等），熟悉Torch2.0+编译栈、Triton优先者优先。
工作职责
团队介绍：字节跳动豆包大模型团队成立于 2023 年，致力于开发业界最先进的 AI 大模型技术，成为世界一流的研究团队，为科技和社会发展作出贡献。 豆包大模型团队在AI领域拥有长期愿景与决心，研究方向涵盖NLP、CV、语音等，在中国、新加坡、美国等地设有实验室和研究岗位。团队依托平台充足的数据、计算等资源，在相关领域持续投入，已推出自研通用大模型，提供多模态能力，下游支持豆包、扣子、即梦等50+业务，并通过火山引擎开放给企业客户。目前，豆包APP已成为中国市场用户量最大的AIGC应用。 1、评估：负责评估符合业务要求的异构计算芯片，建立/完善评估体系、负载模型，预估业务收益； 2、推理：负责异构计算芯片落地实际推理业务，适配异构计算芯片特性，降低推理时延，提高推理吞吐； 3、训练：负责异构计算芯片落地实际训练业务，根据芯片计算、通信特性，优化显存占用，提高训练吞吐； 4、算子：负责开发异构计算芯片的高性能算子，根据芯片特性，优化算力、带宽利用率； 5、编译：负责通过编译技术实现异构计算芯片在不同业务场景中落地，负责实现更加高效的异构硬件编程范式； 6、调研：负责调研、验证前沿软硬件结合方向，比如稀疏计算（Sparse Computation）、存内计算（In-Memory Computing）、数据流计算（DataFlow）等。
团队介绍：字节跳动豆包大模型团队成立于 2023 年，致力于开发业界最先进的 AI 大模型技术，成为世界一流的研究团队，为科技和社会发展作出贡献。 豆包大模型团队在AI领域拥有长期愿景与决心，研究方向涵盖NLP、CV、语音等，在中国、新加坡、美国等地设有实验室和研究岗位。团队依托平台充足的数据、计算等资源，在相关领域持续投入，已推出自研通用大模型，提供多模态能力，下游支持豆包、扣子、即梦等50+业务，并通过火山引擎开放给企业客户。目前，豆包APP已成为中国市场用户量最大的AIGC应用。 1、评估：负责评估符合业务要求的异构计算芯片，建立/完善评估体系、负载模型，预估业务收益； 2、推理：负责异构计算芯片落地实际推理业务，适配异构计算芯片特性，降低推理时延，提高推理吞吐； 3、训练：负责异构计算芯片落地实际训练业务，根据芯片计算、通信特性，优化显存占用，提高训练吞吐； 4、算子：负责开发异构计算芯片的高性能算子，根据芯片特性，优化算力、带宽利用率； 5、编译：负责通过编译技术实现异构计算芯片在不同业务场景中落地，负责实现更加高效的异构硬件编程范式； 6、调研：负责调研、验证前沿软硬件结合方向，比如稀疏计算（Sparse Computation）、存内计算（In-Memory Computing）、数据流计算（DataFlow）等。
团队介绍：字节跳动豆包大模型团队成立于 2023 年，致力于开发业界最先进的 AI 大模型技术，成为世界一流的研究团队，为科技和社会发展作出贡献。 豆包大模型团队在AI领域拥有长期愿景与决心，研究方向涵盖NLP、CV、语音等，在中国、新加坡、美国等地设有实验室和研究岗位。团队依托平台充足的数据、计算等资源，在相关领域持续投入，已推出自研通用大模型，提供多模态能力，下游支持豆包、扣子、即梦等50+业务，并通过火山引擎开放给企业客户。目前，豆包APP已成为中国市场用户量最大的AIGC应用。 1、评估：负责评估符合业务要求的异构计算芯片，建立/完善评估体系、负载模型，预估业务收益； 2、推理：负责异构计算芯片落地实际推理业务，适配异构计算芯片特性，降低推理时延，提高推理吞吐； 3、训练：负责异构计算芯片落地实际训练业务，根据芯片计算、通信特性，优化显存占用，提高训练吞吐； 4、算子：负责开发异构计算芯片的高性能算子，根据芯片特性，优化算力、带宽利用率； 5、编译：负责通过编译技术实现异构计算芯片在不同业务场景中落地，负责实现更加高效的异构硬件编程范式； 6、调研：负责调研、验证前沿软硬件结合方向，比如稀疏计算（Sparse Computation）、存内计算（In-Memory Computing）、数据流计算（DataFlow）等。
团队介绍：字节跳动豆包大模型团队成立于 2023 年，致力于开发业界最先进的 AI 大模型技术，成为世界一流的研究团队，为科技和社会发展作出贡献。 豆包大模型团队在AI领域拥有长期愿景与决心，研究方向涵盖NLP、CV、语音等，在中国、新加坡、美国等地设有实验室和研究岗位。团队依托平台充足的数据、计算等资源，在相关领域持续投入，已推出自研通用大模型，提供多模态能力，下游支持豆包、扣子、即梦等50+业务，并通过火山引擎开放给企业客户。目前，豆包APP已成为中国市场用户量最大的AIGC应用。 1、评估：负责评估符合业务要求的异构计算芯片，建立/完善评估体系、负载模型，预估业务收益； 2、推理：负责异构计算芯片落地实际推理业务，适配异构计算芯片特性，降低推理时延，提高推理吞吐； 3、训练：负责异构计算芯片落地实际训练业务，根据芯片计算、通信特性，优化显存占用，提高训练吞吐； 4、算子：负责开发异构计算芯片的高性能算子，根据芯片特性，优化算力、带宽利用率； 5、编译：负责通过编译技术实现异构计算芯片在不同业务场景中落地，负责实现更加高效的异构硬件编程范式； 6、调研：负责调研、验证前沿软硬件结合方向，比如稀疏计算（Sparse Computation）、存内计算（In-Memory Computing）、数据流计算（DataFlow）等。
团队介绍：字节跳动 Seed 团队成立于 2023 年，致力于寻找通用智能的新方法，追求智能上限。团队研究方向涵盖 LLM、语音、视觉、世界模型、基础架构、AI Infra、下一代 AI 交互等，在中国、新加坡、美国等地设有实验室和岗位。 Seed 团队在 AI 领域拥有长期愿景与决心，坚持深耕基础，期望成为世界一流的 AI 研究团队，为科技和社会发展作出贡献。目前团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、扣子、即梦等超过 50 个应用场景。 1、评估：负责评估符合业务要求的异构计算芯片，建立/完善评估体系、负载模型，预估业务收益； 2、推理：负责异构计算芯片落地实际推理业务，适配异构计算芯片特性，降低推理时延，提高推理吞吐； 3、训练：负责异构计算芯片落地实际训练业务，根据芯片计算、通信特性，优化显存占用，提高训练吞吐； 4、算子：负责开发异构计算芯片的高性能算子，根据芯片特性，优化算力、带宽利用率； 5、编译：负责通过编译技术实现异构计算芯片在不同业务场景中落地，负责实现更加高效的异构硬件编程范式； 6、调研：负责调研、验证前沿软硬件结合方向，比如稀疏计算（Sparse Computation）、存内计算（In-Memory Computing）、数据流计算（DataFlow）等。