美团大模型训练系统工程师/专家
任职要求
1. 有扎实的计算机理论基础；熟练掌握常用数据结构和算法；熟练掌握C++或Python 等语言； 2. 熟练使用PyTorch 或 TensorFlow 等常用的深度学习框架；熟悉视觉或NLP 等领域常用深度学习算法结构，如ResNet、Transformer 等。 3. 了解CUDA 编程、GPU体系结构或其他加速硬件架构优先。 4. 熟悉大模型分布式训练范式且有深度性能分析和优化经验者优先。 5. 有快速高质量自主学习能力，较强沟通协作能力者优先。
工作职责
1. 参与美团超大规模的AI 大模型训练Infra建设 2. 参与美团大模型训练框架的扩展性、效率、稳定性等基础能力建设
团队介绍：字节跳动豆包大模型团队成立于 2023 年，致力于开发业界最先进的 AI 大模型技术，成为世界一流的研究团队，为科技和社会发展作出贡献。 豆包大模型团队在AI领域拥有长期愿景与决心，研究方向涵盖NLP、CV、语音等，在中国、新加坡、美国等地设有实验室和研究岗位。团队依托平台充足的数据、计算等资源，在相关领域持续投入，已推出自研通用大模型，提供多模态能力，下游支持豆包、扣子、即梦等50+业务，并通过火山引擎开放给企业客户。目前，豆包APP已成为中国市场用户量最大的AIGC应用。 1、负责机器学习系统存储相关组件的设计和开发，服务于各方向场景（LLM/CV/Speech等）的数据加载模块和模型状态持久化，从而优化任务IO性能，提升有效训练时间； 2、负责设计和实现面向机器学习场景的文件系统，使用内存、SSD、HDD以及云端对象存储等介质进行数据的持久化存储和管理，均衡的优化存储性能与成本； 3、负责Kubernetes场景下各类存储系统的接入、管理、治理、监控； 4、负责多机房、多地域、多云场景的在任务数据联合调度，优化跨区域数据传输，实现负载的合理化分布。
团队介绍：字节跳动豆包大模型团队成立于 2023 年，致力于开发业界最先进的 AI 大模型技术，成为世界一流的研究团队，为科技和社会发展作出贡献。 豆包大模型团队在AI领域拥有长期愿景与决心，研究方向涵盖NLP、CV、语音等，在中国、新加坡、美国等地设有实验室和研究岗位。团队依托平台充足的数据、计算等资源，在相关领域持续投入，已推出自研通用大模型，提供多模态能力，下游支持豆包、扣子、即梦等50+业务，并通过火山引擎开放给企业客户。目前，豆包APP已成为中国市场用户量最大的AIGC应用。 1、负责机器学习系统存储相关组件的设计和开发，服务于各方向场景（LLM/CV/Speech等）的数据加载模块和模型状态持久化，从而优化任务IO性能，提升有效训练时间； 2、负责设计和实现面向机器学习场景的文件系统，使用内存、SSD、HDD以及云端对象存储等介质进行数据的持久化存储和管理，均衡的优化存储性能与成本； 3、负责Kubernetes场景下各类存储系统的接入、管理、治理、监控； 4、负责多机房、多地域、多云场景的在任务数据联合调度，优化跨区域数据传输，实现负载的合理化分布。
团队介绍：字节跳动豆包大模型团队成立于 2023 年，致力于开发业界最先进的 AI 大模型技术，成为世界一流的研究团队，为科技和社会发展作出贡献。 豆包大模型团队在AI领域拥有长期愿景与决心，研究方向涵盖NLP、CV、语音等，在中国、新加坡、美国等地设有实验室和研究岗位。团队依托平台充足的数据、计算等资源，在相关领域持续投入，已推出自研通用大模型，提供多模态能力，下游支持豆包、扣子、即梦等50+业务，并通过火山引擎开放给企业客户。目前，豆包APP已成为中国市场用户量最大的AIGC应用。 1、负责机器学习系统存储相关组件的设计和开发，服务于各方向场景（LLM/CV/Speech等）的数据加载模块和模型状态持久化，从而优化任务IO性能，提升有效训练时间； 2、负责设计和实现面向机器学习场景的文件系统，使用内存、SSD、HDD以及云端对象存储等介质进行数据的持久化存储和管理，均衡的优化存储性能与成本； 3、负责Kubernetes场景下各类存储系统的接入、管理、治理、监控； 4、负责多机房、多地域、多云场景的在任务数据联合调度，优化跨区域数据传输，实现负载的合理化分布。
1、负责存储相关组件的设计和开发，服务于大模型推理和训练场景，包括模型分发加载、KV Cache存储和优化，数据IO性能优化，提高核心性能指标； 2、负责设计和实现面向面向海量数据模型训练和视频转码的分布式缓存文件系统，使用内存、SSD、HDD以及云端对象存储等介质进行数据的持久化存储和管理，均衡的优化存储性能与成本； 3、负责设计和实现面向多模态内容理解和检索元数据管理服务。