字节跳动机器学习系统SRE工程师-Seed

团队介绍：字节跳动 Seed 团队成立于 2023 年，致力于寻找通用智能的新方法，追求智能上限。团队研究方向涵盖 LLM、语音、视觉、世界模型、基础架构、AI Infra、下一代 AI 交互等，在中国、新加坡、美国等地设有实验室和岗位。 Seed 团队在 AI 领域拥有长期愿景与决心，坚持深耕基础，期望成为世界一流的 AI 研究团队，为科技和社会发展作出贡献。目前团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、扣子、即梦等超过 50 个应用场景。 1、负责维护机器学习系统的稳定运转，支持大模型的开发、训练与部署的多个环节； 2、负责集团GPU资源的管理与规划，成本与预算，包括: GPU/CPU机器资源，存储等资源，为管理层提供资源决策数据； 3、负责集群、业务服务的稳定性治理，资源利用率提升和运维人效提升，通过平台化系统化的手段提升资源使用的效率； 4、负责多地域、多机房的系统容灾、服务部署管理和集群机器治理，提供稳定高效的GPU系统运行环境； 5、负责系统和业务的运维支持，参与业务和系统的Troubleshooting工作。

团队介绍：字节跳动豆包大模型团队成立于 2023 年，致力于开发业界最先进的 AI 大模型技术，成为世界一流的研究团队，为科技和社会发展作出贡献。 豆包大模型团队在AI领域拥有长期愿景与决心，研究方向涵盖NLP、CV、语音等，在中国、新加坡、美国等地设有实验室和研究岗位。团队依托平台充足的数据、计算等资源，在相关领域持续投入，已推出自研通用大模型，提供多模态能力，下游支持豆包、扣子、即梦等50+业务，并通过火山引擎开放给企业客户。目前，豆包APP已成为中国市场用户量最大的AIGC应用。 1、负责维护机器学习系统的稳定运转，支持大模型的开发、训练与部署的多个环节； 2、负责集团GPU资源的管理与规划，成本与预算，包括: GPU/CPU机器资源，存储等资源，为管理层提供资源决策数据； 3、负责集群、业务服务的稳定性治理，资源利用率提升和运维人效提升，通过平台化系统化的手段提升资源使用的效率； 4、负责多地域、多机房的系统容灾、服务部署管理和集群机器治理，提供稳定高效的GPU系统运行环境； 5、负责系统和业务的运维支持，参与业务和系统的Troubleshooting工作。

【业务介绍】 作为公司统一的机器学习平台团队，负责调度公司所有模型训练与推理资源；基于自建的训推引擎，构建公司统一的机器学习平台，为公司所有算法同学（稀疏 & 稠密，含 LLM） 模型迭代提供端到端的一站式服务；包括 数据生产，模型训练，模型上线，特征管理，模型测试，资源管控等一系列能力。 【岗位职责】 1、负责机器学习链路，离在线数据相关的开发工作，包括样本数据、特征数据等的数据链路搭建、任务运维和调优、性能优化等 2、负责小红书大规模机器学习平台的后台系统设计和开发工作；包括样本平台，特征平台，训练平台，推理平台等AI应用后台建设等； 3、研究分析业内AI平台产品，优化技术方案，改进产品功能，完善产品体验。

【业务介绍】 我们是小红书内稠密类模型（LLM/MLLM/SD/CV/NLP）统一的AI平台QuickSilver，负责调度公司内所有稠密类模型训练与推理资源，基于自建的训推引擎，为公司所有AI算法同学迭代业务模型提供端到端一站式AI服务；包括数据管理，模型管理，模型训练、压缩、推理、部署，服务管理，资源调度等一系列能力。 工作职责： 1、负责稠密类模型训练推理开发平台的架构设计和核心功能研发 2、设计和实现大模型训练部署流程，包括模型fine-tuning、推理服务化等 3、构建云原生架构，设计高可用、高性能的微服务体系 4、优化平台性能，提升系统稳定性和可扩展性