腾讯腾讯云-AI大模型SRE工程师
任职要求
1.本科及以上学历，3年以上工作经验，有机器学习平台相关开发或运维经验； 2.熟练使用 Go /Python/ Shell 等一种或多种编程语言，善于使用自动化／智能化方法让服务稳定高效； 3.熟悉容器技术，掌握K8s、 Docker 的技术原理，有实际使用和运维经验； 4.深入了解GPU架构与并行计算，掌握CUDA编程实践，熟悉RDMA网络通信技术、NCCL集合通讯，大模型分布式训练与推理架构及模型压缩技术； 5.对于AI大模型应用的构建、部署和维护过程有深入理解； 6.有优秀的逻辑分析能力，能够对业务逻辑进行合理的抽象和拆分； 7.具有良好的沟通协调能力，较好的团队合作精神、责任心和一定抗压能力。
工作职责
1.负责腾讯云大模型平台的稳定运行，支持开源Deepseek等模型服务训练与部署的多个环节； 2.优化模型的部署流程，包括持续集成、持续部署（ CI / CD ）和自动化工具； 3.负责集群管理和服务治理，设计容灾方案并实施演练，保障系统高可用和稳定性； 4.负责资源成本管理与规划，优化计算和存储资源，提升机器学习任务的执行效率； 5.分析 AI 硬件应用中的质量性能表现，提供系统技术支持能力，推动改进识别和落地； 6.关注业界前沿技术动态，探索复杂业务系统运维自动化和智能化的技术和方向。
1.负责大模型服务的稳定性和高可用性，确保平台在高并发和大流量下的稳定运行，设计和实施监控、报警和自动化运维平台建设等，及时发现和解决问题； 2.负责故障的快速定位和修复，制定并执行应急预案，确保业务连续性，参与故障复盘，分析根本原因，提出改进措施，防止类似问题再次发生； 3.开发和维护自动化运维平台与工具，提高运维效率，减少人为操作失误。进行资源使用优化，提高资源利用率，提升系统性能； 4.分析和深入发掘现有系统的不足，数据驱动找到薄弱点，推动系统优化落地改进； 5.负责资源规划和管理，确保资源的合理分配和高效利用，进行资源成本分析，监控和评估资源使用情况，提出成本优化方案，同时能结合业界硬件演进roadmap与技术平台需求不断推动最优配置选型与迭代。
团队介绍：字节跳动豆包大模型团队成立于 2023 年，致力于开发业界最先进的 AI 大模型技术，成为世界一流的研究团队，为科技和社会发展作出贡献。 豆包大模型团队在AI领域拥有长期愿景与决心，研究方向涵盖NLP、CV、语音等，在中国、新加坡、美国等地设有实验室和研究岗位。团队依托平台充足的数据、计算等资源，在相关领域持续投入，已推出自研通用大模型，提供多模态能力，下游支持豆包、扣子、即梦等50+业务，并通过火山引擎开放给企业客户。目前，豆包APP已成为中国市场用户量最大的AIGC应用。 1、负责维护机器学习系统的稳定运转，支持大模型的开发、训练与部署的多个环节； 2、负责集团GPU资源的管理与规划，成本与预算，包括: GPU/CPU机器资源，存储等资源，为管理层提供资源决策数据； 3、负责集群、业务服务的稳定性治理，资源利用率提升和运维人效提升，通过平台化系统化的手段提升资源使用的效率； 4、负责多地域、多机房的系统容灾、服务部署管理和集群机器治理，提供稳定高效的GPU系统运行环境； 5、负责系统和业务的运维支持，参与业务和系统的Troubleshooting工作。
1、负责海量高性能GPU/XPU卡的资源交付与一致性保障，涵盖万卡大模型训练、在线推理、在线搜索、推荐训练等不同业务场景的集群管理； 2、学习并深入了解GPU业务方的使用姿势和训练框架，掌握前沿AI大模型技术，解决超大规模场景下的稳定性挑战，涉及NvidiaH100、A100、昇腾、以及自研XPU等高性能卡型的使用； 3、构建自动化工程，确保生产环境的稳定性和资源在线率，及时发现并隔离故障GPU资源，提高资源流转效率； 4、通过优秀的工程架构设计，参与生产集群和服务的整个生命周期，满足可持续发展的需求并提高系统稳定性，包括架构规划、评审、设计、部署和上线等环节。
1、负责海量高性能GPU/XPU卡的资源交付与一致性保障，涵盖万卡大模型训练、在线推理、在线搜索、推荐训练等不同业务场景的集群管理； 2、学习并深入了解GPU业务方的使用姿势和训练框架，掌握前沿AI大模型技术，解决超大规模场景下的稳定性挑战，涉及NvidiaH100、A100、昇腾、以及自研XPU等高性能卡型的使用； 3、构建自动化工程，确保生产环境的稳定性和资源在线率，及时发现并隔离故障GPU资源，提高资源流转效率； 4、通过优秀的工程架构设计，参与生产集群和服务的整个生命周期，满足可持续发展的需求并提高系统稳定性，包括架构规划、评审、设计、部署和上线等环节。