字节跳动IaaS AI Infra研发专家/架构师

团队介绍：IaaS字节跳动基础架构IaaS团队致力于不断创新，推动云计算产业发展和IaaS架构演进。作为云计算基座我们服务了字节跳动旗下包括抖音、今日头条、西瓜视频、飞书等明星产品， 并通过火山引擎云基础产品服务外部客户：包括金融、汽车、游戏、电商、社交媒体、高端制造、科研院所等各行各业的丰富场景， 为亿级用户量的APP和ToB业务提供安全、稳定、高性价比的算力。 我们坚持全栈自研，软硬一体，全面拥抱云原生， 在技术上追求极致： -基于智能库存调度、精细化监控以及自动化运维能力， 来管理遍布全球超百万台规模的服务器集群； -自研高吞吐、低延迟、高弹性的网关网元以及高弹性高并发的计算存储服务来应对抖音春晚、双十一等各种流量洪峰； -打造万卡超大规模的GPU集群， 与机器学习平台、火山方舟一起构建了从基础设施到模型生态的完整解决方案； -此外，还提供和火山引擎公有云同源架构的veStack混合云平台，支撑客户的本地化部署和跨云资源的弹性伸缩等。 1、负责大模型训练和推理所需的IaaS基础设施的规划、建设与维护； 2、与业务团队密切合作，支持业务新算法和模型的集成，并优化其在IaaS基础设施上的性能； 3、开发和维护自动化工具，提高大规模模型基础设施的可观测性、可扩展性和可管理性； 4、跟踪业界AI新兴技术和行业趋势，参与新技术的研究与应用，推动基础设施的持续升级。

团队介绍：IaaS字节跳动基础架构IaaS团队致力于不断创新，推动云计算产业发展和IaaS架构演进。作为云计算基座我们服务了字节跳动旗下包括抖音、今日头条、西瓜视频、飞书等明星产品， 并通过火山引擎云基础产品服务外部客户：包括金融、汽车、游戏、电商、社交媒体、高端制造、科研院所等各行各业的丰富场景， 为亿级用户量的APP和ToB业务提供安全、稳定、高性价比的算力。 我们坚持全栈自研，软硬一体，全面拥抱云原生， 在技术上追求极致： -基于智能库存调度、精细化监控以及自动化运维能力， 来管理遍布全球超百万台规模的服务器集群； -自研高吞吐、低延迟、高弹性的网关网元以及高弹性高并发的计算存储服务来应对抖音春晚、双十一等各种流量洪峰； -打造万卡超大规模的GPU集群， 与机器学习平台、火山方舟一起构建了从基础设施到模型生态的完整解决方案； -此外，还提供和火山引擎公有云同源架构的veStack混合云平台，支撑客户的本地化部署和跨云资源的弹性伸缩等。 1、负责大模型训练和推理所需的IaaS基础设施的规划、建设与维护； 2、与业务团队密切合作，支持业务新算法和模型的集成，并优化其在IaaS基础设施上的性能； 3、开发和维护自动化工具，提高大规模模型基础设施的可观测性、可扩展性和可管理性； 4、跟踪业界AI新兴技术和行业趋势，参与新技术的研究与应用，推动基础设施的持续升级。

弹性计算异构AI推理团队，承担着构建阿里云IAAS资源在公共云竞争力的职责。在AI领域，团队对接业界主要AI用户的业务需求，承接提升GPU、AI加速器等芯片在AI场景的竞争力职责。和团队一起通过专家领域知识和软硬件分析能力构建阿里云在AI场景的核心竞争力和加速解决方案。 1. 负责基于云上AI真实场景的解决方案和性能分析系统建设，构建性能标尺。 2. 负责基于云上大规模推理场景的构建和底层软件性能优化工作。 3. 负责包括CIPU、GPU、AI加速器等硬件在阿里云AI场景的竞争力构建。 4. 与厂商和内部业务团队合作，为阿里云的AI用户提供具有竞争力的AI解决方案。

1.post-training 框架研发，聚焦 LLM + RL 方向，设计框架架构与技术路线，提升其扩展性、稳定性与效率。 2.优化框架性能，如训练速度、显存占用等，降低训练成本，为 LLM + RL 训练提供有力技术支撑。 3.协同业务团队，将 LLM 能力在业务场景落地，根据业务需求定制训练方案并评估验证模型。 4.负责模型训练和推理所需的IaaS基础设施的规划、迭代与框架维护，致力于提供一致性、可扩展、高可靠的平台技术底座；