字节跳动IaaS AI Infra研发专家/架构师

团队介绍：IaaS字节跳动基础架构IaaS团队致力于不断创新，推动云计算产业发展和IaaS架构演进。作为云计算基座我们服务了字节跳动旗下包括抖音、今日头条、西瓜视频、飞书等明星产品， 并通过火山引擎云基础产品服务外部客户：包括金融、汽车、游戏、电商、社交媒体、高端制造、科研院所等各行各业的丰富场景， 为亿级用户量的APP和ToB业务提供安全、稳定、高性价比的算力。 我们坚持全栈自研，软硬一体，全面拥抱云原生， 在技术上追求极致： -基于智能库存调度、精细化监控以及自动化运维能力， 来管理遍布全球超百万台规模的服务器集群； -自研高吞吐、低延迟、高弹性的网关网元以及高弹性高并发的计算存储服务来应对抖音春晚、双十一等各种流量洪峰； -打造万卡超大规模的GPU集群， 与机器学习平台、火山方舟一起构建了从基础设施到模型生态的完整解决方案； -此外，还提供和火山引擎公有云同源架构的veStack混合云平台，支撑客户的本地化部署和跨云资源的弹性伸缩等。 1、负责大模型训练和推理所需的IaaS基础设施的规划、建设与维护； 2、与业务团队密切合作，支持业务新算法和模型的集成，并优化其在IaaS基础设施上的性能； 3、开发和维护自动化工具，提高大规模模型基础设施的可观测性、可扩展性和可管理性； 4、跟踪业界AI新兴技术和行业趋势，参与新技术的研究与应用，推动基础设施的持续升级。

团队介绍：IaaS字节跳动基础架构IaaS团队致力于不断创新，推动云计算产业发展和IaaS架构演进。作为云计算基座我们服务了字节跳动旗下包括抖音、今日头条、西瓜视频、飞书等明星产品， 并通过火山引擎云基础产品服务外部客户：包括金融、汽车、游戏、电商、社交媒体、高端制造、科研院所等各行各业的丰富场景， 为亿级用户量的APP和ToB业务提供安全、稳定、高性价比的算力。 我们坚持全栈自研，软硬一体，全面拥抱云原生， 在技术上追求极致： -基于智能库存调度、精细化监控以及自动化运维能力， 来管理遍布全球超百万台规模的服务器集群； -自研高吞吐、低延迟、高弹性的网关网元以及高弹性高并发的计算存储服务来应对抖音春晚、双十一等各种流量洪峰； -打造万卡超大规模的GPU集群， 与机器学习平台、火山方舟一起构建了从基础设施到模型生态的完整解决方案； -此外，还提供和火山引擎公有云同源架构的veStack混合云平台，支撑客户的本地化部署和跨云资源的弹性伸缩等。 1、负责大模型训练和推理所需的IaaS基础设施的规划、建设与维护； 2、与业务团队密切合作，支持业务新算法和模型的集成，并优化其在IaaS基础设施上的性能； 3、开发和维护自动化工具，提高大规模模型基础设施的可观测性、可扩展性和可管理性； 4、跟踪业界AI新兴技术和行业趋势，参与新技术的研究与应用，推动基础设施的持续升级。

弹性计算异构AI推理团队，承担着构建阿里云IAAS资源在公共云竞争力的职责。在AI领域，团队对接业界主要AI用户的业务需求，承接提升GPU、AI加速器等芯片在AI场景的竞争力职责。和团队一起通过专家领域知识和软硬件分析能力构建阿里云在AI场景的核心竞争力和加速解决方案。 1. 负责基于云上AI真实场景的解决方案和性能分析系统建设，构建性能标尺。 2. 负责基于云上大规模推理场景的构建和底层软件性能优化工作。 3. 负责包括CIPU、GPU、AI加速器等硬件在阿里云AI场景的竞争力构建。 4. 与厂商和内部业务团队合作，为阿里云的AI用户提供具有竞争力的AI解决方案。

1. 立足AI Agent研发运维视角，贯穿整个技术栈，在稳定、体验、效率和成本这四个方面持续进行优化 2. 基于AI研发领域的MaaS/PaaS/IaaS，进行模型训练与推理的算力保障，并提升资源使用率 3. 统性地提升Agent研发、部署、运行阶段的稳定性，适应Agent QPS、模型推理TPM每年提升1个量级的发展速度 4. 主导解决Agent研发运维过程中各类疑难问题，并推进完善产品与平台的能力 5. 系统性构建故障节点、慢节点检测平台化能力，响应并解决日常大模型任务的故障问题 6. 负责LLM 后训练（SFT、RLHF/RLAIF 等）相关链路稳定性治理、规范建设：理解研发与优化 LLM + RL/HRF 相关训练框架，提升扩展性、稳定性与性能（吞吐、显存占用、收敛效率等）。结合分布式训练技术（如 tensor / pipeline / data parallel），优化多机多卡训练性能和资源利用率。 7. 平台稳定性与工程质量：建设训练平台的观测与运维体系，完善监控、告警、日志与故障排查工具；持续提升平台的稳定性、可调试性和可维护性，产出高质量技术文档与设计方案。