百度大模型公有云解决方案架构师(制造物流运输行业)（J82387）

团队介绍：IaaS字节跳动基础架构IaaS团队致力于不断创新，推动云计算产业发展和IaaS架构演进。作为云计算基座我们服务了字节跳动旗下包括抖音、今日头条、西瓜视频、飞书等明星产品， 并通过火山引擎云基础产品服务外部客户：包括金融、汽车、游戏、电商、社交媒体、高端制造、科研院所等各行各业的丰富场景， 为亿级用户量的APP和ToB业务提供安全、稳定、高性价比的算力。 我们坚持全栈自研，软硬一体，全面拥抱云原生， 在技术上追求极致： -基于智能库存调度、精细化监控以及自动化运维能力， 来管理遍布全球超百万台规模的服务器集群； -自研高吞吐、低延迟、高弹性的网关网元以及高弹性高并发的计算存储服务来应对抖音春晚、双十一等各种流量洪峰； -打造万卡超大规模的GPU集群， 与机器学习平台、火山方舟一起构建了从基础设施到模型生态的完整解决方案； -此外，还提供和火山引擎公有云同源架构的veStack混合云平台，支撑客户的本地化部署和跨云资源的弹性伸缩等。 1、负责大模型训练和推理所需的IaaS基础设施的规划、建设与维护； 2、与业务团队密切合作，支持业务新算法和模型的集成，并优化其在IaaS基础设施上的性能； 3、开发和维护自动化工具，提高大规模模型基础设施的可观测性、可扩展性和可管理性； 4、跟踪业界AI新兴技术和行业趋势，参与新技术的研究与应用，推动基础设施的持续升级。

团队介绍：IaaS字节跳动基础架构IaaS团队致力于不断创新，推动云计算产业发展和IaaS架构演进。作为云计算基座我们服务了字节跳动旗下包括抖音、今日头条、西瓜视频、飞书等明星产品， 并通过火山引擎云基础产品服务外部客户：包括金融、汽车、游戏、电商、社交媒体、高端制造、科研院所等各行各业的丰富场景， 为亿级用户量的APP和ToB业务提供安全、稳定、高性价比的算力。 我们坚持全栈自研，软硬一体，全面拥抱云原生， 在技术上追求极致： -基于智能库存调度、精细化监控以及自动化运维能力， 来管理遍布全球超百万台规模的服务器集群； -自研高吞吐、低延迟、高弹性的网关网元以及高弹性高并发的计算存储服务来应对抖音春晚、双十一等各种流量洪峰； -打造万卡超大规模的GPU集群， 与机器学习平台、火山方舟一起构建了从基础设施到模型生态的完整解决方案； -此外，还提供和火山引擎公有云同源架构的veStack混合云平台，支撑客户的本地化部署和跨云资源的弹性伸缩等。 1、负责大模型训练和推理所需的IaaS基础设施的规划、建设与维护； 2、与业务团队密切合作，支持业务新算法和模型的集成，并优化其在IaaS基础设施上的性能； 3、开发和维护自动化工具，提高大规模模型基础设施的可观测性、可扩展性和可管理性； 4、跟踪业界AI新兴技术和行业趋势，参与新技术的研究与应用，推动基础设施的持续升级。

团队介绍：IaaS字节跳动基础架构IaaS团队致力于不断创新，推动云计算产业发展和IaaS架构演进。作为云计算基座我们服务了字节跳动旗下包括抖音、今日头条、西瓜视频、飞书等明星产品， 并通过火山引擎云基础产品服务外部客户：包括金融、汽车、游戏、电商、社交媒体、高端制造、科研院所等各行各业的丰富场景， 为亿级用户量的APP和ToB业务提供安全、稳定、高性价比的算力。 我们坚持全栈自研，软硬一体，全面拥抱云原生， 在技术上追求极致： -基于智能库存调度、精细化监控以及自动化运维能力， 来管理遍布全球超百万台规模的服务器集群； -自研高吞吐、低延迟、高弹性的网关网元以及高弹性高并发的计算存储服务来应对抖音春晚、双十一等各种流量洪峰； -打造万卡超大规模的GPU集群， 与机器学习平台、火山方舟一起构建了从基础设施到模型生态的完整解决方案； -此外，还提供和火山引擎公有云同源架构的veStack混合云平台，支撑客户的本地化部署和跨云资源的弹性伸缩等。 1、负责大模型训练和推理所需的IaaS基础设施的规划、建设与维护； 2、与业务团队密切合作，支持业务新算法和模型的集成，并优化其在IaaS基础设施上的性能； 3、开发和维护自动化工具，提高大规模模型基础设施的可观测性、可扩展性和可管理性； 4、跟踪业界AI新兴技术和行业趋势，参与新技术的研究与应用，推动基础设施的持续升级。

我们是小红书中台大模型 Infra 团队，专注打造领先易用的「AI 大模型全链路基础设施」！团队深耕大模型「数-训-压-推-评」技术闭环，在大模型训练加速、模型压缩、推理优化、部署提效等方向积累了深厚的技术优势，基于 RedAccel 训练引擎、RedSlim 压缩工具、RedServing 推理部署引擎、DirectLLM 大模型 API 服务、QuickSilver 大模型生产部署平台等核心产品，持续赋能社区、商业、交易、安全、数平、研效等多个核心业务，实现 AI 技术高效落地！ 1、参与设计实现支持RLHF/DPO等对齐技术的高效训练框架，优化强化学习阶段的Rollout、Reward Model集成、多阶段训练 Pipline； 2、研发支持多机多卡 RL 的分布式训练框架，开发TP/PP/ZeRO-3与RL流程的动态协同机制，解决 RL 算法在超长时序下的显存/通信瓶刭 3、构建端到端后训练工具链，主导框架与 MLOps 平台集成，提供训练可视化、自动超参搜索等生产级能力 4、与公司各算法部门深度合作，参与大语言模型LLM、多模态大模型 MLLM等业务在 SFT/RL领域的算法探索和引擎迭代； 5、参与分析各业务 GPU 利用率与饱和度等指标，结合业务场景持续优化训练框架能力，提升框架领先性。