蚂蚁金服蚂蚁集团-云原生 PaaS 开发专家-上海/北京/杭州/广州【平台工程】
任职要求
1、熟练掌握 Go/C++/Java 等编程语言的一种; 2、对 Kubernetes 的架构、特性精通,熟悉云原生技术生态; 3、注重代码质量,追求优雅与健壮的系统架构 4、善于学习,有技术热情,拥有良好的沟通和团队协作精神 5、熟悉 AI 基础设施者优先…
工作职责
蚂蚁 PaaS 平台是基于蚂蚁多年在金融级云原生领域的技术积累,围绕 Kubernetes 等云原生技术打造的应用 PaaS 平台,并通过下沉技术风险、安全可信、数据智能等能力,实现效率与风险的极致平衡,满足蚂蚁多元化业务需要。 1、基于 Kubernetes 的云原生 PaaS 平台研发,解决蚂蚁超大规模场景下云原生系统性能、高可用与稳定性等问题 2、参与云原生大模型推理服务平台建设,包括模型部署、推理服务高可用高吞吐等能力建设 3、参与变更管控与智能变更平台建设,包括策略代码化、风险分析、根因定位与变更Agent等能力建设 4、面向客户端到端需求分析、技术选型、架构设计、代码实现与功能交付 5、参与云原生 PaaS 开源技术品牌 KusionStack 的建设
1. 技术团队建设与管理 (1)负责L2/PFE(Premier Field Engineer)技术工程师团队的搭建、能力培养及梯队建设,制定技术标准与协作流程;配合CSM(客户成功经理)及技术支持(Support Center)团队,快速、专业地解决客户技术问题,保障客户满意度; (2)管理派驻客户区域的PFE工程师团队,优化全球技术服务响应机制、保障团队管理与服务响应效率; 2. 复杂问题攻关与升级支持 (1)作为服务团队内部的技术问题兜底责任人,主导客户复杂技术问题(含TAM/CSM团队升级问题)的诊断与解决,覆盖领域包括但不限于: (2)移动端开发(Android/iOS/mPaaS/H5应用开发、性能优化、疑难故障排查); (3)金融风控系统(决策引擎、全球实人认证、反欺诈技术等); (4)AI PaaS相关架构与平台; (5)沉淀技术解决方案,建立知识库并推动产品技术的持续迭代优化; 3. 全球客户现场技术赋能 (1)能主导高价值客户的现场技术护航,提供架构优化、故障根因分析、技术风险防控等深度服务; (2)面向全球客户(含跨国企业),完成流畅的英语技术沟通支持及文档交付; 4. 技术能力体系化建设 (1)推进技术培训体系,提升一线支持团队(L1/L2)及TAM团队的技术能力; (2)联合产品与研发团队,推动技术服务的标准化与系统化赋能。
1. 负责蚂蚁数科私有化项目全球化运维服务能力的建设,对全球化各local项目进行专家支持,及相关local运维人员的管理; 2. 负责蚂蚁数科私有化项目的运维保障工作,包括部署、监控、变更、巡检、应急响应、故障恢复等; 3. 负责蚂蚁数科私有化运维体系的建设,构建基于云原生、金融云技术架构的应用系统的维护、管理,以及运维工具体系的建设; 4. 参与蚂蚁数字科技私有化项目增值运维服务的开发、履约、专家支持,包括客户重要活动的护航保障、客户定制服务等。
大模型具备很强的泛化及理解世界能力,在小红书内的众多生产场景遍地开花,大模型的训练和部署已成为许多算法工程师的日常。在多团队、多业务频繁使用的大规模GPU集群上,如何能够通过高效的GPU调度策略,使大家不仅能丝滑地完成训练及部署任务,同时也能充分激发大规模GPU集群的效能,是行业公认的关键挑战。在这里,你可以聚焦LLM场景,接触到超大规模GPU集群,并使用真实负载数据进行深入分析及技术探索。欢迎加入我们,一起探索领先技术改变世界! 工作职责: 1、负责万卡规模GPU集群效能分析及优化,通过调度策略优化、在离线混部、集群调度、GPU虚拟化、故障快速恢复、存储&网络加速等手段,提升大规模GPU集群的整体使用效率。 2、负责构建面向大模型训练、微调、推理、部署全流程LLMOps,与下游云原生平台深度融合,支撑大模型在公司内各业务生产链路稳定高效地落地。 3、持续关注业界最新的GPU资源调度相关技术动态,探索建设业界领先的资源调度策略及方法,构建下一代大规模AI资源调度系统。
【业务介绍】 我们是小红书内稠密类模型(LLM/MLLM/SD/CV/NLP)统一的AI平台QuickSilver,负责调度公司内所有稠密类模型训练与推理资源,基于自建的训推引擎,为公司所有AI算法同学迭代业务模型提供端到端一站式AI服务;包括数据管理,模型管理,模型训练、压缩、推理、部署,服务管理,资源调度等一系列能力。 工作职责: 1、负责稠密类模型训练推理开发平台的架构设计和核心功能研发 2、设计和实现大模型训练部署流程,包括模型fine-tuning、推理服务化等 3、构建云原生架构,设计高可用、高性能的微服务体系 4、优化平台性能,提升系统稳定性和可扩展性