阿里云阿里云智能-云网络JAVA高级研发工程师(计量)-杭州
任职要求
1.精通 Java 编程语言,3 年以上相关开发经验,熟悉常用设计模式,深入理解 IO、多线程、JVM 原理及性能调优。 2.熟悉 Spring、iBatis、Struts 等开源框架以及 MySQL、Redis、消息队列等中间件的基本原理,并有一定应用实践。 3.熟悉分布式系统及高并发服务核心技术,掌握缓存、消息、分布式事务等机制,具备高性能系统架构设计与生产环境故障诊断能力。 4.有以下经验者优先:1)低代…
工作职责
1.负责阿里云云网络产品计量系统的设计和研发工作。 2.负责云网络计量面运维运营支撑系统的设计和研发工作。 3.利用AI DevOps技术提升云网络计量面研发效率、运维效率和系统的整体稳定性,并形成标准化的运维方案落地。
i. 负责阿里云云网络产品计量系统的设计和研发工作。 ii. 负责云网络计量面运维运营支撑系统的设计和研发工作。 iii. 利用AI 技术提升云网络计量面研发效率、运维效率和系统的整体稳定性,并形成标准化的运维方案落地。
大模型具备很强的泛化及理解世界能力,在小红书内的众多生产场景遍地开花,大模型的训练和部署已成为许多算法工程师的日常。在多团队、多业务频繁使用的大规模GPU集群上,如何能够通过高效的GPU调度策略,使大家不仅能丝滑地完成训练及部署任务,同时也能充分激发大规模GPU集群的效能,是行业公认的关键挑战。在这里,你可以聚焦LLM场景,接触到超大规模GPU集群,并使用真实负载数据进行深入分析及技术探索。欢迎加入我们,一起探索领先技术改变世界! 工作职责: 1、负责万卡规模GPU集群效能分析及优化,通过调度策略优化、在离线混部、集群调度、GPU虚拟化、故障快速恢复、存储&网络加速等手段,提升大规模GPU集群的整体使用效率。 2、负责构建面向大模型训练、微调、推理、部署全流程LLMOps,与下游云原生平台深度融合,支撑大模型在公司内各业务生产链路稳定高效地落地。 3、持续关注业界最新的GPU资源调度相关技术动态,探索建设业界领先的资源调度策略及方法,构建下一代大规模AI资源调度系统。
【业务介绍】 我们是小红书内稠密类模型(LLM/MLLM/SD/CV/NLP)统一的AI平台QuickSilver,负责调度公司内所有稠密类模型训练与推理资源,基于自建的训推引擎,为公司所有AI算法同学迭代业务模型提供端到端一站式AI服务;包括数据管理,模型管理,模型训练、压缩、推理、部署,服务管理,资源调度等一系列能力。 工作职责: 1、负责稠密类模型训练推理开发平台的架构设计和核心功能研发 2、设计和实现大模型训练部署流程,包括模型fine-tuning、推理服务化等 3、构建云原生架构,设计高可用、高性能的微服务体系 4、优化平台性能,提升系统稳定性和可扩展性