小米AI训练平台高级研发工程师
任职要求
职位要求： 1. 精通Go/Python开发，具有大型分布式系统调度模块的架构设计经验，熟悉任务队列的底层实现原理 2. 深入理解Kubernetes调度机制，有Volcano/Kueue等批量调度框架二次开发经验者优先 3. 熟悉主流调度算法（DRF/Gang Scheduling/Fair Sharing等），有大规模AI训练任务调度优化实战经验 4. 具备高性能计算（HPC）或AI训练平台调度系统开发经验，熟悉MPI/AllReduce等分布式训练通信模式 加分项： - 主导过单集群万卡级资源调度系统开发 - 实现过LLM训练任务的动态弹性调度方案 - 参与过Training-operator/Kubeflow等开源项目调度模块贡献 - 发表过任务调度/资源管理相关领域论文或专利
工作职责
1. 主导AI训练平台任务调度系统与队列管理架构设计，优化大规模分布式训练任务的资源调度策略与执行效率 2. 开发高并发任务调度算法，解决资源抢占、优先级调度、故障恢复等核心问题，保障万卡级集群资源利用率 3. 构建智能队列管理系统，支持弹性配额、动态优先级调整、故障任务自动迁移等高级功能，满足LLM/VLM等大模型训练需求 4. 负责调度系统可观测性建设与性能优化，培养调度领域技术团队
1、负责模型训练平台核心功能开发和架构设计，包括传统CN/NLP/SD/LLM等多场景支持 2、负责大模型后训练工具平台化建设，包括后预训练、微调、对齐等技术落地 3、设计和实现高性能分布式训练系统，打造端到端训练解决方案 4、优化训练调度和资源管理，提升集群利用率和训练效率 5、开发模型训练监控诊断工具，建设可观测性体系
我们是小红书中台大模型 Infra 团队，专注打造领先易用的「AI 大模型全链路基础设施」！团队深耕大模型「数-训-压-推-评」技术闭环，在大模型训练加速、模型压缩、推理优化、部署提效等方向积累了深厚的技术优势，基于 RedAccel 训练引擎、RedSlim 压缩工具、RedServing 推理部署引擎、DirectLLM 大模型 API 服务、QuickSilver 大模型生产部署平台等核心产品，持续赋能社区、商业、交易、安全、数平、研效等多个核心业务，实现 AI 技术高效落地！ 1、负责大模型平台的架构设计和核心功能研发，构建云原生架构，设计高可用、高性能的微服务体系； 2、负责构建面向大模型全流程的DevOps，与下游云原生平台深度融合，支撑大模型在公司内各业务生产链路稳定高效地落地； 3、负责万卡规模GPU集群效能分析及优化，通过调度策略优化、在离线混部、GPU虚拟化、存储&网络加速等手段，提升GPU集群使用效率； 4、将平台和框架结合，通过任务调度、弹性容灾、性能优化等措施端到端提升AI生产效率，涉及k8s/kubeflow、网络通信、分布式训练等； 5、优化各AI平台性能，提升系统稳定性和可扩展性，保障大规模并发场景下的服务质量与用户体验； 6、持续研究分析业内创新AI平台产品，优化技术方案，改进产品功能，提升创新能力与产品体验。
【业务介绍】 我们是小红书内稠密类模型（LLM/MLLM/SD/CV/NLP）统一的AI平台QuickSilver，负责调度公司内所有稠密类模型训练与推理资源，基于自建的训推引擎，为公司所有AI算法同学迭代业务模型提供端到端一站式AI服务；包括数据管理，模型管理，模型训练、压缩、推理、部署，服务管理，资源调度等一系列能力。 工作职责： 1、负责稠密类模型训练推理开发平台的架构设计和核心功能研发 2、设计和实现大模型训练部署流程，包括模型fine-tuning、推理服务化等 3、构建云原生架构，设计高可用、高性能的微服务体系 4、优化平台性能，提升系统稳定性和可扩展性
-负责一见产品和平台开发迭代 -完成重要技术模块的方案设计、开发 -参与团队开发过程中的Code Review、文档撰写、性能调优等工作 -参与团队公共技术组件的抽象、沉淀和架构优化