小米高级研发工程师

【业务介绍】 我们是小红书内稠密类模型（LLM/MLLM/SD/CV/NLP）统一的AI平台QuickSilver，负责调度公司内所有稠密类模型训练与推理资源，基于自建的训推引擎，为公司所有AI算法同学迭代业务模型提供端到端一站式AI服务；包括数据管理，模型管理，模型训练、压缩、推理、部署，服务管理，资源调度等一系列能力。 工作职责： 1、负责稠密类模型训练推理开发平台的架构设计和核心功能研发 2、设计和实现大模型训练部署流程，包括模型fine-tuning、推理服务化等 3、构建云原生架构，设计高可用、高性能的微服务体系 4、优化平台性能，提升系统稳定性和可扩展性

1、负责模型训练平台核心功能开发和架构设计，包括传统CN/NLP/SD/LLM等多场景支持 2、负责大模型后训练工具平台化建设，包括后预训练、微调、对齐等技术落地 3、设计和实现高性能分布式训练系统，打造端到端训练解决方案 4、优化训练调度和资源管理，提升集群利用率和训练效率 5、开发模型训练监控诊断工具，建设可观测性体系

1、负责AI平台推理部署核心功能开发，包括服务管理、部署、发布等模块 2、设计并实现推理服务的自动化运维体系，包括监控、告警和运维工具 3、开发服务编排和调度系统，实现资源的高效分配和负载均衡 4、构建平台运维API和SDK，提供完整的服务生命周期管理能力 5、优化平台整体架构，提升系统可用性、扩展性和性能

1、负责滴滴国际化外卖营销方向的需求开发，在充分理解营销业务的基础上进行需求分析、设计、开发、上线等工作； 2、负责相关核心微服务的设计和实现，充分理解业务的发展方向和未来的技术挑战，并作出提前设计和规划； 3、学习研究业界先进技术，保持技术进步。