小红书AI平台高级研发工程师（大模型平台方向）

我们是小红书中台大模型 Infra 团队，专注打造领先易用的「AI 大模型全链路基础设施」！团队深耕大模型「数-训-压-推-评」技术闭环，在大模型训练加速、模型压缩、推理优化、部署提效等方向积累了深厚的技术优势，基于 RedAccel 训练引擎、RedSlim 压缩工具、RedServing 推理部署引擎、DirectLLM 大模型 API 服务、QuickSilver 大模型生产部署平台等核心产品，持续赋能社区、商业、交易、安全、数平、研效等多个核心业务，实现 AI 技术高效落地！ 1、负责大模型平台的架构设计和核心功能研发，构建云原生架构，设计高可用、高性能的微服务体系； 2、负责构建面向大模型全流程的DevOps，与下游云原生平台深度融合，支撑大模型在公司内各业务生产链路稳定高效地落地； 3、负责万卡规模GPU集群效能分析及优化，通过调度策略优化、在离线混部、GPU虚拟化、存储&网络加速等手段，提升GPU集群使用效率； 4、将平台和框架结合，通过任务调度、弹性容灾、性能优化等措施端到端提升AI生产效率，涉及k8s/kubeflow、网络通信、分布式训练等； 5、优化各AI平台性能，提升系统稳定性和可扩展性，保障大规模并发场景下的服务质量与用户体验； 6、持续研究分析业内创新AI平台产品，优化技术方案，改进产品功能，提升创新能力与产品体验。

1、负责模型训练平台核心功能开发和架构设计，包括传统CN/NLP/SD/LLM等多场景支持 2、负责大模型后训练工具平台化建设，包括后预训练、微调、对齐等技术落地 3、设计和实现高性能分布式训练系统，打造端到端训练解决方案 4、优化训练调度和资源管理，提升集群利用率和训练效率 5、开发模型训练监控诊断工具，建设可观测性体系

• 负责悟空电商AI架构的整体规划与落地。聚焦于复杂多智能体系统（Multi-Agent System）、通用Skill生态与可视化工作流（Workflow）平台的顶层设计，将AI能力转化为可复用的中台组件和服务。 • 负责电商AI服务端高并发、低延迟、高可用的技术体系搭建。攻克在线推理延迟优化、大模型Token成本控制、长文本/多模态数据处理等底座工程难题，保障大促等极端场景下的业务稳定性。 • 深度参与AI产品从0到1再到规模化推广的全生命周期。协同算法、产品与运营团队，将前沿AI技术转化为能切实提升商家ROI、降低运营成本的商业化解决方案。 • 具备优秀的全栈全局观，能够主导或指导团队快速构建AI能力敏捷验证工具（如内部原型、评测看板等），加速AI业务的实验与迭代效率。 • 持续跟进大模型领域前沿进展（如MCP协议、最新多模态、Agentic Workflow等），结合电商场景进行技术储备；指导初中级工程师，提升团队整体在AI工程化领域的认知与作战能力。

• 负责悟空电商AI架构的整体规划与落地。聚焦于复杂多智能体系统（Multi-Agent System）、通用Skill生态与可视化工作流（Workflow）平台的顶层设计，将AI能力转化为可复用的中台组件和服务。 • 负责电商AI服务端高并发、低延迟、高可用的技术体系搭建。攻克在线推理延迟优化、大模型Token成本控制、长文本/多模态数据处理等底座工程难题，保障大促等极端场景下的业务稳定性。 • 深度参与AI产品从0到1再到规模化推广的全生命周期。协同算法、产品与运营团队，将前沿AI技术转化为能切实提升商家ROI、降低运营成本的商业化解决方案。 • 具备优秀的全栈全局观，能够主导或指导团队快速构建AI能力敏捷验证工具（如内部原型、评测看板等），加速AI业务的实验与迭代效率。 • 持续跟进大模型领域前沿进展（如MCP协议、最新多模态、Agentic Workflow等），结合电商场景进行技术储备；指导初中级工程师，提升团队整体在AI工程化领域的认知与作战能力。