小红书大模型与 Agent 平台全栈工程师/专家

工作职责： 1、大模型与 Agent 平台架构研发：负责大模型平台、Agent 应用平台的架构设计和核心功能研发，构建云原生架构下高可用、高性能、可扩展的微服务体系，支撑模型能力从训练、部署到业务应用的端到端落地。 2、AI 生产链路与 LLMOps 建设：建设面向大模型全流程的 LLMOps / DevOps 能力，覆盖模型训练、模型管理、推理部署、服务发布、监控告警、任务诊断、效果评估等环节，提升大模型生产效率和稳定性。 3、Agent 应用平台建设：参与建设面向业务研发和算法团队的 Agent 开发平台，支持 Agent Workflow、Tool Calling、Function Calling、MCP、RAG、Memory、多轮对话、调试诊断、应用发布等核心能力，降低大模型应用开发和上线门槛。 4、Pipeline 与任务编排系统建设：负责大模型任务流、Pipeline、Argo Workflows / Kubeflow 等任务编排能力建设，提升训练、部署、评估、Agent 应用构建等复杂任务的自动化、可观测和可恢复能力。 5、平台与框架深度结合：将平台能力与训练、推理、部署、Agent Framework 深度结合，通过任务调度、弹性容灾、失败重试、资源隔离、链路追踪、性能优化等能力，端到端提升 AI 生产效率。 6、平台体验优化及业务协同：持续优化 AI 平台和 Agent 应用平台的易用性、稳定性和开发者体验，与算法、推理、训练、云原生、业务研发等团队协作，将平台能力沉淀为可复用、可规模化的标准化能力。

1. 构建统一的智能Agent问题判定标准体系：制定适用于大模型驱动的智能Agent的通用质检原则与细粒度规则，确保跨场景一致性与可解释性拉通； 2. 设计端到端的智能质检评估指标体系：建立涵盖准确性、安全性、一致性、用户体验等维度的量化评估框架； 3. 主导高质量标注与抽检机制建设：设计打标规范、标注工具与质检流程，组织并管理专业标注团队（外包资源），通过定期抽检、bad case分析等方式，持续反哺标准优化与模型训练数据迭代。

团队介绍：字节跳动基础设施计算团队，专注构建面向大模型与 AI Agent 时代的 AI-Native Infra。我们从算力、系统到平台，围绕“AI 如何高效运行、持续进化、规模化落地”这一核心问题，重构计算基础设施。我们管理着数十万台服务器组成的超大规模集群，构建统一的异构算力调度与云原生运行体系；通过软硬协同与自研框架，持续突破大模型训练与推理的性能瓶颈；并进一步向上，打造企业级 AI Agent Infra，让 Agent 具备身份、权限、记忆、观测与治理能力，真正成为可运行在生产环境中的新型“应用形态”。 从云服务器、容器、函数，到 AI 网关、可观测与弹性体系，我们构建的是一个为 AI 而生、由 AI 驱动进化的基础设施平台，支撑集团核心业务与企业级客户的智能化升级。 如果你希望参与定义 AI 时代的 Infra 范式，而不仅是优化一个模块或服务——欢迎加入我们，一起构建下一代 AI 云原生基础设施。 课题介绍： 随着大语言模型与AI Agent规模化落地，传统云原生基础设施已难以适配AI负载的极致性能与弹性需求。本课题围绕AI基础设施全栈展开系统性研究： 1、网络与可观测：研究大规模AI集群故障智能定位与根因分析，结合时序数据库智能调优，提升集群稳定性； 2、存储系统：研发AI场景专属的Serverless高性能弹性文件系统与存储加速架构，探索DPU软硬件协同优化，突破AI存储性能瓶颈； 3、算力调度：研究GPU/CPU/MEM异构协同调度技术，面向AI Agent构建Serverless异构算力编排系统，解决负载异构、状态依赖等调度难题； 4、向量检索：优化面向大模型应用的向量检索核心技术，打造云原生分布式向量索引引擎，满足超大规模向量检索的低延迟、低成本需求； 5、智能化与Agent架构：探索基于AI Agent工作流的基础设施自动寻优，构建可自主进化的业务Agent框架，通过AI for Infra赋能全栈智能优化； 本课题旨在构建支撑大模型与AI Agent落地的下一代AI原生基础设施，提升资源利用率、降低成本、支撑弹性扩展，推动AI基础设施技术演进。 课题挑战： 1、全栈协同挑战：覆盖多技术领域，需要从端到端视角实现系统性优化，避免单点优化收益不足； 2、性能成本平衡：AI场景对性能提出极致要求，需要在吞吐、延迟、规模与成本之间找到最优平衡点； 3、云原生适配：需要将传统单机技术方案重构为适配云原生分布式架构，解决扩缩容、容错、调度等新问题； 4、AI系统融合：既需要用AI赋能基础设施优化，又需要基础设施原生适配AI负载，深度融合对技术整合要求高； 5、Agent稳定性：自主进化Agent框架需要解决经验学习、知识一致性、持续安全进化等基础问题，工程化难度大； 6、研发生态平衡：需要平衡前沿理论创新与工程落地，兼顾技术突破与现有业务生态适配。 课题价值： 1、构建大模型/RAG 场景的高性能基础设施底座，支撑大规模向量数据高效检索； 2、优化AI业务存储成本结构与运维复杂度； 3、提升异构算力资源配置效率与技术复用性。

团队介绍：字节跳动基础设施基础技术团队负责公司统一的基础软件，编译器&语言，DPU，大规模池化存储以及云原生计算集群，AI for Infra，Infra for AI 等相关领域，覆盖了在线存储、实时、离线、机器学习、软硬一体、AIOps 等多种应用场景，支持公司内外广泛的场景和需求。 课题介绍： 随着大语言模型与AI Agent规模化落地，传统云原生基础设施已难以适配AI负载的极致性能与弹性需求。本课题围绕AI基础设施全栈展开系统性研究： 1、网络与可观测：研究大规模AI集群故障智能定位与根因分析，结合时序数据库智能调优，提升集群稳定性； 2、存储系统：研发AI场景专属的serverless高性能弹性文件系统与存储加速架构，探索DPU软硬件协同优化，突破AI存储性能瓶颈； 3、算力调度：研究GPU/CPU/MEM异构协同调度技术，面向AI Agent构建Serverless异构算力编排系统，解决负载异构、状态依赖等调度难题； 4、向量检索：优化面向大模型应用的向量检索核心技术，打造云原生分布式向量索引引擎，满足超大规模向量检索的低延迟、低成本需求； 5、智能化与Agent架构：探索基于AI Agent工作流的基础设施自动寻优，构建可自主进化的业务Agent框架，通过AI for Infra赋能全栈智能优化。 本课题旨在构建支撑大模型与AI Agent落地的下一代AI原生基础设施，提升资源利用率、降低成本、支撑弹性扩展，推动AI基础设施技术演进。 课题挑战： 1、全栈协同挑战：覆盖多技术领域，需要从端到端视角实现系统性优化，避免单点优化收益不足； 2、性能成本平衡：AI场景对性能提出极致要求，需要在吞吐、延迟、规模与成本之间找到最优平衡点； 3、云原生适配：需要将传统单机技术方案重构为适配云原生分布式架构，解决扩缩容、容错、调度等新问题； 4、AI系统融合：既需要用AI赋能基础设施优化，又需要基础设施原生适配AI负载，深度融合对技术整合要求高； 5、Agent稳定性：自主进化Agent框架需要解决经验学习、知识一致性、持续安全进化等基础问题，工程化难度大； 6、研发生态平衡：需要平衡前沿理论创新与工程落地，兼顾技术突破与现有业务生态适配。 课题价值： 1、构建大模型 / RAG 场景的高性能基础设施底座，支撑大规模向量数据高效检索； 2、优化 AI 业务存储成本结构与运维复杂度； 3、提升异构算力资源配置效率与技术复用性。