字节跳动【实习】面向大模型与AI Agent的AI云原生基础设施关键技术研究-计算
任职要求
1、2027届及以后毕业，博士在读，人工智能、计算机科学、数学相关专业优先； 2、拥有扎实的信息检索、数据挖掘、机器学习、计算机网络等相关领域理论基础，精通计算机网络和网络编程，熟练掌握至少一门主流编程语言，如C/C++、Python、Go等，具备优秀的代码能力、数据结构和基础算法功底； 3、针对不同研究方向，需具备相应能力，如能够独立完成复杂搜索任务的设计与开发；有LLM和基础架构相关研究背景；能完成研究点的设计文档、独立交付件、演示Demo…
工作职责
团队介绍：字节跳动基础设施计算团队，专注构建面向大模型与 AI Agent 时代的 AI-Native Infra。我们从算力、系统到平台，围绕“AI 如何高效运行、持续进化、规模化落地”这一核心问题，重构计算基础设施。我们管理着数十万台服务器组成的超大规模集群，构建统一的异构算力调度与云原生运行体系；通过软硬协同与自研框架，持续突破大模型训练与推理的性能瓶颈；并进一步向上，打造企业级 AI Agent Infra，让 Agent 具备身份、权限、记忆、观测与治理能力，真正成为可运行在生产环境中的新型“应用形态”。 从云服务器、容器、函数，到 AI 网关、可观测与弹性体系，我们构建的是一个为 AI 而生、由 AI 驱动进化的基础设施平台，支撑集团核心业务与企业级客户的智能化升级。 如果你希望参与定义 AI 时代的 Infra 范式，而不仅是优化一个模块或服务——欢迎加入我们，一起构建下一代 AI 云原生基础设施。 课题介绍： 随着大语言模型与AI Agent规模化落地，传统云原生基础设施已难以适配AI负载的极致性能与弹性需求。本课题围绕AI基础设施全栈展开系统性研究： 1、网络与可观测：研究大规模AI集群故障智能定位与根因分析，结合时序数据库智能调优，提升集群稳定性； 2、存储系统：研发AI场景专属的Serverless高性能弹性文件系统与存储加速架构，探索DPU软硬件协同优化，突破AI存储性能瓶颈； 3、算力调度：研究GPU/CPU/MEM异构协同调度技术，面向AI Agent构建Serverless异构算力编排系统，解决负载异构、状态依赖等调度难题； 4、向量检索：优化面向大模型应用的向量检索核心技术，打造云原生分布式向量索引引擎，满足超大规模向量检索的低延迟、低成本需求； 5、智能化与Agent架构：探索基于AI Agent工作流的基础设施自动寻优，构建可自主进化的业务Agent框架，通过AI for Infra赋能全栈智能优化； 本课题旨在构建支撑大模型与AI Agent落地的下一代AI原生基础设施，提升资源利用率、降低成本、支撑弹性扩展，推动AI基础设施技术演进。 课题挑战： 1、全栈协同挑战：覆盖多技术领域，需要从端到端视角实现系统性优化，避免单点优化收益不足； 2、性能成本平衡：AI场景对性能提出极致要求，需要在吞吐、延迟、规模与成本之间找到最优平衡点； 3、云原生适配：需要将传统单机技术方案重构为适配云原生分布式架构，解决扩缩容、容错、调度等新问题； 4、AI系统融合：既需要用AI赋能基础设施优化，又需要基础设施原生适配AI负载，深度融合对技术整合要求高； 5、Agent稳定性：自主进化Agent框架需要解决经验学习、知识一致性、持续安全进化等基础问题，工程化难度大； 6、研发生态平衡：需要平衡前沿理论创新与工程落地，兼顾技术突破与现有业务生态适配。 课题价值： 1、构建大模型/RAG 场景的高性能基础设施底座，支撑大规模向量数据高效检索； 2、优化AI业务存储成本结构与运维复杂度； 3、提升异构算力资源配置效率与技术复用性。
1.负责语音识别/语种识别/情感识别等方向的算法研究和开发； 2.负责音频理解/用户意图理解等算法研究和开发； 3.语音统一多模态大模型：研究下一代多模态通用大模型技术范式，实现文本、语音、视觉模态的联合建模。
本课题旨在探索构建一套“理解-生成-决策”三位一体的多模态统一大模型基座及智能体应用。 在底层基座构建上，重点构建理解与生成统一的图文交错混合模型：输入端实现多体裁内容（笔记、直播、商品等）的统一融合理解，输出端兼顾高质量表征提取、文本与图像生成。通过底层世界知识共享，消除多领域知识间的壁垒，并利用理解任务促进生成能力的提升。同时探索基于Multi-Head与MoE的轻量化微调及融合推理技术，在保证多场景下的效果前提下，压低训练和推理成本，实现降本增效。 在上层应用落地上，面向内容发布场景打造多模态创作Agent能力，通过基座模型的Agentic能力提升（意图识别、规划与工具调用），将分散的图像处理与创作工具统一封装，用户仅需以多模态方式自然表达需求，Agent即可自动完成任务拆解与执行，大幅降低使用门槛，全面重塑内容创作体系。
我们正在寻找对大模型在各种场景智能下的效能优化或智能体应用充满热情的优秀在读学生，参与大模型关键系统架构和场景化应用的前沿研究。你将深度参与千亿级大模型在复杂工业场景落地的“不可能三角”：高性能、低延迟、高自主性。 你将从以下四个核心应用方向中选择一个深入参与，开展系统性研究与工程实现： 1、面向自动驾驶/具身智能的端到端自动驾驶大模型训练优化：参与大规模分布式训练系统的性能分析与优化，包括数据并行、模型并行、流水线并行等策略的调优；参与自动驾驶核心模型（BEV、Transformer、Diffusion 等）中关键算子的性能 Profiling 与优化；基于 Transformer 架构的自动驾驶端到端模型（如 VLA，UniAD, VAD 等）的大规模预训练与微调，优化长序列感知与预测的对齐； 2、面向MoE大模型的训练推理优化：针对千亿级超大规模参数模型，深度参与类QWen/DeepSeek等MoE大模型的性能调优，研究 并行策略（张量、流水线、数据并行）下的通信重叠与显存优化；基于开源大模型推理引擎结合各类大模型和GPU/NPU等硬件，应用PD分离/DeepEP架构，探索高性能算子实现，结合编译优化，量化等手段提升模型推理性能； 3、图像视频与世界模型生成： 参与图像/视频生成模型（Diffusion Transformer、UNet、VAE、文本编码器等）的推理性能分析与端到端优化，提升生成速度与吞吐量；针对多步采样推理流程（DDPM / DDIM / Flow Matching 等）进行调度优化，探索步数压缩、缓存复用、投机采样等加速策略；协助构建推理性能基准测试体系，持续追踪优化效果；参与生成模型推理服务的工程化落地，包括多卡并行推理、动态 Batching、流式输出等方案的设计与实现； 4、大模型与推荐系统的融合创新，聚焦生成式算法或者推荐场景推理优化的研发：研究面向基于LLM的生成式召回技术，通过用户意图生成、Item ID/Title生成等方式，解决传统方法在语义鸿沟与长尾挖掘上的痛点，探索利用大模型直接生成召回和排序；针对生成式模型推理延迟高、资源消耗大的问题，研究算子优化能力、低精度计算、流式推理、投机采样等技术并应用模型推理技术。
专注大语言模型强化学习的研究、探索和开发，具体职责包括： 1、针对多轮Agentic任务场景，开展基于大语言模型（LLM）的强化学习（RL）优化及奖励归因机制研究； 2、设计与实现创新型多轮Agentic RL训练与收敛优化方法，提高训练效率与任务泛化能力； 3、深入探索RL算法在提升智能体泛化性和鲁棒性方面的理论与工程实现，推动算法在实际复杂环境下的稳定应用； 4、推动研究成果在阿里云PAI平台的分布式训练、强化学习等核心产品框架中的集成与落地，支持工业级Agentic AI解决方案的研发和部署； 5、跟踪领域前沿动态，撰写高质量学术论文，申请相关发明专利，并在国际顶级学术会议（NeurIPS、ICLR、AAAI等）或期刊进行成果输出。