字节跳动计算后端开发工程师-算力与AI基础设施
任职要求
1、2026届获得本科及以上学历，计算机、软件工程等相关专业优先； 2、热爱计算机科学和互联网技术，擅长至少一门编程语言，包括但不仅限于：Java、C、C++、PHP、Python、Golang等； 3、掌握扎…
工作职责
团队介绍：字节跳动云基础设施部门，通过云技术管理着百万量级的服务器构成的超大数据中心。我们通过深度优化千万级容器实例与算力优化，搭建EB级数据存储治理体系，探索新一代搜索型数据库与大规模AI集群下的高速网络通信，我们积极拥抱开源和创新的软硬件架构，致力于构建业界领先、稳定、高可用的面向LLM的AI云原生的基础设施架构与产品矩阵，为整个公司的业务和客户发展保驾护航。 1、参与字节跳动计算、存储、网络、云原生、基础技术、平台架构、字节云等基础设施和云基础产品的构建和优化； 2、参与基础设施和云基础产品的可用性、稳定性保障。
【我们提供】 1. 参与商汤自研智算云平台的底层核心研发，直接支撑大模型训练与AI基础设施建设； 2. 面对百亿参数级模型和超大规模集群的技术挑战，积累独特的工程经验； 3. 优秀的工程文化与导师机制，快速成长为系统架构师或平台负责人； 4. 行业内具竞争力的薪酬与晋升发展通道。 【岗位关键词】 IaaS / 云计算 / 分布式系统 / 存储 / 网络 / 容器 / Kubernetes / Ceph / SDN / RDMA / DPDK / eBPF / OpenStack / 智算云 / AI基础设施 【岗位职责】 作为商汤科技智算云核心基础设施团队成员，您将参与构建和优化支撑大规模AI训练与推理的IaaS底层平台，打造高性能、高可靠的云计算基础能力。主要工作包括： 一、计算方向： 1. 负责虚拟化/容器化计算资源调度系统的设计与开发（KVM、Docker、Kubernetes、OpenStack等）。 2. 优化GPU/CPU混合集群的资源利用率、任务调度和性能隔离机制。 二、存储方向： 1. 参与高性能分布式存储系统（Ceph、HDFS、NVMe over Fabrics等）的研发与优化。 2. 负责对象存储、块存储的性能调优与稳定性保障。 三、网络方向： 1. 设计并开发高性能虚拟网络系统，支持大规模AI训练与推理流量场景。 2. 参与SDN、RDMA、DPDK、eBPF 等前沿网络技术的研发与落地。 3. 在物理网络与 Fabric 层，通过工程化与自动化方式支撑云网络平台能力。 持续推进系统性能优化与架构演进，支撑智算中心规模化运营。
【我们提供】 1. 参与商汤自研智算云平台的底层核心研发，直接支撑大模型训练与AI基础设施建设； 2. 面对百亿参数级模型和超大规模集群的技术挑战，积累独特的工程经验； 3. 优秀的工程文化与导师机制，快速成长为系统架构师或平台负责人； 4. 行业内具竞争力的薪酬与晋升发展通道。 【岗位关键词】 IaaS / 云计算 / 分布式系统 / 存储 / 网络 / 容器 / Kubernetes / Ceph / RDMA / eBPF / OpenStack / 智算云 / AI基础设施 【岗位职责】 作为商汤科技智算云核心基础设施团队成员，您将参与构建和优化支撑大规模AI训练与推理的IaaS底层平台，打造高性能、高可靠的云计算基础能力。主要工作包括： 一、计算方向： 1. 负责虚拟化/容器化计算资源调度系统的设计与开发（KVM、Docker、Kubernetes、OpenStack等）。 2. 优化GPU/CPU混合集群的资源利用率、任务调度和性能隔离机制。 二、存储方向： 1. 参与高性能分布式存储系统（Ceph、HDFS、NVMe over Fabrics等）的研发与优化。 2. 负责对象存储、块存储的性能调优与稳定性保障。 三、网络方向： 1. 设计并开发高性能虚拟网络系统，支持大规模AI训练与推理流量场景。 2. 参与SDN、RDMA、DPDK、eBPF 等前沿网络技术的研发与落地。 持续推进系统性能优化与架构演进，支撑智算中心规模化运营。
作为集团 AI 基础设施的关键组成部分，你将负责内部大模型网关（AI Hub）的设计、开发与持续演进，打造统一、高效、智能的大模型服务接入平台。 我们向下聚合集团内外多源大模型能力（包括自研及第三方 LLM、多模态模型等），向上为搜索、客服、内容生成、智能办公等数十个高并发业务场景提供标准化、低门槛的 API 接入服务。 面对万级QPS、毫秒级延迟、十万亿Token 级计量等严苛挑战，你将深度参与以下核心技术方向： - 构建智能路由引擎，支持按模型能力、成本、延迟 SLA、地域等维度动态调度请求； - 设计精细化流量治理体系，实现多租户配额管理、Token 级限流、优先级队列与熔断降级； - 打造商业化计费与用量追踪系统，支撑按 Token、时长或套餐的灵活计费模式； - 优化流式推理链路（SSE/WebSocket），保障长上下文、高吞吐场景下的低首Token延迟（TTFT）与稳定性； - 协同底层算力平台，推动网关与推理引擎（如 vLLM、TGI）的高效协同，提升 GPU 资源利用率。 你的工作将直接影响集团 AI 能力效率、服务成本与用户体验，是推动 AI 工程化落地的核心力量！加入我们，一起创造价值~
