字节跳动异构计算与Token效能架构师 - TikTok研发

社招全职A49086B2026-09-14地点：杭州 | 深圳状态：招聘

扫码手机上打开

工作描述

任职要求
1、具备扎实的计算机基础，熟悉数据结构、算法、操作系统、计算机网络和分布式系统；
2、熟练使用Go、C++、Python、Java、Rust等至少一种编程语言，具备良好的系统设计和工程实现能力；
3、熟悉大模型应用及推理链路，对Token、Context、KV Cache、Batching、模型并行、吞吐和时延等核心概念有较深入理解；
4、熟悉Kubernetes、Slurm等至少一种资源管理或调度系统，理解资源模型、调度、配额、弹性和故障恢复等核心机制；
5、对GPU和异构计算基础设施有较深入理解，熟悉GPU卡型、服务器拓扑、PCIe、NUMA、NVLink/NVSwitch、RDMA、网络及存储等相关技术；
6、具备较强的系统抽象和数据分析能力，能够从Token消耗、模型服务、推理效率和底层算力等多个层次分析复杂效率问题，并在质量、稳定性、工程复杂度和成本之间做出合理取舍，具备良好的沟通和推动能力，能够与业务、Agent、模型、推理平台、调度、容量、SRE、网络、存储及硬件等团队共同推进复杂项目。

加分项
1、有LLM Serving、AI Infrastructure、资源调度、集群管理或GPU利用率优化经验；
2、有Token Efficiency、模型路由、Contex…