滴滴AI Infra架构师(JR20260814005)

工作描述

任职要求
1、5 年以上基础架构或平台架构经验，本科及以上学历，计算机相关专业；2 年以上大模型推理平台 / Agent Infra / AI 平台方向架构经验。
2、理解大模型推理架构：vLLM / SGLang / TensorRT-LLM 等推理引擎，PD 分离、KV Cache 管理、Continuous Batching、量化；有自建 GPU 推理集群的实战经验。
3、熟悉 Agent 技术栈：Agent 框架（LangChain/LangGraph 等）、Function Calling、MCP 协议、RAG、Agent 评测（Eval）体系。
4、熟悉 GPU 集群与云原生：NVIDIA GPU 生态、InfiniBand/RoCE 高速网络、Kubernetes GPU 调度、机房电力与网络约束；能借助 Nsight 等工具独立完成 GPU 性能瓶颈分析。
…