腾讯AI infra系统研发专家工程师/负责人
任职要求
1.5年以上相关工作经验;
2.深入理解KVM虚拟化技术,熟悉轻量级虚拟化技术,具备内核开发,性能分析能力,Debug能力;
3.深入理解IOMMU,PCIe,熟悉GPU/NPU/DPU相关的技术解决方案;…工作职责
1.带领团队负责AI Infra相关系统底层相关技术的研发,支持大规模的分布式kvcache现网运营和底层网络传输优化等相关技术的研发和线上维护; 2.负责AI Agent领域的前瞻性技术预研。
1、负责智算高性能存储系统架构设计与开发,面向AI训练场景的大规模、高性能并行文件系统研发,满足训练场景TB级读写吞吐能力;面向推理场景的数据流动、任意(Anywhere)挂载,高吞吐大容量的存储能力满足; 2、软硬件定义,机型设计,构建存算协同机制,实现GPU Direct Storage、KV Cache/Share,不断提升存储系统性能和计算效率; 3、保障存储系统高可用与数据安全,通过分布式强一致性、同/异步复制提升数据可靠性,设计系统自愈能力应对磁盘/节点异常,增强系统可观测和易运维能力,并通过测试与故障注入得到验证。
1)训练与推理基础设施建设:负责公司大模型相关训练与推理基础设施的设计、开发与优化,支撑游戏内容生成、角色扮演、智能 NPC、AI 叙事、AI 玩法等业务场景下的模型研发与线上服务 2)分布式训练系统研发:参与大模型训练平台与训练框架建设,支持预训练、后训练、微调等任务的高效运行,持续优化分布式训练效率、资源利用率、稳定性和成本,覆盖数据并行、张量并行、流水并行、MoE 等能力 3)在线推理服务优化:负责 LLM / AIGC 在线推理服务平台的架构设计与性能优化,提升推理链路在吞吐、时延、扩展性和稳定性上的表现,支持动态批处理、KV Cache 管理、量化推理、多模型部署与流量调度 4)平台化能力建设:建设面向模型研发与生产部署的一体化平台能力,包括任务提交、资源调度、实验管理、模型发布、版本管理、可观测性、自动化评测、灰度发布和故障恢复等 5)底层系统优化:围绕 GPU 集群、网络、存储、容器与调度系统开展底层优化工作,定位训练或推理中的性能瓶颈,持续提升计算效率、通信效率、数据读写效率和整体系统可靠性 6)稳定性与可观测性建设:建设训练与推理全链路的监控、日志、Tracing、告警与诊断体系,提升复杂 AI 系统的可观测性与问题定位效率,保障核心服务高可用与高可靠运行 7)新技术研究与落地:持续跟踪训练与推理基础设施方向的前沿技术,包括分布式训练优化、推理加速、长上下文支持、MoE 系统、量化、Speculative Decoding、Serving 框架等,并结合业务需求进行验证与落地

团队介绍 我们致力于打造自动驾驶领域的下一代数据闭环系统。我们正在探索如何利用生成式AI重构物理世界,从海量路测数据中提取高保真、可交互的三维场景,构建大规模世界模型。我们寻找热衷于将前沿三维视觉技术转化为数据生产力的伙伴,共同攻克自动驾驶在复杂场景下的仿真与泛化难题。 负责3D高斯泼溅(3DGS)及前馈式生成模型的训练链路优化,提升训练速度、显存效率与模型稳定性; 设计与实现分布式训练框架,支持大规模三维场景数据的高并发训练与高效迭代; 深入硬件与计算栈,进行GPU算子优化、内存调度与混合精度训练策略的研发; 与三维视觉、自动驾驶仿真团队紧密协作,将优化后的训练系统应用于场景生成、神经渲染、高精地图构建等实际业务; 跟踪学术界与工业界在训练加速、模型压缩、系统架构等方面的最新进展,推动技术落地并形成工程实践。
在这里,你将成为大模型技术落地的"幕后推手"。你将参与构建支撑千卡/万卡规模的 AI 计算基础设施,通过软硬件协同优化,解决大模型在训练、推理、Agent 基础设施中的工程挑战。你的代码将直接决定大模型训练的效率、推理的响应速度以及集群资源的利用率,为 AI 时代的算力底座注入核心动力。 具体的职责包括以下相关方向的一项或多项: 1. 面向 AI Infra 的操作系统:参与核心模块的设计与开发,包括 AI 训练、推理与 Agent 任务的资源调度、内存/显存管理、文件系统等底层系统的研发与优化。 2. 极致训练、推理与 Agent 软硬件协同优化:通过操作系统、Agent Sandbox、CUDA Runtime、KVCache 全栈优化 AI 工作负载 // 面向AI服务器优化,软硬件协同优化。 3. 工程效能提升与智能化:设计和实施系统级测试方案,包括单元测试、集成测试、性能测试和压力测试,保障系统稳定性和可靠性。 4. 运维监控系统建设:负责AI算力平台的日常运维、故障排查和性能监控,构建自动化运维工具和可观测性体系。 5. AI 可信计算体系建设:参与 AI Infra 以及 AI Agent 系统安全机制设计,包括资源隔离、权限控制、漏洞修复等,保障多租户环境下的系统安全技术探索。 6. 前沿 AIOS 技术探索:跟踪 AI Infra 前沿技术,探索 AI 与操作系统融合的创新方向,推动 AIOS 技术演进和开源社区贡献。