logo of quark

千问千问事业部-大模型推理框架系统研发专家-杭州/北京/广州

社招全职3年以上地点:北京 | 杭州 | 广州状态:招聘♡ 收藏

工作描述


Qualifications
1. 精通C++/Python,熟悉CUDA编程和GPU推理系统开发,具备扎实的系统软件、分布式系统、并行计算和高性能服务端开发基础;
2. 深入理解大模型推理框架核心机制,包括Prefill/Decode、KV Cache管理、Continuous Batching、PagedAttention、Speculative Decoding、Quantization等;
3. 熟悉分布式推理并行与通信优化,包括Tensor Parallel、Pipeline Parallel、Expert Parallel、Context Parallel…
登录查看完整工作描述
微信扫码,1秒登录

包括英文材料
C+++
Python+
CUDA+
分布式系统+
大模型+
缓存+
还有更多 •••
相关职位

logo of tencent
社招3年以上腾讯云技术

1.熟练掌握C/C++、Python编程语言,具备良好的coding和调试能力; 2.熟悉主流大模型推理框架,如vllm,sglang,tensorrt-llm等,具备语言、多模态模型大规模部署和优

更新于 2026-08-27北京
logo of tencent
社招3年以上腾讯云技术

1.熟练掌握C/C++、Python编程语言,具备良好的coding和调试能力; 2.熟悉主流大模型推理框架,如vllm,sglang,tensorrt-llm等,具备语言、多模态模型大规模部署和优

更新于 2026-08-27杭州
logo of tencent
社招3年以上腾讯云技术

1.熟练掌握C/C++、Python编程语言,具备良好的coding和调试能力; 2.熟悉主流大模型推理框架,如vllm,sglang,tensorrt-llm等,具备语言、多模态模型大规模部署和优

更新于 2026-07-29深圳
logo of tencent
社招3年以上腾讯云技术

1.熟练掌握C/C++、Python编程语言,具备良好的coding和调试能力; 2.熟悉主流大模型推理框架,如vllm,sglang,tensorrt-llm等,具备语言、多模态模型大规模部署和优

更新于 2026-06-26上海