logo of huya

虎牙AI Infra 工程师(推理集群方向)

社招全职MJ004366地点:广州状态:招聘

工作描述


任职要求
* 计算机相关专业,本科及以上学历
* 熟练掌握至少一门语言:C++ / Python / Go
* 熟悉 Linux 系统及网络基础
核心能力: 熟悉 AI 推理框架或引擎,如:
  * PyTorch / TensorFlow
  * ONNX Runtime
* 熟悉 GPU 架构及 CUDA 编程,了解显存管理和并行计算
* 有大规模分布式系统或集群经验(如 Kubernetes)
* 熟悉模型部署流程(训练 → 导出 → 推理服务)
加分项
* 有 LLM 推理经验(如使用 vLLM、FasterTransformer)
* 熟悉推理优化技术(量化、剪枝、蒸馏)
* 有高并发服务经验(1…
登录查看完整工作描述
微信扫码,1秒登录

包括英文材料
学历+
C+++
Python+
Go+
Linux+
PyTorch+
TensorFlow+
还有更多 •••
相关职位

logo of ctrip
社招1年以上住宿业务AI &

职位描述参与推荐系统 GPU 推理引擎的研发工作,支撑生成式推荐、排序、召回等业务场景的在线推理服务落地。参与 CUDA 算子开发与优化,包括算子融合、量化(INT8/FP8)、Tensor Core

更新于 2026-08-31上海
logo of tencent
社招微信AI助手技术

1.熟练掌握 C/C++、Python语言,有计算机体系结构背景或软件开发背景,熟悉系统性能调优的方式; 2.具备基础的GPU编程能力,包括但不限于Cuda、OpenCL;熟悉至少一种GPU加速库,

更新于 2026-09-15北京
logo of tencent
社招1年以上搜一搜技术

1.岗位要求:; 2.熟悉AI基础硬件设置,有真实的大规模推理系统的设计开发部署经验; 3.熟悉各种主流LLM/VLM的模型结构,具有 vllm/sglang/TRT-llm等推理引擎优化实践经验

更新于 2026-06-11北京
logo of tencent
社招1年以上搜一搜技术

1.熟悉AI基础硬件设置,有真实的大规模推理系统的设计开发部署经验; 2.熟悉各种主流LLM/VLM的模型结构,具有 vllm/sglang/TRT-llm等推理引擎优化实践经验; 3.熟悉LLM

更新于 2026-06-11北京