logo of ctrip

携程AI Infra 研发工程师(GPU 推理方向)(MJ034962)

社招全职1年以上住宿业务AI & BI地点:上海状态:招聘♡ 收藏

工作描述


职位描述参与推荐系统 GPU 推理引擎的研发工作,支撑生成式推荐、排序、召回等业务场景的在线推理服务落地。参与 CUDA 算子开发与优化,包括算子融合、量化(INT8/FP8)、Tensor Core 使用、显存与访存优化等方向,持续提升单卡吞吐与推理延迟表现。参与推理图优化工作,基于 TensorRT / ONNX Runtime / TVM / Triton 等主流框架完成模型的图变换、算子替换、kernel 调优,协助推动模型高效上线。针对推荐模型的特点(稀疏 Embedding、变长序列、多塔结构等),协助完成定制化推理方案的开发与调优,解决 Host-Device 传输、KV Cache 管理等性能瓶颈。参与性能 profiling 与调优工作,熟练使用 Nsight、CUPTI 等工具完成性能分析,配合算法团队完成模型结构的性能评估。关注 GPU…
登录查看完整工作描述
微信扫码,1秒登录

包括英文材料
学历+
深度学习+
CUDA+
内核+
TensorRT+
ONNX+
Triton Inference Server+
Transformer+
C+++
Python+
Java+
还有更多 •••
相关职位

logo of jd
社招软件开发岗

1. 具备AI基础设施整体架构设计能力,能够设计支撑多场景、可扩展的智能化系统并推动技术方案执行; 2. 拥有Agent框架与工具链开发经验,熟悉智能化任务编排与自主决策系统构建,能持续优化系统运行效

更新于 2026-07-29北京
logo of alibaba
实习阿里巴巴2027

我们期待这样的你 ● 本科及以上学历,计算机、软件工程、人工智能 等计算机相关专业。 ● 热爱编程,熟练掌握C/C++、Python 等编程语言,具备扎实的编程功底。掌握常用数据结构与算法,熟悉 网络

更新于 2026-03-24北京
logo of tencent
社招3年以上腾讯云技术

1.熟悉主流的大模型推理框架及其加速技术,如vLLM、SGlang、TensorRT-LLM等,熟练分析单机及分布式情况下的性能热点和优化手段; 2.熟悉业界主流开源模型结构,例如DeepSeek、

更新于 2026-07-01上海
logo of baidu
社招ACG

-本科及以上学历,有一定程度的计算机相关专业知识背景 -优秀的编码能力,熟悉Golang/Python/Java/C/C++至少一项,有扎实的算法及数据结构基础,有良好的编程习惯。 -熟悉PyTorc

更新于 2026-08-20北京|上海