logo of mihoyo

米哈游LLM网关SRE工程师

社招全职5年以上程序&技术类地点:上海状态:招聘♡ 收藏

工作描述


任职要求
1. 5 年以上运维/SRE 经验,其中 2 年以上 LLM/AI 推理服务/大模型平台生产运维经验;
2. 深度熟悉 LLM 服务线上运维(流式、限流、Token 计量、模型路由、多模型调度等);
3. 熟悉 Kubernetes、Prometheus/Grafana,有 LLM 监控指标设计与告警治理经验;
4. 熟悉 vLLM、Triton、SGLang 等推理引擎部署运维及常见故障处理;
5. 熟悉 CI/CD 与灰度发布,了解 GPU/NPU 推理资源特性,具备 SLO/On-call 经验;
6. 熟练使用 Go/…
登录查看完整工作描述
微信扫码,1秒登录

包括英文材料
大模型+
Kubernetes+
Prometheus+
Grafana+
vLLM+
Triton Inference Server+
SGLang+
还有更多 •••
相关职位

logo of alibaba
实习阿里巴巴研究型实

1. Agent方向:深入理解Transformer架构、掌握预训练(Pretrain)、监督微调(SFT)等基础算法,并深入应用 RLHF、RLAIF、DPO/GRPO 等对齐技术; 2. LLM方

更新于 2026-03-20杭州
logo of alibaba
实习阿里巴巴2027

1、计算机科学、人工智能、机器学习或相关领域硕士或博士学位; 2、具备 LLM 训练或后训练(fine-tuning / post-training)经验; 3、在 NeurIPS、ICML、ICLR

更新于 2026-04-08杭州|森尼韦尔
logo of alibaba
实习阿里巴巴2027

1、计算机科学、人工智能、机器学习或相关领域硕士或博士学位; 2、具备 LLM 训练或后训练(fine-tuning / post-training)经验; 3、在 NeurIPS、ICML、ICLR

更新于 2026-04-08杭州
logo of kuaishou
社招1-3年J0011

1、硕士以上学历,计算机相关专业; 2、基础数据结构与代码能力扎实,熟悉机器学习和深度学习的基础知识和常用框架; 3、有NLP与大模型相关项目经验,熟练掌握NLP与大模型的常见算法和思想,有较强的技术

更新于 2026-03-31北京