米哈游大模型平台开发工程师

工作描述

Qualifications
必须满足（硬性）：
- 计算机相关本科+，3 年+ 模型平台/推理优化/MLOps（硕士 2 年+）
- 实操过量化与格式转换：FP8/INT8/INT4（GPTQ/AWQ），HF → TRT-LLM/vLLM/SGLang/ONNX，并能做转换后数值/精度验证
- 实操过精度评测与压测：搭建过评测集/流水线，用过 lm-eval-harness / vLLM bench / TRT-LLM benchmark，理解 TTFT/TPOT/吞吐/MFU
- 有模型上线准入的 CI/CD 自动化流水线经验（Argo/Airflow/Jenkins/GitLab CI 任一）
- 熟悉 K8s，有基于 K8s 的任务/流水线运行与排障
- 熟悉至少一种推理引擎（vLLM/TRT-LLM/SGLang/TGI）原理与使用，懂 GPU（CUDA/显存/并行）
- 熟练 Python（必须），了解 C++/Go，有 PyTorch/HF Transformers 经验

加分项
- 有多算力卡适配与评测经验（NVIDIA + AMD/昇腾/寒武纪/海光，会其一即可，越多越好）
- 做过统一推理后端适配层或跨卡 CI 矩阵
- 有成本建模（…