转转服务器运维工程师（大模型部署与运维方向）(J15153)

工作描述

任职要求
同上

工作职责
一.岗位概述
公司即将采购服务器并建设本地大模型运行环境，重点部署国产开源/可私有化大模型（如 DeepSeek、Qwen、Kimi 系列等）。现招聘若干名服务器运维工程师，作为大模型基础设施运维核心成员，负责服务器到货后的环境搭建、模型部署、外部技术对接、日常运维与内部使用支持，保障 2～3 个大模型稳定上线并服务公司内部业务。
二、岗位职责
1. 参与服务器采购后的技术评估、到货验收、上架规划、系统安装、网络配置、存储挂载及基础环境初始化。
2. 负责 GPU/CPU 服务器基础环境建设，包括 GPU 驱动、CUDA、cuDNN、NCCL、容器运行时、Docker、Kubernetes 等安装与维护。
3. 牵头对接外部技术团队、供应商、开源社区或合作方，完成 2～3 个国产开源大模型（如 DeepSeek、Qwen、Kimi 等）的本地化部署、推理服务上线、API 封装与内部接入。
4. 负责大模型推理服务的日常运维，包括服务启停、版本更新、模型切换、日志管理、监控告警、故障排查与恢复。
5. 监控 GPU 利用率、显存、温度、推理延迟、吞吐量、并发能力等关键指标，持续优化推理性能与资源利用率。
6. 负责模型量化、推理加速、批处理、并行策略等优化工作，熟悉 vLLM、SGLan…