米哈游AI 平台工程师
任职要求
1. 设计、开发并运营 AI 后端服务(推理请求处理、会话与流式传输、限流/熔断、配额与计费等)。 2. 提升高并发与流式 I/O(HTTP/WebSocket/SSE)的处理能力,进行基准测试、容量规划与性能优化。 3. 建立工程质量保障:代码评审、单元/集成/负载测试与故障演练;完善接口与技术文档。 4. 构建与维护交付流程:发布流水线、灰度/回滚、变更管理;落实监控、告警与值班。 5. 负责存储层的建模与查询优化,定位慢查询与热点问题,提升端到端响应效率。 6. 与算法与产品协作,定义清晰的 API 契约,推动需求落地与效果验证。 加分项 1. 计算机相关专业本科及以上,”1–3 年“ Python 后端经验,具备可维护工程落地能力。 2. 精通Python 3.10+ 异步编程(asyncio),熟悉 FastAPI / Starlette等异步框架与类型提示。 3. 扎实的网络…
工作职责
参与设计、实现与运营面向大规模推理与数据流的 **AI 后端服务**,重点保障稳定性、性能与可观测性,支持业务与算法的快速迭代落地。
我们正在寻找有经验的 AI 基建开发工程师,负责构建企业级 AI 基础设施,包括 AIGW(AI Gateway / 大模型接入与运维)、智能 NPC 平台、MCP Hub 等关键 AI 基础设施的设计、开发和运维工作。您将参与大模型接入、能力编排、性能优化、评估体系建设以及成本管理等全链路工作,帮助业务更高效地使用大模型。 您将与 AI 应用、业务研发、平台团队紧密协作,构建稳定、高性能、可扩展的大模型服务体系。 主要职责: 1. 负责 AIGW(AI Gateway)的大模型接入、路由、限流、监控、运维体系建设与优化。 2. 实现并维护与主流大模型服务(OpenAI、Anthropic、Gemini、DeepSeek 等)的 API 集成体系。 3. 参与大模型能力评估:效果评测、推理性能优化、模型选型对比、成本分析与优化。 4. 构建并维护 LLM 应用相关的工具链,包括 Prompt 模板管理、RAG 访问层、评测框架。 5. 优化模型调用策略(缓存、多模型路由、降级策略、并发调度)。 6. 支持业务团队落地 AI 应用,协助完成模型选型、评估、接入、调试与规范化接入。 7. 编写并维护平台技术文档、接入文档、最佳实践与标准。 8. 持续跟进生成式 AI、大模型推理、Agent/MCP、模型加速等领域的最新进展并应用于平台。
负责AI平台的模型接入、推理优化及平台功能开发工作。负责AI基础设施的架构设计与迭代,将前沿AI技术转化为可落地的平台能力,支撑各业务的智能化需求。 1.AI模型接入与推理加速: ● 负责主流开源模型的接入适配工作,包括模型格式转换、服务化封装及API接口开发;运用各种技术手段优化推理耗时与资源使用率,提升AI平台的性能与成本优势。 2.AI平台架构设计与开发: ● 优化与迭代AI平台架构,提升AI平台的可扩展性、分布式系统吞吐量、系统安全与稳定性等,持续优化成本。 3.AI能力产品化: ● 开发并维护平台AI工具链,如LoRA微调训练 pipeline、模型评估工具等;参与Agent框架与Skills开发平台的建设,支持业务快速构建AI应用;跟踪AI领域前沿技术动态,参与技术调研与POC验证。

1. 负责搜推模型训练、推理引擎的架构设计与开发; 2. 面向 CUDA/CPU 等异构计算平台,优化算子性能,提升硬件利用效率; 3. 解决大规模稀疏模型的分布式训练、推理中内存管理、通信等核心技术难题。
