京东AI infra算法开发工程师
任职要求
1.计算机相关专业本科及以上学历，5年以算法工程开发经验，3年以上技术团队管理经验；
2.深入理解AI训练框架，具备高性能计算或GPU资源优化经验；
…工作职责
1.主导设计并实现高可用、高性能的AI训练与推理平台架构； 2.优化分布式计算资源调度系统，提升GPU/TPU集群利用率； 3.构建完整的MLOps体系，实现模型开发、训练、部署的全流程自动化； 4.保障AI基础设施的稳定性与安全性，建立监控告警与容灾机制； 5.跟踪前沿技术发展，持续优化基础设施性能与成本效益；参与制定技术路线，指导成员完成技术攻关，提升团队整体技术水平。
团队介绍： 我们是AI基础设施团队，面向不同的AI业务提供高效的基础设置，打造从高效训练到高效推理的基础设置：从大模型的高效训练、高效强化学习，到大模型的高效推理系统，形成高效的大模型训练推理系统。团队针对垂类领域的部署，以实现企业级生产为标准，注重训练与推理系统的效率提升，目标是提供高效的训练与推理系统，支持实际模型的训练与推理。 岗位方向：AI infra，包括大模型的高效训练（微调、强化学习）与高效推理。 岗位职责： 1. 针对大模型在生产环境进行高效推理，进行大模型的压缩，包括量化、剪枝、蒸馏 2. 针对大模型的推理系统，进行效率的提升，包括KV cache、PD分离、调度、并行策略的优化、算子融合、投机采样； 3. 针对大模型的训练与强化学习，进行训练框架的优化，包括不同并行策略的优化、算子的优化、负载均衡等 4. 推动高效训练与推理系统框架在实际业务场景中落地，包括大语言模型、多模态模型、以及全模型模型 5. 与工程、测试团队紧密协作，支持实际业务的稳定与高效迭代。
1. 构建后训练专用高性能架构，支持从SFT到RLHF/Agentic RL的全流程调优，为RM模型训练、PPO等复杂算法提供千卡级别的超大规模分布式训练支持，攻克特定阶段的性能瓶颈。 2. 打造极致推理与服务引擎，优化针对RLHF/Agentic RL流程中多个模型的交互式推理链路，通过编译优化、动态批处理、量化等技术，实现高吞吐、低延迟的模型服务，确保用户体验的流畅性。 3. 释放异构硬件最大潜能，深入CPU/GPU/NPU等底层硬件，通过CUDA内核定制、通信库优化（如RDMA）及MLIR/TRITON等编译技术，旨在将硬件性能压榨到极致，以应对高德海量用户与场景的挑战。
1、参与研发快手公司级的AI数据平台，构建高性能、分布式、可扩展的AI数据引擎，通过数据驱动模型生产，支撑包括 大模型、搜推广 等核心模型的高效迭代； 2、打造业界领先的AI数据引擎，包括高性能实时/离线分布式计算系统、流批一体化的AI数据湖存储系统、CPU/GPU混合计算Ray引擎等，为百万核规模、EB级数据的高效计算、存储、迭代提供易用可靠的基础设施； 3、与算法工程师、研究员团队紧密配合，深刻理解端到端的AI模型研发流程，探索业界前沿的Data4AI技术，负责模型研究中数据工程方案的架构设计、实现、持续迭代和稳定性维护。