京东AI infra工程师（大模型训推优化）
任职要求
1.计算机科学、人工智能、电子工程等相关专业硕士及以上学历，具备2年以上机器学习系统或高性能计算相关经验； 2.扎实的算法功底：深入理解LLM和Diffusion模型的技术细节与计算逻辑，不满足于“调用API”，追求底层优化； 3.卓越的工程能力：精通C++/Python，具备强大的系统编程和调试能力。深度参与过vLLM、Sglang、Tens…
工作职责
1.与算法研究员协同工作，分析模型在训练与推理阶段的性能瓶颈，从系统-算法协同角度提出改进方案； 2.主导或参与量化方案（量化感知训练QAT/训练后量化PTQ）的设计与实施，保障低比特下的模型质量； 3.主导或参与Diffusion模型步数蒸馏工作，将业界前沿的加速技术（如一致性模型、渐进式蒸馏）落地到生产环境； 4.基于vLLM / Sglang / TensorRT-LLM等框架进行深度定制与优化，开发高性能推理引擎； 5.设计与实现动态批处理、持续批处理、流水线/张量并行等高级推理服务与调度策略。
我们致力于打造面向搜推广场景 & 广告营销场景的业界领先AI Infra平台。团队贴合 阿里电商核心营销业务，承担着超大规模特征工程、深度学习与多模态训练推理、 AIGX & LLM 分布式训练与在离线推理、实时数据回流等关键职责，在高性能服务和优化、分布式计算和存储系统、并行与异构计算加速（CPU/GPU/XPU）和深度学习编译优化等课题上都具有业界最前沿的挑战。 希望你能够立足AI Infra方向，保持技术敏感性，推进基座大模型与广告-大模型结合的 AI Training & Inference 的系统级优化。在这里，你将接触到前沿的电商搜推广技术，以及有机会提前获得秋招直通T-Star的正式Offer。 岗位课题： 大模型 AI Infra 的 Algorithm-Training-Inference-Hardware co-design 课题项目背景： 面向广告业务的大盘提效（广告-大模型结合）、营销场景的 AIGX & LLM/MLLM，整体的大模型技术体系已经深度渗透到了日常业务迭代中，需要与算法协同解决基座模型（超大规模MoE）的 Training & Inference 系统性能与计算效率问题。 成长资源：计算机体系结构/计算机网络领域的博士及大模型技术相关算法工程化领域senior/staff engineer 的贴身指导；业界最前沿问题、世界级业务场景的落地挑战；不光做系统，通过 Algorithm-Training-Inference-Hardware 协同设计，还能深入理解算法与硬件。 岗位职责： 1. 超大规模Sparse-Dense模型（for 广告）和Dense大模型（for GenAI应用）的训练架构设计优化并推动生产落地。 2. 大规模异构硬件Training系统的计算性能与效率优化。 3. Algorithm-Training-Inference Co-Design，整体提升模型效率。
1.工作职责：； 2.负责开发和优化LLM，VLM等大模型的推理引擎，构建适合AI Search,智能 Agent相关领域大规落地应用中的推理基础架构； 3.紧跟 LLM Infra 领域的前沿技术演进突破，将合适成果落地于实际应用； 4.与搜索算法同学深度合作，联合优化，设计实现能够给大型搜索系统带来代际更迭的大模型。
1.负责开发和优化LLM，VLM等大模型的推理引擎，构建适合AI Search,智能 Agent相关领域大规落地应用中的推理基础架构； 2.紧跟 LLM Infra 领域的前沿技术演进突破，将合适成果落地于实际应用； 3.与搜索算法同学深度合作，联合优化，设计实现能够给大型搜索系统带来代际更迭的大模型。
1.负责大模型后训练框架和RL训练的设计，开发和优化。支撑LLM的高效、稳定训练； 2.持续追踪并引入业界最新开源生态技术（如 Verl, Slime, ROLL, AReal 等）； 3.与搜索算法团队紧密合作，设计实现高性能的AI搜索大模型，加速最新的大模型技术在搜索场景的落地。