阿里云阿里云智能-大模型推理存储架构师-KVCacheStore
社招全职8年以上地点：北京 | 杭州状态：招聘♡ 收藏
工作描述
任职要求 1. 具备大模型推理系统的研发或架构实践，理解 Transformer、Attention 及 KV Cache 的核心机制，熟悉 Prefill/Decode 等技术，能够分析其对延迟、吞吐和资源利用率的影响。 2. 深入参与过推理引擎、推理服务平台或推理调度系统的设计与优化，能够结合模型配置、请求长度、并发和服务质量目标，定位系统瓶颈并制定优化方案。 3. 理解 KV Cache 的生成、组织、分片、复用与淘汰过程，能够分析前缀缓存、跨实例共享和分层缓存的适用条件。有缓存感知调度、Prefill/Decode 分离或长上下文推理优化经验者优先。 4. 具备扎实的系统研发和性能分析能力，熟悉 C++、Python，能够深入框架代码开展原型开发、接入改造与问题定位。有 vLLM、SGLang 等推理引擎或相关…
登录查看完整工作描述
微信扫码，1秒登录
包括英文材料
大模型+
https://www.youtube.com/watch?v=xZDB1naRUlk
You will build projects with LLMs that will enable you to create dynamic interfaces, interact with vast amounts of text data, and even empower LLMs with the capability to browse the internet for research papers.
https://www.youtube.com/watch?v=zjkBMFhNj_g
Transformer+
https://huggingface.co/learn/llm-course/en/chapter1/4
Breaking down how Large Language Models work, visualizing how data flows through.
https://poloclub.github.io/transformer-explainer/
An interactive visualization tool showing you how transformer models work in large language models (LLM) like GPT.
https://www.youtube.com/watch?v=wjZofJX0v4M
Breaking down how Large Language Models work, visualizing how data flows through.
缓存+
https://hackernoon.com/the-system-design-cheat-sheet-cache
The cache is a layer that stores a subset of data, typically the most frequently accessed or essential information, in a location quicker to access than its primary storage location.
https://www.youtube.com/watch?v=bP4BeUjNkXc
Caching strategies, Distributed Caching, Eviction Policies, Write-Through Cache and Least Recently Used (LRU) cache are all important terms when it comes to designing an efficient system with a caching layer.
https://www.youtube.com/watch?v=dGAgxozNWFE
推理引擎+
https://www.youtube.com/watch?v=_dvk75LEJ34
https://www.youtube.com/watch?v=XtT5i0ZeHHE
C+++
https://www.learncpp.com/
LearnCpp.com is a free website devoted to teaching you how to program in modern C++.
https://www.youtube.com/watch?v=ZzaPdXTrSb8
还有更多 •••
相关职位
实习阿里巴巴2027
1. 博士在读或即将毕业，计算机科学、数据库、人工智能、机器学习等相关专业背景； 2. 在大模型推理、数据库和存储等领域有深入研究和系统实践经验。熟悉分布式系统原理，熟悉各类存储协议和硬件特性； 3.
更新于 2026-03-23北京|杭州
社招2年以上
1. 计算机相关专业本科及以上学历，精通 C/C++，熟悉 Linux 系统开发、调试及性能分析。 2. 具备扎实的数据结构、算法、操作系统、并发编程和网络基础，有高性能系统或分布式系统研发经验。 3
更新于 2026-10-12北京
实习阿里巴巴2027
1. 计算机科学、人工智能、电子工程、计算机体系结构等相关专业硕士及以上学历，博士优先。 2. 熟悉大语言模型训练、后训练或推理优化技术，对 Transformer、Attention、MoE、KV
更新于 2026-06-03北京|杭州
实习阿里巴巴2027
1、教育背景 • 计算机科学、人工智能、机器学习、数据科学等相关专业博士； 2、技术能力 • 熟悉深度学习模型（如Transformer、BERT等）及其推理过程； • 熟悉模型优化技术（如剪
更新于 2026-03-17北京|杭州