蚂蚁金服蚂蚁集团-存储系统研发专家-杭州/北京
社招全职3年以上技术-开发地点：北京 | 杭州状态：招聘
任职要求
1. 精通至少一门 Python/Go/C++ 等编程语言，并有良好的代码风格； 2. 具有训推场景存储系统设计与研发优化经验，例如分布式KV Cache/文件存储/对象存储等； 3. 了解主流训推框架原理和代码实现，例如TensorFlow/PyTorch/Megatron/Deepspeed/vLLM/Sglang等； 4. 好奇心强，热爱技术且对强化学习领域有深入钻研优先； 加分项： 1、熟悉至少一种主流的RLHF框架，如OpenRLHF/AReal/veRL/ChatLearn等； 2、熟悉GDR、GDS、RDMA、或有大规模训练网络通信优化经验； 3、有“以存代算”相关项目提高训推效率经验； 4、在计算机系统顶会OSDI/SOSP/FAST/ATC/EuroSys等上有文章发表经验。
工作职责
蚂蚁ASystem致力于打造下一代AI基础软件，并基于下一代的AI基础软件寻找通用智能的新方法，追求智能上限。 1、负责训推一体存储的设计与开发，建设面向训推一体的显存扩展和高性能数据存储方案，服务蚂蚁内部的强化学习场景； 2、负责整体性能优化与架构升级，通过存算结合持续提升训练/推理效率； 3、与算法工程师深度合作，为重点项目进行算法与系统的联合优化。
包括英文材料
Python+
https://liaoxuefeng.com/books/python/introduction/index.html
中文，免费，零起点，完整示例，基于最新的Python 3版本。
https://www.learnpython.org/
a free interactive Python tutorial for people who want to learn Python, fast.
https://www.youtube.com/watch?v=K5KVEU3aaeQ
Master Python from scratch 🚀 No fluff—just clear, practical coding skills to kickstart your journey!
https://www.youtube.com/watch?v=rfscVS0vtbw
This course will give you a full introduction into all of the core concepts in python.
Go+
https://www.youtube.com/watch?v=8uiZC0l4Ajw
学习Golang的完整教程！从开始到结束不到一个小时，包括如何在Go中构建API的完整演示。没有多余的内容，只有你需要知道的知识。
C+++
https://www.learncpp.com/
LearnCpp.com is a free website devoted to teaching you how to program in modern C++.
https://www.youtube.com/watch?v=ZzaPdXTrSb8
TensorFlow+
https://www.youtube.com/watch?v=tpCFfeUEGs8
Ready to learn the fundamentals of TensorFlow and deep learning with Python? Well, you’ve come to the right place.
https://www.youtube.com/watch?v=ZUKz4125WNI
This part continues right where part one left off so get that Google Colab window open and get ready to write plenty more TensorFlow code.
PyTorch+
https://datawhalechina.github.io/thorough-pytorch/
PyTorch是利用深度学习进行数据科学研究的重要工具，在灵活性、可读性和性能上都具备相当的优势，近年来已成为学术界实现深度学习算法最常用的框架。
https://www.youtube.com/watch?v=V_xro1bcAuA
Learn PyTorch for deep learning in this comprehensive course for beginners. PyTorch is a machine learning framework written in Python.
Megatron+
https://www.youtube.com/watch?v=hc0u4avAkuM
vLLM+
https://www.newline.co/@zaoyang/ultimate-guide-to-vllm--aad8b65d
vLLM is a framework designed to make large language models faster, more efficient, and better suited for production environments.
https://www.youtube.com/watch?v=Ju2FrqIrdx0
vLLM is a cutting-edge serving engine designed for large language models (LLMs), offering unparalleled performance and efficiency for AI-driven applications.
强化学习+
https://cloud.google.com/discover/what-is-reinforcement-learning?hl=en
Reinforcement learning (RL) is a type of machine learning where an "agent" learns optimal behavior through interaction with its environment.
https://huggingface.co/learn/deep-rl-course/unit0/introduction
This course will teach you about Deep Reinforcement Learning from beginner to expert. It’s completely free and open-source!
https://www.kaggle.com/learn/intro-to-game-ai-and-reinforcement-learning
Build your own video game bots, using classic and cutting-edge algorithms.
缓存+
https://hackernoon.com/the-system-design-cheat-sheet-cache
The cache is a layer that stores a subset of data, typically the most frequently accessed or essential information, in a location quicker to access than its primary storage location.
https://www.youtube.com/watch?v=bP4BeUjNkXc
Caching strategies, Distributed Caching, Eviction Policies, Write-Through Cache and Least Recently Used (LRU) cache are all important terms when it comes to designing an efficient system with a caching layer.
https://www.youtube.com/watch?v=dGAgxozNWFE
DeepSpeed+
https://www.youtube.com/watch?v=pDGI668pNg0
SGLang+
[英文] Install SGLang
https://docs.sglang.ai/get_started/install.html
SGLang is a fast serving framework for large language models and vision language models.
https://github.com/sgl-project/sgl-learning-materials
相关职位
社招5年以上技术类-开发
1. 负责超大规模分布式块存储数据面系统架构、设计和研发工作，制定技术演进计划，保障技术竞争力和生产稳定性 2. 负责基于硬件基础设施进行软硬一体优化设计和调优，提供业界优秀的块存储性能 3. 针对公共云、非公共云等场景，进行块存储数据链路和分布式存储相关系统研发，确保稳定可靠高性能，和多场景下块存储能力输出的一致性和技术先进性
更新于 2025-04-15
社招5年以上技术类-开发
1、负责块存储运维支撑系统的的设计、开发工作，制定技术演进路线并保持技术持续迭代升级，进而保障超大规模分布式块存储系统的生产稳定性。 2、负责块存储生产运维规则基线的定义和开发，通过交付部署管控、发布变更管控以及智能检测熔断能力，提供稳定安全可靠的基础环境。 3、针对大规模分布式块存储系统，负责构建安全合规的可观测系统，包括机器、网络、用户、业务指标等各类监控，提供秒级的监控报警，并进行智能分析及根因定位。 4、负责运维能力的下沉，保障块存储运维支撑系统在线上线下能力的一致性。
更新于 2025-04-15
社招3年以上技术-开发
蚂蚁ASystem致力于打造下一代AI基础软件，并基于下一代的AI基础软件寻找通用智能的新方法，追求智能上限。 1、负责训推一体框架的设计与开发，服务蚂蚁内部的强化学习场景； 2、建设面向训推一体的显存管理体系和高性能数据存储方案； 3、负责实时高性能训推系统设计与开发，如分布式训练加速策略、算子融合、编译优化、模型量化、混合精度、异构硬件加速等； 4、负责整体性能优化与架构升级，持续提升训练/推理性能； 5、与算法工程师深度合作，为重点项目进行算法与系统的联合优化。
更新于 2025-09-03
社招3年以上云智能集团
1. 核心系统研发 （1）设计与优化大模型推理服务框架与分布式缓存系统。 （2）支持多推理引擎适配、多模态推理、分布式部署及高效数据管理。 （3）开发工具链与服务化能力，包括模型量化、转换、调度与生命周期管理。 2. 性能与稳定性优化 （1）优化推理服务框架的性能，包括引擎适配、生命周期管理和资源调度。 （2）深入优化kvcache的显存、内存和存储管理、批处理、缓存策略和网络传输。 （3）支持高性能通信协议、容错与负载均衡机制。 （4）提升系统可观测性，完善监控、告警与故障恢复体系。 3. 引擎与应用集成 （1）深度集成推理引擎、缓存系统和存储系统，优化访问模式与架构设计。 （2）满足大规模、多模态推理场景下的高吞吐与低延迟需求。
更新于 2025-09-29