阿里巴巴AI Infra操作系统工程师
任职要求
专业领域： 1. 计算机、软件工程、电子工程或相关专业。 2. 热衷于数据结构和算法、在ACM大赛成绩优异者优先；有顶会论文/高影响项目/开源贡献者加分。 3. 专业能力： ○ 系统工程与编程能力：具备良好的系统工程基础，熟悉 Linux 开发环境，掌握 Python、C/C++、Rust、Go 等至少一门编程语言，具备扎实的工程实现能力； ○ AIOS 系统领域专业知识：对于以下领域中的一项或者多项具备专业能力； ○ 了解 Linux 操作系统内核机制，具备扎实的系统级编程能力。有Linux内核开发、虚拟化技术、容器运行时、分布式系统或 AI 算力优化相关经验优先； ○ 了解 GPU 架构和 CUDA 编程，了解主流模型推理框架的运行机制。有 Pytorch、SGLang、vLLM、Mooncake 等开源项目经历优先； ○ 了解系统级测试方法和自动化测试框架。具备性能测试和压力测试实习经历的加分； ○ 了解系统监控…
工作职责
在这里，你将成为大模型技术落地的"幕后推手"。你将参与构建支撑千卡/万卡规模的 AI 计算基础设施，通过软硬件协同优化，解决大模型在训练、推理、Agent 基础设施中的工程挑战。你的代码将直接决定大模型训练的效率、推理的响应速度以及集群资源的利用率，为 AI 时代的算力底座注入核心动力。 具体的职责包括以下相关方向的一项或多项： 1. 面向 AI Infra 的操作系统：参与核心模块的设计与开发，包括 AI 训练、推理与 Agent 任务的资源调度、内存/显存管理、文件系统等底层系统的研发与优化。 2. 极致训练、推理与 Agent 软硬件协同优化：通过操作系统、Agent Sandbox、CUDA Runtime、KVCache 全栈优化 AI 工作负载 // 面向AI服务器优化，软硬件协同优化。 3. 工程效能提升与智能化：设计和实施系统级测试方案，包括单元测试、集成测试、性能测试和压力测试,保障系统稳定性和可靠性。 4. 运维监控系统建设：负责AI算力平台的日常运维、故障排查和性能监控,构建自动化运维工具和可观测性体系。 5. AI 可信计算体系建设：参与 AI Infra 以及 AI Agent 系统安全机制设计，包括资源隔离、权限控制、漏洞修复等，保障多租户环境下的系统安全技术探索。 6. 前沿 AIOS 技术探索：跟踪 AI Infra 前沿技术，探索 AI 与操作系统融合的创新方向，推动 AIOS 技术演进和开源社区贡献。
参与推荐系统 GPU 推理引擎的研发工作，支撑生成式推荐、排序、召回等业务场景的在线推理服务落地。参与 CUDA 算子开发与优化，包括算子融合、量化（INT8/FP8）、Tensor Core 使用、显存与访存优化等方向，持续提升单卡吞吐与推理延迟表现。参与推理图优化工作，基于 TensorRT / ONNX Runtime / TVM / Triton 等主流框架完成模型的图变换、算子替换、kernel 调优，协助推动模型高效上线。针对推荐模型的特点（稀疏 Embedding、变长序列、多塔结构等），协助完成定制化推理方案的开发与调优，解决 Host-Device 传输、KV Cache 管理等性能瓶颈。参与性能 profiling 与调优工作，熟练使用 Nsight、CUPTI 等工具完成性能分析，配合算法团队完成模型结构的性能评估。关注 GPU 推理、LLM Serving、推荐系统 Infra 的业界前沿进展（vLLM、SGLang、FlashAttention 等），积极学习并参与新技术在团队内的落地。
1.负责公司整体AI平台架构设计和AI工程化技术。通过AI基础设施和软硬件协同优化来提升公司大模型训练和推理的效率。负责前沿异构计算芯片、大模型推理优化、大规模训练的技术演进跟踪和落地。
1、负责公司模型基础设施的设计、开发、建设与落地，支撑各类AI模型的高效运行； 2、负责公司Agent Infra的搭建与迭代，优化Agent相关基础设施的性能与可用性，保障Agent生态稳定运行； 3、时刻关注模型基础设施、Agent Infra及相关系统的运行状态，参与平台值班，快速响应并处理各类运行异常，保障整体系统稳定可靠； 4、协助诊断线上系统故障，开展故障排查、性能优化工作，持续提升模型基础设施、Agent Infra的稳定性、响应效率与可扩展性； 5、参与AI Infra相关基础技术预研、工具验证，支撑团队技术选型，助力后续基础设施的迭代升级与技术创新。
【团队介绍】 我们是小红书前端的核心中台团队，支撑社区、电商、商业化等全平台业务，致力于为全公司打造最强的跨端“技术弹药库”。 🚀 新挑战：拥抱 AI Native。面对业务的高速爆发，我们正在组建全新精锐力量，重构下一代跨端研发框架、底层容器、工具链与组件生态，支撑大模型带来的组织演进 🌱 高成长：无职级，不设限。公司推行全面扁平化管理，拆除科层制天花板。只要你有破局能力，我们提供充分的试错空间，让你的基建成果直接提升全线的战斗力，实现个人职业生涯的“指数级加速”。 【你的角色与挑战】 - 打造中台技术底座：立足中台视角，主导小红书跨端（RN等）基建体系的演进。为内部开发者提供开箱即用、稳定高效的研发调试工具链、底层运行时容器与高质量的核心组件物料； - 探索 AI Native 研发范式：不只是“使用”AI，而是利用大模型重构跨端研发链路。在代码智能生成、智能调试、物料自动化生产等场景落地创新方案，大幅度降低开发门槛，打造下一代极客开发体验（DX）； - 攻克性能极限：在千万级 DAU 极其复杂的业务场景下，深挖内存、首屏渲染、滑动等性能瓶颈，从底层提供超越行业常规的极致优化方案，让业务跑得更稳、更快； - 引领技术视野：紧跟前沿社区动态，深入理解业务开发者的核心痛点，探索并定义小红书下一代跨端与大前端中台架构。