阿里巴巴面向 AI Coding 的下一代高性能推理引擎与智能成本治理体系-阿里星
任职要求
1.学历背景：硕士及以上学历，计算机科学、软件工程或相关专业；具备大模型服务平台/推理系统/分布式系统工程化经验者优先； 2.编程能力：精通 Go/Java 至少一门语言，代码风格优良，具备良好的工程素养； 3.架构设计：深度掌握服务化架构设计，主导过复杂分布式系统架构设计与落地；熟悉资源弹性调度算法、成本优化策略及容灾方案设计； 4.基础设施：熟悉多 Region 架构设计，掌握服务网格、全链路监控、混沌工程实践；具备容量规划、故障自愈系统开发经验，熟悉 K8S 集…
工作职责
1.大模型推理与调度平台建设：主导多模态/LLM 推理服务化与模型调度中台建设，支持多模型共存、降级容错与弹性扩缩容，保障高并发低时延的线上推理体验； 2.推理加速与资源效率优化：推进推理加速与 GPU 资源复用等优化策略落地，提升模型利用率并降低单位推理成本； 3.模型成本治理体系：建设模型资源可视化与治理闭环，推动降本动作落地并形成可持续的成本优化机制； 4.服务端基础架构演进与全球化支撑：负责全球多 Region 架构规划与服务端架构演进，建设统一网关与用户服务体系，支撑业务快速迭代； 5.SRE 稳定性与可观测性建设：构建全链路监控与自动化运维能力，完善异常响应、容量管理与弹性扩容机制，提升平台可用性； 6.架构融合与平台化治理：推动团队多款 AI 产品服务端架构融合与服务复用，减少重复投入并沉淀统一能力。
团队介绍：TRAE（The Real AI Engineer），是字节跳动旗下的AI编程产品，一个能理解需求、调动工具、独立完成开发任务的AI开发工程师，为用户提供端到端生成真实软件的服务。TRAE是当前国内受到广泛欢迎的AI编程产品之一，也是业界首个端到端AI软件开发Agent产品，可覆盖简单到复杂全场景。我们正在寻找充满热情、富有创造力的人才。期待你的加入，与我们共同重塑开发范式，定义未来开发的形态。 课题介绍： 1、复杂软件工程项目的挑战与需求：随着企业业务需求的快速增长，软件项目规模持续扩大，系统架构日趋复杂，跨语言、多框架、多平台开发成为常态。开发团队在应对代码理解、跨模块协作、版本演化和长期维护等问题时，效率与质量面临双重挑战； 2、大模型在软件工程领域的潜力与不足：大规模语言模型在代码生成、补全和文档生成等任务上已展现强大能力，推动了智能化开发工具的初步落地。然而，在应对复杂软件工程项目时，现有模型在长序列建模、上下文一致性、长程任务，代码质量保障方面仍有明显不足； 3、技术与产业机遇：1）范式变革：大模型有望成为软件开发全流程的重要参与者，推动从工具辅助向智能协作转变，覆盖从需求分析到代码实现、测试生成和自动化重构的各个环节；2）行业转型：通过深度优化大模型在复杂软件开发中的能力，可显著提升企业研发效率、软件质量与团队协作能力，助力数字化转型； 课题挑战： 1、长序列代码与复杂上下文建模：复杂软件项目中，代码文件可能达到数千行，存在跨模块调用和多层次依赖，模型如何在长序列输入下保持上下文一致性，是核心技术难点之一； 2、跨语言与多框架适配：现有模型大多针对单一语言优化，而企业项目往往涉及多语言（如 Python、C++、Java 等）和多框架（如 React、Django、Kubernetes）。如何提升模型的跨语言泛化能力成为重要课题； 3、领域知识缺失与安全合规风险：通用大模型缺乏行业特定知识，可能生成不符合行业规范或存在潜在漏洞的代码，需引入领域知识与合规规则进行优化和增强； 4、人机协作：针对新涌现的大模型技术和应用场景，研究下一代软件研发人机交互形式，推动AI驱动的交互形式的普及与发展。 课题价值： 1、研究目标 1.1提升大模型对复杂项目的语义理解与跨模块上下文建模能力，尤其是在长序列代码、跨文件依赖和复杂逻辑推理场景中的表现； 1.2优化模型微调与自适应学习策略，通过引入多任务学习、强化学习（RL）和领域知识增强，构建具有高泛化能力和行业适配能力的大模型； 1.3集成领域知识库与检索增强（RAG）技术，确保模型生成结果在行业标准、安全规范和合规性方面的准确性与可靠性； 1.4优化模型的Agentic任务能力，更加泛化的工具调用能力，持续的上下文学习和记忆能力，让模型具备一定的独立工作能力。 1.5构建自我进化的AI Coding多智能体系统，基于强化学习、长期记忆、垂类模型训练、测试时计算等方法，持续优化任务规划、代码生成等能力，实现数据驱动的自我进化，从而实现复杂应用的端到端全栈开发。 2、创新价值 2.1模型结构与预训练策略的突破：在通用预训练模型基础上，结合程序分析与语法语义建模，提升对大型软件项目的理解能力，尤其是在模块间交互和函数调用路径分析方面； 2.2模型优化与自适应增强：通过多维度监督信号（代码质量、运行性能、测试覆盖率等），实现强化学习与在线反馈的动态调整，打造具备持续学习能力的大模型； 2.3从工具辅助到全生命周期协作：以大模型为核心，推动需求到实现、测试到部署的智能化协作新范式，助力开发者在复杂工程项目中更高效地完成跨团队协作与长期维护； 2.4领域知识与行业专属能力融入：通过引入行业领域知识库（如金融合规、医疗数据安全规范等），结合检索增强技术（RAG），确保生成代码符合行业标准，显著降低错误和安全隐患。
Qteam 是阿里云旗下的 AI 编码产品团队，正在打造涵盖 AI IDE、AI 编码插件、AI Coding CLI 在内的下一代智能开发工具矩阵。我们相信 AI 将从根本上重塑开发者的编程方式——从代码补全到自主编程 Agent，从单点辅助到全流程智能化。在快速演进的产品矩阵背后，多平台交付复杂度、AI 功能非确定性质量验证、AI 安全攻击面防护、推理成本管理等工程化挑战亟待突破。我们的目标是构建一套 AI 原生的智能研发交付体系——让 AI 来保障 AI 产品的交付质量、安全与效率。你将能够参与： 1.智能构建编排： 基于 LLM 构建智能 DevOps Agent，实现自然语言驱动的多平台流水线生成、构建失败自动根因分析与修复建议，将配置驱动的 CI/CD 升级为意图驱动的智能编排； 2.AI 功能持续验证： 构建 ML 驱动的持续验证引擎，自动学习 AI 功能行为基线，实时检测异常偏移，支持智能灰度分析与自动回滚； 3.安全编排与韧性工程： 将 AI 安全扫描左移至流水线，构建混沌工程韧性测试框架与 SLI/SLO 驱动的服务可靠性管理； 4.成本管理与效能洞察： 构建 AI 推理成本细粒度归因与工程效能智能分析平台，自动识别瓶颈并生成优化建议。
负责面向安全业务场景的大模型能力建设，包括但不限于以下方向： 1. AI for security，利用AI技术增强网络安全、数据保护和等领域的防御能力。在自动化威胁检测、分析和响应、DevSecOps等场景提升效率和攻防对抗能力。 2. Security for AI，保护AI应用系统安全，保护其免受攻击和滥用。
1、为EBS的稳定、性能、成本技术演进和架构设计和技术创新落地，构建稳定可靠，性能优越，具有成本优势的先进分布式块存储系统； 2、AI 对存储吞吐有非常高的要求，本岗位需要面向AI场景将存储带宽做到物理极限，同时大幅降低成本； 3、OLTP 客户对EBS的延迟和长尾要求非常高，在高吞吐的背景下，需要通过流量整形，优先级调度，微观时间片上的均匀化等技术来有效控制系统的延迟。