阿里巴巴面向超节点的大语言模型推理方案-阿里星
任职要求
1、分布式系统、计算机体系结构、编译优化或通信与计算协同设计方向的博士研究生； 2、具备AI训推/推理计算性能分析与优化的经验，能深入分析AI模型在GPU平台上的性能瓶颈，提出并实施优化方案。针对分布式训练和推理系统，进行性能调优，提升系统的吞吐量和效率； 3、熟悉业界常见的优化栈（cuda/rocm/cutlass/ck/triton等），在高效的内存管理、通信优化（NvLink/Infiniband/RoCEv2等）关键技术上有实操经验； 4、分布式系统研发经验是加分项：设计和实现高效的分布式训练和推理框架…
工作职责
1、负责研发软硬件协同的优化能力，提升阿里云训推场景在异构资源上计算性能，进一步提高资源利用率； 2、负责设计、实现、维护 AI 和高性能计算所需要的大模型推理场景的性能优化，聚焦模型通信场景的能力建设，完善集合通信、点对点通信等通信方式与推理框架的联合方案设计，推动提升推理性能。
1、围绕搜索推荐系统中大规模特征生产链路复杂、数据血缘不清晰、特征复用率低、计算链路冗余严重等问题，开展面向特征工程智能治理的 Agent 系统研究与原型建设。参与构建 Feature Engineering Agent 系统，利用 Agent 的任务规划、工具调用、记忆机制、多步骤推理、结果校验与人机协同能力，实现对特征生产代码、任务 DAG、数据血缘和特征依赖关系的自动理解与治理。 2、参与设计和实现面向 SQL、Spark、Flink 等特征生产代码的解析工具链，并将代码解析、元数据查询、任务 DAG 查询、血缘分析、特征 profile 分析、资源成本估算等能力封装为 Agent 可调用工具。 3、研究特征血缘自动构建、冗余特征识别、特征复用推荐、特征依赖关系推理、DAG 优化建议生成等 Agent 工作流，使 Agent 能够在真实特征生产链路中完成复杂治理任务的拆解、执行、验证与解释。 4、探索单 Agent 与多 Agent 协作机制，构建 Code Understanding Agent、Lineage Agent、Feature Reuse Agent、DAG Optimization Agent、Risk Review Agent 等专业能力模块，支持复杂特征治理任务的自动化和半自动化处理。 5、参与构建 Agent 安全与可信机制，包括工具调用权限控制、结果证据追踪、置信度评估、幻觉检测、生产变更审批、风险提示与回滚建议，确保 Agent 输出可解释、可验证、可审计。 6、在真实搜索推荐业务场景中进行实验验证，评估 Agent 系统在血缘识别准确率、冗余特征发现率、特征复用推荐采纳率、计算资源节省、研发效率提升等方面的效果，并形成技术方案、系统原型、技术报告、专利或论文成果。
1. 生成式推荐模型研发： 基于 Transformer 与 LLM 架构，设计并优化面向电商场景的生成式推荐模型，提升用户转化； 2. 电商推荐 Reasoning 探索： 研究推荐过程中的推理能力（Reasoning），利用思维链（CoT）或模型内置推理提升推荐结果的逻辑性与准确度； 3. 模型后训练与对齐（Post-training & Alignment）： 负责大模型全生命周期的微调与对齐，包括高质量 SFT 数据构建、指令微调，以及利用 RL 技术驱动模型性能演进； 4. 前沿技术转化与原创突破： 不满足于 SOTA 成果的复现，能够基于业务痛点进行底层算法创新。 积极参与国际顶会（KDD, SIGIR, NeurIPS 等）投稿，输出高质量专利与学术论文，引领行业技术演进。
1. 支持超大规模数据场景下多方共赢、激励兼容的平台机制设计与实践； 2.支持复杂外部性因素下的广告与自然结果价值预估和混排的算法设计与实践； 3. 支持广告全链路机制策略统一建设和联动的设计与实践； 4. 支持研究和推动Autobidding模式下的新机制设计的应用与创新。
1. 负责AI Serving的研发与优化，包括但不限于大模型的高效推理算法、框架与系统； 2. 将业界开源/自研大模型应用于广告业务场景，实现创新应用； 3. 研究业界前沿的大语言模型，及相关的服务与优化框架。