阿里巴巴AI推理平台-AI算法评测工程师-北京/杭州
任职要求
1. 学历与理论基础：计算机科学、人工智能、统计学或相关专业硕士及以上学历，具备扎实的机器学习/深度学习理论基础，熟悉常见的模型评价指标（如F1-Score、PPL、METEOR、BERTScore等）及其适用场景。 2. 编程与工程实现能力：熟练掌握Python/C++等编程语言，具有良好的代码规范与工程落地能力。熟悉Linux开发环境，能够利用Numpy、Pandas、Scipy等工具进行高效的评测数据处理与可视化分析。 3. 评测分析与问题定位能力：具备敏锐的数据敏感度和严谨的统计学思维，熟练掌握假设检验、方差分析等数理统计方法。面对Bad Case时，具备优秀的逆向分析能力，能够准确定位精度损失的数据源头（数据偏移、模型过拟合、推理逻辑错误等）。 4. 工具链与数据库操作：熟悉Redis、MySQL等数据库的基础操作，能够…
工作职责
1. 负责AI产品核心效果评估与精度度量：主导大模型及AI应用在业务场景下的效果评测全流程，包括构建多维度评测指标体系（如准确率、召回率、幻觉率、Rouge/BLEU及任务完成率），制定严谨的AB实验方案，并对评测数据进行深度统计与归因分析。 2. 构建对抗性评测与稳定性验证体系：设计并执行覆盖边界Case、长尾分布及恶意攻击的测试用例，系统性评估模型在复杂场景下的鲁棒性、安全性与语义稳定性，输出可量化的风险评估报告。 3. 推动效果回归与用户体验闭环：建立版本迭代的效果回归基线，利用自动化工具持续监控模型更新带来的精度波动；同时建立“线上数据回流-线下标注验证-模型优化”的闭环机制，推动产品体验的持续优化。 4. 设计自动化评测工具与数据飞轮：开发或集成AI自动化评测脚本（如基于API的批量推理、断言校验），建设数据标注与结果分析平台，提升效果评估的效率和可复现性；主导评测数据集的构建与管理，确保数据分布的合理性与标注一致性。
我们希望围绕大语言模型与 AIGC 模型，探索更具前瞻性的推理优化方法，并将其转化为真实场景中的性能收益。你将参与下一代推理加速技术的研究与落地，面向生成模型推理中的核心瓶颈，持续推进算法设计、效果验证与系统协同优化。 你将参与以下工作： ● 面向 LLM 与 AIGC 场景，研究生成模型推理加速的关键问题 ● 探索前沿生成范式，以及基于后训练的模型架构演进 ● 探索SOTA加速方案，如投机、sparse attention、LLM/Diffusion distillation等技术 ● 与工程及基础设施团队协同，探索框架+算法+算子一体的更大scope的加速方案 ● 跟踪相关领域前沿进展，推动新方法的快速评估与应用
本团队涉及如下方面的工作：（工作内容可以根据候选人专业特长安排） 1. 多模态模型的推理功能开发和性能优化，包括对Qwen-3.6、Qwen-3.7、Qwen-VL、Qwen-Audio、Qwen-Omni等多模态输入/输出模型的功能支持和推理性能优化。 2. 分布式推理架构的研发，包括多机推理架构设计，P/D分离、A/F分离、VL模型分离架构、WideEP、ElasticEP等功能研发与落地。 3. 推理引擎服务化，包括推理引擎如何接入线上服务平台，自动扩缩容和可观测性的适配，以及提升线上服务稳定性。 4. NPU/GPU各类算子、kernel开发、算子融合、Compiler的开发等。
我们是阿里巴巴大模型推理团队，负责生成式AI领域（主要是图像生成和LLM）的内部产品、训练推理服务系统建设和维护，为淘宝、天猫、聚划算、优酷、闲鱼等多个集团业务部门提供强有力的技术支撑和底层服务能力。 1. 针对特定异构芯片（如华为昇腾、AMD MI系列等），深入分析其指令集、存储层级（HBM/Cache）和计算单元特性，使用原生语言（如CANN C/C++, HIP C++）手写和优化核心算子（如Attention, MoE Gate, GEMM等），实现极致性能。 2. 主导或核心参与基于编译技术的算子优化方案，利用Triton、TileLang、JAX/MLIR等技术栈，构建一套可跨硬件复用的算子生成与图优化框架，大幅缩短新卡型或新模型的适配周期。 3. 使用专业的Profiling工具，对模型在异构硬件上的端到端性能进行分析，精准定位Kernel执行、数据搬运、通信等环节的瓶颈，并提出体系化的优化方案。 4、工作地点：北京、杭州，未来会开放「上海」工作地点，现阶段支持员工根据团队安排部分时间在上海办公，详情可与hr或面试官沟通。
我们是阿里巴巴大模型推理团队，负责内部 LLM/AIGC 百炼推理服务建设，为淘宝、天猫、聚划算、优酷、闲鱼等多个集团业务部门提供强有力的技术支撑和底层服务能力。 AI 高性能计算工程师负责探索不同AI芯片（NV，AMD, 华为昇腾, TPU, 寒武纪等）的底层架构，使用硬件手写原生 Kernel、 Trition/Tilelang 编译优化等手段，解决“从0到1”（跑通）和“从1到N”（跑得快）的关键问题。 工作地点：北京、杭州，未来会开放「上海」工作地点，现阶段支持员工根据团队安排部分时间在上海办公，详情可与hr或面试官沟通。