阿里巴巴达摩院-大模型推理优化工程师-计算技术
任职要求
● 计算机、电子工程或相关专业硕士及以上学历，初级1-3年，高级5年以上AI基础设施、高性能计算或AI编译器相关工作经验。 ● 精通Python/C++，熟悉Linux开发环境。 ● 深入理解至少一种推理框架（vLLM/SGLang/TensorRT-LLM/Triton Inference Server）或AI编译器生态（Triton/TileLang/TVM/MLIR），具备Op/Kernel开发或调优经验。 ● 熟练使用NVIDIA性能分析工具（Nsight Systems/Nsight Compute/PyTorch Profiler），具备从trace中定…
工作职责
● 基于GPU Profile完成模型算子覆盖率分析，识别必选高性能算子开发路径并评估性能影响。 ● 基于性能仿真建模工具完成性能建模并检查review，输出整网及分层模块性能预期报告，明确关键模块与算子形状、数据类型及切分策略。 ● 结合Profile与建模结果，输出算子开发需求清单（含算子列表、shape、dtype、切分策略）及接口需求说明文档，明确算子/框架团队优先验证规格。 ● 维护并扩展补充新增AI芯片算子单OP精度与性能参考代码，沉淀AI Harness SKILL/Agent资产。 ● 建立主要模型推理规格的GPU竞品性能数据清单，形成可量化对标基准。 ● 跑通模型Fake Tensor推理（带切分方案）与Real Tensor推理全流程，验证并行切分策略正确性。 ● 对比实测性能与建模预期，量化Gap来源（算子效率/切分策略/调度开销/显存带宽等），驱动算子、框架、编译器团队形成优化闭环，持续逼近建模性能极限。 ● 制定端到端精度验证策略，输出验证方案与QA转测说明，完成AI芯片daily QA转测交付。 ● 输出模型整体并行方案与子模块/算子级切分细化方案，形成建模性能预期数据报告。
- 设计模型分布式并行策略，对推理性能进行分析与优化，在给定硬件配置下找到最优部署方案 - 针对模型实现低精度量化方案，完成精度对齐，确保可在生产环境部署 - 协同框架、算子、运行时等相关团队，制定模型系统性部署方案，为最终模型交付质量负责 - 构建大模型Model Zoo，打造模型推理参考样例，优化模型评测标准和流程
1. 负责超声影像核心算法研发，包括但不限于标准切面识别、器官识别、病灶检测与分割、图像质量评估、超声视频理解等方向，持续提升模型在真实临床场景中的性能与泛化能力。 2. 参与超声多模态基础模型研发，探索超声图像、视频、文本报告、扫查轨迹等多模态数据的统一建模方法，构建面向超声场景的视觉语言模型（VLM）及医疗基础模型能力。 3. 参与超声诊断大模型研发，探索超声影像理解、病灶分析、诊断推理及报告生成等关键能力，推动大模型在真实医疗场景中的应用落地。 4. 参与大规模超声数据体系建设，包括数据清洗、自动标注、主动学习、评测体系构建以及训练数据闭环优化，推动超声基础模型持续迭代升级。 5. 跟踪医疗AI、多模态大模型、视频基础模型等前沿技术方向，推动创新算法在超声医疗 AI中的研究与落地。
1. 跟踪大模型的国际前沿算法技术动态，定期输出技术调研报告并试点验证，评估其在业务中的应用价值； 2. 负责大模型在端侧/边缘场景的优化与落地，包括模型压缩、推理加速、多模态输入处理与上下文管理； 3. 负责数据计算、运动控制、图像处理算法的研发与优化； 4. 跨团队参与产品的需求评审，制定算法验收标准，配合测试团队完成算法在各应用场景下的效果验证与版本迭代； 5. 主导算法在 RISC-V 架构硬件上的移植、量化与性能优化，确保算法运行的稳定性和实时性； 6. 负责撰写设计方案、接口规范等技术文档，参与专利布局及相关学术论文的撰写；
1. 跟踪大模型的国际前沿算法技术动态，定期输出技术调研报告并试点验证，评估其在业务中的应用价值； 2. 负责大模型在端侧/边缘场景的优化与落地，包括模型压缩、推理加速、多模态输入处理与上下文管理； 3. 负责数据计算、运动控制、图像处理算法的研发与优化； 4. 跨团队参与产品的需求评审，制定算法验收标准，配合测试团队完成算法在各应用场景下的效果验证与版本迭代； 5. 主导算法在 RISC-V 架构硬件上的移植、量化与性能优化，确保算法运行的稳定性和实时性； 6. 负责撰写设计方案、接口规范等技术文档，参与专利布局及相关学术论文的撰写；