阿里巴巴AI Infra软硬结合网络研发工程师

在这里，你将成为大模型技术落地的“硬核引擎缔造者”。你将参与构建 AI Infra计算基础设施过程，从GPU单卡到多卡、超节点、万卡集群，通过软硬件协同优化技术，近距离与大模型设计者协同设计，通过融合算子设计、多卡分布式并行、计算通信融合、计算存储融合、通信存储融合、异构计算加速等软硬件结合优化技术，让每一个GPU发挥出极致性能，让大模型在训练、推理、调度全链路中的表现出卓越性能。你的代码将直接决定大模型训练的效率、推理的响应速度以及集群资源的利用率，为 AI 时代的算力底座注入核心动力。 1、软硬件协同优化 •负责软硬件协同设计，优化计算性能、能耗效率和系统稳定性； •针对特定应用场景（如AI推理、分布式存储、实时计算等），设计并实现高效的软硬件解决方案。 2、基于FPGA/ASIC芯片的设计与开发 •参与FPGA/ASIC芯片的RTL设计与验证，包括C-Model、算法映射、硬件架构设计和性能调优； •开发硬件抽象层（HAL）和相关工具链，支持硬件加速器与上层软件的无缝集成； •参与硬件加速器及系统仿真模型的开发和调试。 3、计算平台软硬件结合技术开发和优化 •研发基于CPU、GPU、FPGA、ASIC等硬件的计算平台，实现计算加速、计算算子、融合算子等开发优化，提升AI训练和推理等业务的计算性能； •基于自研芯片服务器，实现超节点ScaleUp互连管控、分布式并行计算研发、多卡高效通信与加速，实现AI和通用计算的超节点高效运行。 4、操作系统与固件开发 •优化Linux内核、设备驱动和固件，提升硬件资源利用率和系统响应速度； •开发针对特定硬件的定制化操作系统模块，满足高性能计算需求。 5、开发者工具与生态建设 •开发软硬件结合的开发者工具链（如SDK、CLI、IDE插件），降低开发门槛； •构建开放的技术生态，推动软硬件一体化解决方案的广泛应用。

参与推荐系统 GPU 推理引擎的研发工作，支撑生成式推荐、排序、召回等业务场景的在线推理服务落地。参与 CUDA 算子开发与优化，包括算子融合、量化（INT8/FP8）、Tensor Core 使用、显存与访存优化等方向，持续提升单卡吞吐与推理延迟表现。参与推理图优化工作，基于 TensorRT / ONNX Runtime / TVM / Triton 等主流框架完成模型的图变换、算子替换、kernel 调优，协助推动模型高效上线。针对推荐模型的特点（稀疏 Embedding、变长序列、多塔结构等），协助完成定制化推理方案的开发与调优，解决 Host-Device 传输、KV Cache 管理等性能瓶颈。参与性能 profiling 与调优工作，熟练使用 Nsight、CUPTI 等工具完成性能分析，配合算法团队完成模型结构的性能评估。关注 GPU 推理、LLM Serving、推荐系统 Infra 的业界前沿进展（vLLM、SGLang、FlashAttention 等），积极学习并参与新技术在团队内的落地。

1.负责公司整体AI平台架构设计和AI工程化技术。通过AI基础设施和软硬件协同优化来提升公司大模型训练和推理的效率。负责前沿异构计算芯片、大模型推理优化、大规模训练的技术演进跟踪和落地。

1、负责公司模型基础设施的设计、开发、建设与落地，支撑各类AI模型的高效运行； 2、负责公司Agent Infra的搭建与迭代，优化Agent相关基础设施的性能与可用性，保障Agent生态稳定运行； 3、时刻关注模型基础设施、Agent Infra及相关系统的运行状态，参与平台值班，快速响应并处理各类运行异常，保障整体系统稳定可靠； 4、协助诊断线上系统故障，开展故障排查、性能优化工作，持续提升模型基础设施、Agent Infra的稳定性、响应效率与可扩展性； 5、参与AI Infra相关基础技术预研、工具验证，支撑团队技术选型，助力后续基础设施的迭代升级与技术创新。