阿里云阿里云智能-异构计算软硬件结合高级研发工程师-杭州
任职要求
1.拥有扎实的编码功底，熟悉C/C++/Go/Rust等语言，拥有规范的工程化能力； 2.深入理解Linux系统，有大规模生产系统软件的开发与运维经验； 3.熟悉异构计算编程， 熟悉主流AI加速芯片（如NVIDIA,AMD等）的系统结构和计算特性； 4.熟悉异构硬件系统调优和Profiling工具，如nsys/ncu系列等。 5.熟悉docker/containerd等主流容器运行实现，熟悉kubernetes系统架构和编程范式，； 6.具备英文技术文档研读能力，计算机相关专业背景，并具有3年及以上云计算或AI Infra研发经验。 优先考虑： 1. 有GPU驱动开发经验优先； 2. 有大规模GPU集群资源调度经验优先，有二次开发Kubernetes经验优先； 3. 有大规模GPU集群监控，在线Profiling和稳定性保障经验优先； 4. 熟悉docker/pouch/containerd源码优先；熟悉OCI标准，有OCI Hook开发经验优先。
工作职责
1. 基于对目前主流AI芯片的深刻理解，分析硬件系统结构，提供软硬件优化实践和调优指南； 2. 了解市场上主流AI，大数据，HPC应用对异构计算系统设计的挑战，应用AI加速芯片，设计打造高效异构计算产品； 3. 聚焦异构资源在线性能分析，负责系统级性能分析和业务瓶颈定位，助力异构集群的极致稳定； 4. 实现异构计算基础设施serverless化，驱动异构云原生架构演进； 5. 洞悉人工智能及深度学习的应用发展趋势，参与下一代机器学习算力产品设计。
1. 基于对主流AI芯片和服务器架构的深刻理解，分析硬件加速特征与内部拓扑结构，提供硬件优化实践和调优指南，确保充分发挥硬件潜能。 2. 结合主流LLM推理框架 (如sglang/vLLM) 和大模型结构及其计算特性，通过软硬件协同优化和技术创新 (包括但不限于硬件算子优化、显存以及并行化等)，负责新服务器上的端到端性能分析和优化。 3. 提供场景化的定制优化能力，识别并解决大模型在不同业务场景下的性能瓶颈，快速的给出满足需求的性能优化方案。 4. 熟悉系统调优和Profiling工具 (如 nsys/ncu系列、通用工具如Perf、火焰图等)，负责系统级性能分析与瓶颈定位能力，并能基于硬件特性进行软件适配与优化。 5. 洞悉大模型的发展趋势和技术演进，结合硬件Profling和Trace 数据，为下一代AI基础设施的服务器设计与研发提供量化数据分析支持。
1. 负责研发针对AI 硬件的性能画像模型，跟踪业界模型的发展和框架的发展，结合阿里云AI服务器提供场景化的性能预估和优化策略推荐。 2. 负责提供场景化的定制分析能力，分析大模型在不同服务器下的性能差异，快速的给出满足业务的性能优化配置策略，加速业务的部署。 3. 负责调优和Profiling工具的分析和应用，跟踪和分析硬件性能优化技术，快速的使能新AI服务器。 4. 与硬件设计和规划人员协同，结合历史性能数据，提炼性能影响的关键硬件特征和需求，为下一代AI基础设施的服务器设计提供输入。
1. 负责研发AI异构计算软件栈，通过结合不同加速芯片的特性，实现AI计算的全链路优化，助力打造在业界具有竞争力的高可靠、高性能、高效率的大规模AI算力基础设施。 2. 结合具体业务场景，开展软硬件协同优化和技术创新（包括但不限于算子优化与编译、量化压缩，计算通讯融合，系统调度、分布式推理优化等工程任务），为实际业务提供卓越的性能和成本效益。 3. 洞察人工智能及深度学习的发展趋势，积极参与下一代AI基础设施的设计与研发。
方向一： 1.负责针对相机的计算成像的算法原型研发和演进 - 基础图像算法如3R(NoiseReduction, SuperResolution, HDR), 多帧多摄等； - 图像后处理算法如美颜、色彩映射，图像渲染等； - 软硬件结合图像算法如ISP（image signal processor)算法的开发调优、白平衡、自动对焦、自动曝光控制，色彩还原，多摄立体视觉，防抖算法的迭代进化等； 2.AI技术应用影像业务，利用机器学习，深度学习，模型压缩及小型化等前沿技术，解决low-level画质处理，语义理解等多领域核心问题，整体提升用户体验和业务价值； 3.针对android平台和手机soc芯片的图像处理算法架构设计的基础研究，实现全链路影像处理链路的端到端性能最优设计；针对图像/视频效果进行标准定义和定量评测的理论研究； 4.对于前沿技术的动态进行追踪，主导高校产学研合作或供应商技术合作，实现新的影像算法领域探索和技术创新。 方向二： 1.模型性能分析与优化 1)负责影像端侧模型性能分析与调优，包括推理速度、内存占用、功耗等关键指标优化； 2)设计并优化量化、剪枝、蒸馏等模型压缩技术，推动算法在移动端的高效部署； 3)针对GPU/NPU/DSP等硬件特性模型结构，识别模型运行中的瓶颈并提出改进方案，提升端侧推理效率。 2.技术预研与落地 1)跟踪行业前沿技术（如大模型端侧优化、模型压缩等），完成技术验证并推动业务落地； 2)协同算法团队优化模型架构，平衡性能与精度需求。 3)与硬件、系统框架团队合作，优化底层驱动及系统资源调度策略，提升模型运行效率；