安克创新端侧AI部署工程师

工作描述

一、岗位职责
端侧 AI 模型部署与优化：负责计算机视觉（CV）、大模型（LLM）在端侧与边缘计算平台上的部署、量化、编译及推理优化，推动算法在高通（Qualcomm）、瑞芯微（Rockchip）、爱芯元智（AX）等芯片平台上的高效落地。
模型量化与精度优化：研究 PTQ、QAT、INT8/INT4、W4A16、混合精度量化、模型蒸馏及模型压缩等技术，优化模型量化策略与算子精度，解决模型在不同芯片平台上的量化精度损失、算子兼容性及模型转换问题。
异构计算与推理性能优化：深入研究端侧 SoC 架构及 NPU、GPU、DSP、CPU 等异构计算单元的性能特性，开展算子优化、计算图优化、算子融合、内存管理与数据传输优化，提升模型推理速度、计算资源利用率及能效表现。
高性能推理引擎与 Pipeline 开发：基于 C/C++ 开发和优化端侧 AI 推理引擎、模型执行框架及推理流水线，研究多模型协同调度、异步推理、内存复用及零拷贝等技术，提升端侧 AI 系统的实时性、稳定性与资源利用效率。
端侧部署验证与自动化平台建设：负责端侧 AI 模型部署验证平台、自动化评测及性能压测系统的设计与开发，构建覆盖模型转换、量化精度对齐、推理性能、内存占用、功耗及稳定性的自动化测试体系，提升算法部署效率与质量。
模型精度对齐与问题定位：建立 PyTorch/ONNX 与端侧推理结果的精度对齐和分层诊断机制，定位并解决量化误差、算子实现差异、数值精度、内存限制及设备兼容性等问题，保障模型在真实硬件环境中的精度与可靠性。
端侧 AI 系统工程化落地：负责端侧模型部署 S…