地平线大模型部署优化工程师

1. 搭建高效的AI系统，为算法迭代和部署提供模型优化、量化、部署的高效算法工具链； 2. 使用模型优化技术，包括模型低精度量化、模型压缩/裁剪，熟悉大模型的量化、长上下文推理优化等，开发模型优化的工具链，对模型进行优化加速； 3. 参与软硬件协同优化设计。与硬件工程师协作，参与硬件设计和优化，提供模型在私有硬件平台的执行效率。

1、负责将智驾算法团队研发的云端大模型（如感知模型、自动标注模型）进行高效的部署、优化与服务化； 2、设计并实现高性能的模型推理服务，保障其高可用与低延迟； 3、运用模型压缩、编译优化及算子融合等技术，显著提升模型在GPU集群上的推理效率与资源利用率； 4、构建并维护一体化的模型部署与监控平台；

1. 参与Android 平台的大模型(aigc + llm)开发和部署; 2. 负责大模型算子在NPU/GPU/CPU部署及高性能算子实现； 3. 负责大模型异构部署的算子性能调优及优化工作； 4. 分析算子/网络的性能瓶颈，提出性能优化策略，达成性能目标。

职位描述 1. 搭建高效的AI系统，为算法迭代和部署提供模型优化、量化、部署的高效算法工具链； 2. 使用模型优化技术，包括模型低精度量化、模型压缩/裁剪，熟悉大模型的量化、长上下文推理优化等，开发模型优化的工具链，对模型进行优化加速； 3. 参与软硬件协同优化设计。与硬件工程师协作，参与硬件设计和优化，提供模型在私有硬件平台的执行效率。