地平线大模型部署优化工程师
任职要求
1. 硕士及以上学历，计算机、人工智能、电子、软件工程的直接相关专业，或运筹学、统计学、数学类的基础专业； 2. 熟悉自动驾驶感知，预测，数据…
工作职责
1. 搭建高效的AI系统，为算法迭代和部署提供模型优化、量化、部署的高效算法工具链； 2. 使用模型优化技术，包括模型低精度量化、模型压缩/裁剪，熟悉大模型的量化、长上下文推理优化等，开发模型优化的工具链，对模型进行优化加速； 3. 参与软硬件协同优化设计。与硬件工程师协作，参与硬件设计和优化，提供模型在私有硬件平台的执行效率。
1. 搭建高效的AI系统，为算法迭代和部署提供模型优化、量化、部署的高效算法工具链； 2. 使用模型优化技术，包括模型低精度量化、模型压缩/裁剪，熟悉大模型的量化、长上下文推理优化等，开发模型优化的工具链，对模型进行优化加速； 3. 参与软硬件协同优化设计。与硬件工程师协作，参与硬件设计和优化，提供模型在私有硬件平台的执行效率。
1. 参与Android 平台的大模型(aigc + llm)开发和部署; 2. 负责大模型算子在NPU/GPU/CPU部署及高性能算子实现； 3. 负责大模型异构部署的算子性能调优及优化工作； 4. 分析算子/网络的性能瓶颈，提出性能优化策略，达成性能目标。
职位描述 1. 搭建高效的AI系统，为算法迭代和部署提供模型优化、量化、部署的高效算法工具链； 2. 使用模型优化技术，包括模型低精度量化、模型压缩/裁剪，熟悉大模型的量化、长上下文推理优化等，开发模型优化的工具链，对模型进行优化加速； 3. 参与软硬件协同优化设计。与硬件工程师协作，参与硬件设计和优化，提供模型在私有硬件平台的执行效率。
1.负责将智驾算法团队研发的云端大模型（如感知模型、自动标注模型）进行高效的部署、优化与服务化。 2.设计并实现高性能的模型推理服务，保障其高可用与低延迟； 3.运用模型压缩、编译优化及算子融合等技术，显著提升模型在GPU集群上的推理效率与资源利用率； 4.构建并维护一体化的模型部署与监控平台。