智谱AI院-推理Infra工程师（量化算法研究/推理框架优化/GPU优化）

工作描述

【方向一】量化算法研究员
-职位描述
通过前沿的模型量化、压缩与推理加速技术，显著降低大语言模型及多模态模型的存储占用与计算成本，推动 LLM 的大规模部署。
-工作内容
1、研发及改进 PTQ（训练后量化）、QAT（量化感知训练）、混合精度量化等核心算法，针对LLM/VLM（大语言模型/视觉语言模型）设计定制化量化方案，持续优化模型精度与推理效率的平衡；
2、探索并实践低比特量化（如INT8/INT4/FP8/FP4）、权重稀疏化、知识蒸馏等协同压缩技术，提升压缩率同时控制精度损失；
3、开发及优化量化工具链，完成对 GLM 系列模型的转换、量化校准及部署集成；
4、 跟踪学术界与工业界前沿量化技术，通过论文复现、实验对比推动技术迭代。
-职位要求
1、计算机科学、电子工程、数学等相关专业硕士及以上学历，3 年以上模型量化或推理加速经验；或优秀本科生具备扎实项目履历；
2、深入理解 Transformer 架构及 LLM 推理流程，精通 Python，熟悉常见的开源 LLM 推理框架（sglang/vllm/trtllm 等）；
3、掌握量化原理（校准策略、量化粒度、误差分析）及主流算法（如GPTQ、AWQ）；
4、具有 CUDA/Triton 编程经验，能自主实现高性能算子或优化内核计算加分。

【方向二】推理框架优化…