千问千问事业部-大模型推理优化专家-通信优化

1、精通C++/CUDA/Python编程，具备扎实的算法和数据结构基础； 2、深入理解分布式训练/推理的并行范式（Tensor Parallelism, Pipeline Parallelism,

1. 扎实的专业基础与经验：计算机、人工智能或相关专业，5年以上AI大模型推理系统或性能优化方向工作经验，具备扎实的计算机体系结构知识和大模型技术理解。 2. 出色的工程与编程能力：精通C++/Pyt

1.本科及以上学历，丰富的推理场景KV Cache相关研发经验，对相关优化技术有深刻的理解和见解； 2.曾参与过线上大规模KV Cache统的研发及演进； 3.技术有极致追求，对业界趋势有敏锐洞察力；

1、精通大语言模型的基础架构（如Transformer等）和推理流程； 2、在量化/稀疏/剪枝/投机采样等任一领域有扎实研究或项目经验； 3、优先条件：在NeurlPS、ICML、ICLR、ACL等顶