商汤大模型推理系统研发实习生

工作描述

任职要求
职位要求
计算机、软件工程、人工智能、电子工程、数学等相关专业在校学生，每周可到岗 4 天及以上，实习时长不少于 4 个月。
熟练掌握 C++ 或 Python 中至少一门，具备扎实的操作系统、计算机体系结构、数据结构与算法基础。
理解 Transformer 的主要计算过程，以及 LLM 推理 Prefill / Decode 两阶段的计算、访存与 KV Cache 特性；使用过 vLLM、SGLang、TensorRT-LLM 中至少一个推理框架。
在以下至少一个方向有深入学习或实践：投机解码、分布式 KV Cache / 存储、分布式推理与调度、GPU 算子优化、高性能通信。能够结合源码、实验或项目，讲清楚核心机制、性能瓶颈与设计取舍。
具备独立定位问题和验证假设的能力，能够通过日志、Profiler 或对照实验分析性能问题，并清晰说明优化结果及其适用条件。

加分项
实现或优化过 MTP、EAGLE 等投机解码方案，分析过接受率、验证开销与端到端加速之间的关系。
参与过 KV Cache 管理、前缀缓存、多级缓存或分布式存储项目，理解缓存命中、数据传输与计算节省之间的权衡。
写过 CUDA / T…