字节跳动机器学习推理执行引擎研发实习生-Data AML

工作描述

任职要求
1、2027届本科及以上学历在读；
2、扎实的计算机底层基础，精通C/C++、Python编程，熟练掌握CUDA编程、GPU硬件架构原理，熟悉GPU内存模型、计算调度、通信机制；熟练掌握深度学习各类基础算子的底层开发实现，精通矩阵运算、归一化、激活函数等核心算子的GPU适配优化，可独立完成算子手写重构、访存优化、向量化加速、精度对齐，保障算子推理的高性能与高稳定性；
3、熟悉深度学习推理编译全链路，理解计算图优化、算子融合、常量折叠、内存复用、调度优化、量化编译等核心编译技术，能够通过编译层级改造简化推理链路、降低显存占用、减少推理时延，大幅提升模型推理吞吐效率；
4、熟练使用Nsight、Profiler等GPU性能分析工具，可精准定位推理过程中算力浪费、访存阻塞、调度冗余等性能瓶颈，具备软硬件协同优化思维，能够输出系统化优化方案并完成落地迭代，适配产业级高并发、低时延推…