平头哥平头哥-边缘AI芯片计算/通信加速库开发工程师-上海
任职要求
1. 计算机科学、电子工程或计算机工程相关专业硕士及以上学历，至少3年以上相关经验。 2. 深厚的优化Kernel开发背景（如 C…
工作职责
1. GPU算子库和通信库开发和优化，如CUTLASS等计算库，NCCL通信库。 2. 熟练使用性能分析工具、模拟器和测试套件对软件性能进行分析、可视化与优化。 3. 积极与相关团队合作，交付高度优化的计算/通信库，提升模型推理的整体性能。
具体职责包括但不限于： 1.嵌入式/边缘AI推理计算的软件生态方案选择，SDK和软件框架方案设计和开发 2.异构核并行计算中间件软件的设计，开发，和性能优化，包括Runtime，调度等 3.AI和感知算法在异构核上的部署和优化（包括算力分配，算子融合，各种流水线并行，核间通信等），效果测试 4.应用解决方案的软件设计和开发，包括结合云的端云协同仿真器，模拟器、调试器、IDE开发和性能优化
具体职责包括但不限于： 1.嵌入式/边缘AI推理计算的软件生态方案选择，SDK和软件框架方案设计和开发 2.异构核并行计算中间件软件的设计，开发，和性能优化，包括Runtime，调度等 3.AI和感知算法在异构核上的部署和优化（包括算力分配，算子融合，各种流水线并行，核间通信等），效果测试 4.应用解决方案的软件设计和开发，包括结合云的端云协同仿真器，模拟器、调试器、IDE开发和性能优化
具体职责包括但不限于： 1.嵌入式/边缘AI推理计算的软件生态方案选择，SDK和软件框架方案设计和开发 2.异构核并行计算中间件软件的设计，开发，和性能优化，包括Runtime，调度等 3.AI和感知算法在异构核上的部署和优化（包括算力分配，算子融合，各种流水线并行，核间通信等），效果测试 4.应用解决方案的软件设计和开发，包括结合云的端云协同仿真器，模拟器、调试器、IDE开发和性能优化
1. 负责大模型在端侧/边缘设备的高效部署，优化多模型部署、多任务调度、多线程/多进程加速，提升推理性能与资源利用率。 2. 基于主流Agent框架，设计端侧Agent运行时架构与产品方案；优化Agent上下文管理（包括上下文窗口、缓存策略、压缩算法），提升长对话和复杂任务的执行效率等。 3. 深入分析端侧AI软件栈和芯片微架构性能瓶颈（如核心利用率、内存带宽、指令流水线等），持续输出优化建议，推动芯片架构和SDK持续优化。