平头哥平头哥-AI 框架技术专家-北京
任职要求
1. 硕士以上,计算机科学相关专业, 至少8+年AI领域相关的开发经验。 2. 熟练掌握Python、C/C++编程语言,掌握AI Vibe Coding技术,良好的逻辑思维与问题分析能力 3. 熟悉SOTA大语言模型、多模态模型、VLA模型的架构与原理 4. 熟悉主流深度学习框架Pytorch、Tensor…
工作职责
1. 在AI 芯片上适配SOTA开源框架和SOTA模型,分析解决适配过程中发现的功能、性能与精度问题,为AI芯片客户提供问题支持和解决方案 2. 对SOTA模型和框架做原理分析,竞对分析、构建差异化产品竞争力,贡献开源社区提升产品影响力 3. 构建SOTA模型和框架端到端粒度、算子粒度、Kernel粒度的仿真框架,在芯片设计阶段提前发现精度、性能问题,保障芯片设计成功
1. 主导端侧AI推理框架的整体架构设计与核心模块开发,支持Omni、Speech、VLM等多模态大模型在资源受限设备上的高效运行。 2. 深度优化模型推理性能,包括但不限于算子融合、内存复用、图优化、量化(INT8/INT4)、稀疏化、编译优化(如MLIR/TVM)等关键技术。 3. 针对高通、地平线、MTK、NVIDIA、华为昇腾等主流芯片平台,进行定制化适配与极致性能调优,实现低延迟、低功耗、高吞吐的推理能力。 4. 构建端侧多模态任务调度与资源管理机制,支持语音识别、视觉理解、对话生成等多模型并发执行与协同推理。 5. 与算法、系统、硬件及客户解决方案团队紧密协作,推动从模型训练到端侧部署的端到端Pipeline打通。 6. 跟踪业界前沿技术(如WebNN、ONNX Runtime Mobile、TensorRT-LLM、ExecuTorch等),引入先进工具链与优化策略。
1. 在AI 芯片上适配SOTA开源框架和SOTA模型,分析解决适配过程中发现的功能、性能与精度问题,为AI芯片客户提供问题支持和解决方案 2. 对SOTA模型和框架做原理分析,竞对分析、构建差异化产品竞争力,贡献开源社区提升产品影响力 3. 构建SOTA模型和框架端到端粒度、算子粒度、Kernel粒度的仿真框架,在芯片设计阶段提前发现精度、性能问题,保障芯片设计成功

1. 在AI 芯片上适配SOTA开源框架和SOTA模型,分析解决适配过程中发现的功能、性能与精度问题,为AI芯片客户提供问题支持和解决方案 2. 对SOTA模型和框架做原理分析,竞对分析、构建差异化产品竞争力,贡献开源社区提升产品影响力 3. 构建SOTA模型和框架端到端粒度、算子粒度、Kernel粒度的仿真框架,在芯片设计阶段提前发现精度、性能问题,保障芯片设计成功