腾讯QClaw-端侧AI模型推理加速专家(深圳/北京/上海)
任职要求
1.熟悉 PC、手机端 CPU/GPU/NPU 异构开发,掌握 Intel OpenVINO、AMD Ryzen AI、移动端 NPU 加速技术,具备端侧推理加速实战经验; 2.深入理解大模型基础架构,熟悉端侧推理核心性能瓶颈,精通量化、算子优化、内存调度、模型蒸馏等主流轻量化优化方案; 3.熟练掌握 C/C++、Python,熟悉 Win…
工作职责
1.聚焦办公 PC、手机消费级终端大模型推理优化,负责端侧推理引擎性能调优,保障本地离线大模型平稳高效运行; 2.运用模型蒸馏、量化压缩、KV 缓存优化等轻量化技术,在保证效果前提下,降低端侧推理延迟、内存占用与硬件功耗; 3.负责端侧模型格式转换、算子适配与PC / 手机异构算力调度,充分调用 CPU、独显、端侧 NPU 算力,最大化设备推理性能; 4.对接 Intel、AMD 桌面端 AI 生态,适配本地推理服务框架,完成与上层业务框架快速集成落地; 5.梳理 PC 与手机端推理性能瓶颈,输出标准化优化方案,协同团队完成本地大模型方案规模化落地; 6.持续跟进桌面端、移动端轻量化推理前沿技术,优化本地离线推理体验。
1.本岗位可以base广州or深圳; 2.负责macOS&Windows工具产品客户端功能的方案设计、研发实现; 3.负责macOS&Windows的新特性技术预研、模块性能优化等。
1.负责 PC 端(Windows 平台)客户端产品的核心模块研发,包括需求对接、技术方案设计、架构迭代及落地实现,保障产品功能完整性与技术先进性; 2.基于 C/C++、QT 框架进行高性能代码开发,主导或参与模块设计、接口定义、代码编写与单元测试,确保代码质量、可维护性及扩展性; 3.负责客户端产品的性能优化与稳定性保障,针对内存泄漏、卡顿、崩溃等问题进行深度排查与修复,持续提升产品运行效率; 4.深入理解 Windows 系统底层机制,解决客户端与系统交互、进程通信、资源调度等复杂技术问题; 5.参与需求评审、技术方案讨论,配合产品、测试团队推进项目迭代,及时响应并解决研发及测试阶段的技术卡点; 6.沉淀研发经验,编写技术文档、接口手册及故障排查指南,参与团队技术分享,推动研发流程规范化与技术能力提升。
1.负责 PC 端(Windows 平台)客户端产品的核心模块研发,包括需求对接、技术方案设计、架构迭代及落地实现,保障产品功能完整性与技术先进性; 2.基于 C/C++、QT 框架进行高性能代码开发,主导或参与模块设计、接口定义、代码编写与单元测试,确保代码质量、可维护性及扩展性; 3.负责客户端产品的性能优化与稳定性保障,针对内存泄漏、卡顿、崩溃等问题进行深度排查与修复,持续提升产品运行效率; 4.深入理解 Windows 系统底层机制,解决客户端与系统交互、进程通信、资源调度等复杂技术问题; 5.参与需求评审、技术方案讨论,配合产品、测试团队推进项目迭代,及时响应并解决研发及测试阶段的技术卡点; 6.沉淀研发经验,编写技术文档、接口手册及故障排查指南,参与团队技术分享,推动研发流程规范化与技术能力提升。