logo of horizon

地平线【地瓜机器人】大模型部署工程师

社招全职芯片序列地点:北京 | 南京状态:招聘

任职要求


岗位要求:
3. 熟练使用c++python
4. 有大模型的开发经验,熟悉大模型的相关基础
5. 熟悉大模型加速技术,如kv cache、模型量化、flash-attention、推理并行、投机采样等
加分项:
6. 熟悉常见一种开源社区的大模型推理框架,如vllmtensorrt-llmlmdeployllama.cpp等
7. 有ai编译器开发、算子开发经验
8. 有大模型推理加速经验
9. 有vlm云端或端侧部署经验者优先

工作职责


岗位描述:
1. 参与大模型端侧部署工作
2. 参与大模型的量化优化、推理加速等性能优化工作
包括英文材料
C+++
Python+
大模型+
缓存+
vLLM+
TensorRT+
LMDeploy+
llama.cpp+
相关职位

logo of horizon
社招软件序列

1、负责地瓜芯片平台算法工具链、算法参考方案的开发和维护。 2、负责大客户的芯片算法工具链的技术交流,承接定制化需求开发和问题支持; 3、跟踪机器人算法趋势,承担LLM/VLM等新算法在地瓜芯片平台的调优和部署; 4、挖掘和掌握客户需求,了解行业竞品发展趋势、分析评测等工作。

更新于 2025-02-10
logo of horizon
社招算法序列

1、参与前沿算法部署:视觉算法模型导出,量化,工程部署与优化,应用示例开发。 2、参与算法方案交付工作:构建算法业务流,算法方案迭代与测试,交付工作支持。 3、探索机器人的无限可能,将各类算法或开源项目应用于机器人,探索具身智能。

更新于 2025-09-29
logo of horizon
社招算法序列

负责机器人领域端侧大模型的研发和应用,研判大模型未来发展趋势为后续芯片NPU规划提供输入。主要工作方向包括: 1. 探索LLM、VLM、VLA大模型在端侧性能与精度极限 2. 跟进与判断大模型发展趋势为后续芯片NPU规划提供输入

更新于 2025-08-18
logo of horizon
社招软件序列

【岗位职责】 1、负责构建端侧LLM、VLM、VLA评测系统,深入评估不同量化方式效果 2、分析端侧不同平台大模型性能差异;

更新于 2025-09-19