地平线【地瓜机器人】大模型技术专家
社招全职算法序列地点：北京状态：招聘
任职要求
1. 大模型端侧推理加速方向深厚的功底和经验，熟悉kv cache、低比特量化、flash-attention、投机采样、稀疏化等 2. 熟悉常见开源大模型推理框架，如vllm、tensorrt-llm、mcl、l…
登录查看完整任职要求
微信扫码，1秒登录
工作职责
负责机器人领域端侧大模型的研发和应用，研判大模型未来发展趋势为后续芯片NPU规划提供输入。主要工作方向包括： 1. 探索LLM、VLM、VLA大模型在端侧性能与精度极限 2. 跟进与判断大模型发展趋势为后续芯片NPU规划提供输入
包括英文材料
大模型+
https://www.youtube.com/watch?v=xZDB1naRUlk
You will build projects with LLMs that will enable you to create dynamic interfaces, interact with vast amounts of text data, and even empower LLMs with the capability to browse the internet for research papers.
https://www.youtube.com/watch?v=zjkBMFhNj_g
缓存+
https://hackernoon.com/the-system-design-cheat-sheet-cache
The cache is a layer that stores a subset of data, typically the most frequently accessed or essential information, in a location quicker to access than its primary storage location.
https://www.youtube.com/watch?v=bP4BeUjNkXc
Caching strategies, Distributed Caching, Eviction Policies, Write-Through Cache and Least Recently Used (LRU) cache are all important terms when it comes to designing an efficient system with a caching layer.
https://www.youtube.com/watch?v=dGAgxozNWFE
vLLM+
https://www.newline.co/@zaoyang/ultimate-guide-to-vllm--aad8b65d
vLLM is a framework designed to make large language models faster, more efficient, and better suited for production environments.
https://www.youtube.com/watch?v=Ju2FrqIrdx0
vLLM is a cutting-edge serving engine designed for large language models (LLMs), offering unparalleled performance and efficiency for AI-driven applications.
还有更多 •••
相关职位
社招软件序列
1、负责地瓜芯片平台算法工具链、算法参考方案的开发和维护。 2、负责大客户的芯片算法工具链的技术交流，承接定制化需求开发和问题支持; 3、跟踪机器人算法趋势，承担LLM/VLM等新算法在地瓜芯片平台的调优和部署； 4、挖掘和掌握客户需求，了解行业竞品发展趋势、分析评测等工作。
更新于 2025-02-10北京|南京
社招5年以上芯片序列
岗位职责： 1. 研究分析模型算法和关键benchmark，分析算法需求，对模型在NPU上进行部署的性能进行评估和校准，为算法和NPU的协同优化提供数据和方案。 2. 对NPU架构及微架构进行建模，实现对NPU架构微架构的探索评估和优化，协同设计团队优化PPA，提升芯片的计算效率和能效比。 3. 针对多核大算力场景的特定需求，进行benchmark的性能分析和优化，确保benchmark性能的线性提升。 4. 通过开发API，脚本，自动化工具等方法进行性能评估的优化迭代，帮助提升开发效率 5. 与算法团队、硬件团队和工具链团队紧密合作，确保模型算法在NPU上的高效部署
更新于 2025-10-20北京|上海