理想汽车基座模型-大模型引擎实习生-北京/杭州
任职要求
1. 本科及以上学历，计算机及相关专业； 2. 熟练使用C/C++/python，熟练掌握常用数据结构和算法； 3. 有AI相关的项目经验：熟悉常用的神经网络结构，熟悉vllm、sglang、TensorRT-LLM等大模型推理框架，有落地经验者尤佳； 4. 具…
工作职责
1. 负责大模型推理过程的性能评测和分析，找到优化空间； 2. 参与Deepseek V3/R1模型的推理优化；
传统的AI搜索依然基于RAG框架，少有的几个Agent框架也只涉及QueryPlanning，距离真实解决搜索中的实际问题还相距很远，例如做旅游攻略、做行业研究报告等等。我们判断，虽然当下LLM已经大范围的用于搜索领域，但是下一代的搜索技术变革一定是基于Agent的。本课题旨在研究基于Agent框架的基座模型。
在搜索等实际线上业务中，推理速度限定了线上可用的模型大小以及可达效果，当前的基于transformer架构的大模型基座在推理速度上存在系统性瓶颈。本课题探索基于创新框架，如diffusion LLM和linear attention model的大模型基座范式，从数据、模型预训练、后训练、AI Infra、评测等方向探索模型效果极限。
-围绕大模型打造次世代的智能对话能力，例如实体抽取，意图识别、上下文记忆，多对话引擎切换 -建设文档问答、表格问答、FAQ等基于知识的对话能力，如 NL2SQL、Agentic-RAG -建设新一代数字员工产品，熟悉智能体基座模型领域，有机会研发遵循SOP执行的营销对话智能体 -梳理业务场景的会话，整理成训练大模型需要的训练数据，优化大模型专项能力（数值计算、日期比较、任务规划、工具选择等） -探索高性能，低成本的对话实现，最大化客户价值
-围绕大模型打造次世代的智能对话能力，例如实体抽取，意图识别、上下文记忆，多对话引擎切换 -建设文档问答、表格问答、FAQ等基于知识的对话能力，如 NL2SQL、Agentic-RAG -建设新一代数字员工产品，熟悉智能体基座模型领域，有机会研发遵循SOP执行的营销对话智能体 -梳理业务场景的会话，整理成训练大模型需要的训练数据，优化大模型专项能力（数值计算、日期比较、任务规划、工具选择等） -探索高性能，低成本的对话实现，最大化客户价值