小鹏汽车VLM Research Intern
任职要求
1、计算机、人工智能、自动化等相关专业硕士及以上学历; 2、具备扎实的深度学习基础,熟悉Transformer、BERT、ViT、CLIP等主流视觉-语言模型架构; 3、有大模型 VLM 的训练/微调/推理优化经验,熟悉其在多模态任务中的应用; 4、熟练使用Pytorch深度学习框架,具备良好的工程能力和代码实现能力; 5、良好的团队协作与沟通能力,具备快速学习和解决问题的能力。 【加分项】 1、有使用大语言模型进行数据合成(Data synthesis)的相关经验; 2、对大语…
工作职责
1、负责大模型 VLM: Vision-Language Model在人形机器人中的算法设计与开发,将VLM应用于人形机器人的对话、环境感知与人机交互任务; 2、参与大模型的Pretrain与Mid-training(long-context training),并利用数据合成技术打造高质量的预训练/后训练数据集; 3、与机器人平台团队、硬件团队紧密协作,实现模型在实际机器人系统中的高效运行; 4、跟踪前沿研究,推动新技术在产品中的落地应用。
公司介绍 滴滴于 2016 年组建自动驾驶技术研发部门,致力于打造世界领先的 L4 级自动驾驶技术,通过科技让出行更安全、更高效。我们相信,将自动驾驶技术部署在共享出行车队中,将创造最大的社会价值。依托滴滴在出行领域的 先进技术、海量数据、丰富经验和完整的出行平台生态,我们正在打造并运营世界领先的自动驾驶 Robotaxi 车队,推动自动驾驶在城市复杂交通场景中的规模化落地。 职位描述 作为感知团队的一员,你将与国内外顶尖人才一起,研究和开发自动驾驶领域的前沿算法,直接赋能 L4 Robotaxi 的大规模部署。 你将面向真实城市道路场景中的多样化挑战,利用多模态传感器(LiDAR、Camera、Radar 等)设计、开发并优化感知算法,解决物体识别、障碍物检测、场景理解、意图预测与大模型赋能等核心问题。 在这里,你将有机会: 与中美两地的优秀工程师和科学家合作,参与世界级的技术竞争; 深入研究并推动最前沿的学术成果在产业中的落地; 在全球最大出行平台之一的业务场景中,实现科研成果的规模化应用。 主要方向与职责: 你将在以下方向中选定一个或多个方向深入负责,并承担从研发到落地、从算法到系统的端到端职责: (一)物体识别与跟踪 设计并实现基于 LiDAR / Camera / Radar 的多模态检测模型,识别车辆、行人、自行车、静态障碍物、交通标志等 提升精度、召回率与抗扰性(抗遮挡、夜间、恶劣天气、长尾类别) (二)通用障碍物识别 识别未知类别 /未训练类别的障碍物 基于异常检测 /开放类别识别的算法研究与工程实现 在非结构化环境(施工区域、道路损坏、落物等)中提升鲁棒性 (三)场景和意图理解 语义分割、实例分割、道路 /车道/交通标志/交通灯等结构物识别 场景理解,例如施工区域识别、可通行区域识别等 意图理解,例如行人动作识别、起步意图识别等 交互和事件识别,例如多方交互、交通规则冲突、非规范驾驶行为等 (四)感知大模型 /多模态 探索或应用预训练多模态大模型,将视觉、语言、地图/文本信息融合以增强感知能力 零样本 / 少样本 / 跨域泛化的策略研发 将大模型成果迁移到真实车队感知系统中,提升复杂场景下的鲁棒性 (五)模型评估、验证 构建完整的评估管道,包括离线评估 + 真实道路 + 模拟环境测试,支持回归检测与性能监控 指标体系设计 (Precision, Recall, IoU, latency, false positives rate 等)
1.利用计算机视觉和人工智能技术,改进点评笔记、评价等多个点评创作产品的创作体验。 2.参与研发以计算机视觉和人工智能技术为核心的创新型内容玩法。 3.探索MLLM,LLM,VLM等相关算法前沿,应用于业务并解决实际业务问题。 4.负责对业务场景下相关技术问题进行分析、算法设计和上线,全面参与并推动各环节的高效运行,以实现持续的业务价值提升。 5.研究并开发智能Agent系统,优化用户与AI系统的交互体验。
1. 负责大模型算法(LLM/VLM)、Agent应用算法和其他深度学习算法在不同业务场景的标准服务化工作; 2. 打通从算法模型或脚本,到标准化可部署的生产级算法服务,并保障服务稳定性和可扩展性; 3. 服务部署硬件包含CPU、GPU(英伟达或其他国产),应用环境包含公有云(例如阿里云等)或客户私有化环境。私有化部署方面能解决代码和模型安全问题。