腾讯视觉多模态理解与生成大模型算法研究员

1.作为视觉领域的专家，与其它模态研究者共同参与创新的原生多模态大模型研究，包括创新模型架构、“2D+时间”和“3D+时间”大模型建模等； 2.探索对真实物理世界进行理解和生成、多模态推理及自进化持续学习的大模型； 3.关注学术界和行业最新研究动态，参与国际会议、研讨会，与全球顶级团队交流合作； 4.将研究成果向社区发布或技术转移至内部产品部门。

公司介绍 滴滴于 2016 年组建自动驾驶技术研发部门，致力于打造世界领先的 L4 级自动驾驶技术，通过科技让出行更安全、更高效。我们相信，将自动驾驶技术部署在共享出行车队中，将创造最大的社会价值。依托滴滴在出行领域的 先进技术、海量数据、丰富经验和完整的出行平台生态，我们正在打造并运营世界领先的自动驾驶 Robotaxi 车队，推动自动驾驶在城市复杂交通场景中的规模化落地。 职位描述 作为感知团队的一员，你将与国内外顶尖人才一起，研究和开发自动驾驶领域的前沿算法，直接赋能 L4 Robotaxi 的大规模部署。 你将面向真实城市道路场景中的多样化挑战，利用多模态传感器（LiDAR、Camera、Radar 等）设计、开发并优化感知算法，解决物体识别、障碍物检测、场景理解、意图预测与大模型赋能等核心问题。 在这里，你将有机会： 与中美两地的优秀工程师和科学家合作，参与世界级的技术竞争； 深入研究并推动最前沿的学术成果在产业中的落地； 在全球最大出行平台之一的业务场景中，实现科研成果的规模化应用。 主要方向与职责： 你将在以下方向中选定一个或多个方向深入负责，并承担从研发到落地、从算法到系统的端到端职责： （一）物体识别与跟踪 设计并实现基于 LiDAR / Camera / Radar 的多模态检测模型，识别车辆、行人、自行车、静态障碍物、交通标志等 提升精度、召回率与抗扰性（抗遮挡、夜间、恶劣天气、长尾类别） （二）通用障碍物识别 识别未知类别 /未训练类别的障碍物 基于异常检测 /开放类别识别的算法研究与工程实现 在非结构化环境（施工区域、道路损坏、落物等）中提升鲁棒性 （三）场景和意图理解 语义分割、实例分割、道路 /车道/交通标志/交通灯等结构物识别 场景理解，例如施工区域识别、可通行区域识别等 意图理解，例如行人动作识别、起步意图识别等 交互和事件识别，例如多方交互、交通规则冲突、非规范驾驶行为等 （四）感知大模型 /多模态 探索或应用预训练多模态大模型，将视觉、语言、地图/文本信息融合以增强感知能力 零样本 / 少样本 / 跨域泛化的策略研发 将大模型成果迁移到真实车队感知系统中，提升复杂场景下的鲁棒性 （五）模型评估、验证 构建完整的评估管道，包括离线评估 + 真实道路 + 模拟环境测试，支持回归检测与性能监控 指标体系设计 (Precision, Recall, IoU, latency, false positives rate 等)

负责图像、视频内容理解相关的大模型研发工作，包括但不限于视觉描述生成（Video Caption）、视觉问答（VQA）、多模态大模型（MLLM）等技术，通过内容理解相关算法在业务中的探索与应用，解决实际业务问题；

职位描述 面向淘天自营业务场景，探索大模型与推荐算法结合的下一代推荐系统技术，充分利用大模型的领域知识和学习范式为推荐系统注入新动力，包括但不限于生成式推荐、模型Scaling Law、用户超长序列建模等，解锁更大的算法提升空间； 1.负责大语言模型、多模态大模型的训练，探索预训练表征的高效处理方式以及与推荐系统的结合方式，让推荐系统充分理解世界知识； 2.基于类Transformer架构的设计和升级推荐大模型，验证推荐的Scaling Law，探索兼顾性能和效果的模型技术，持续提升业务场景效果； 3.结合业务目标和场景特点，探索并利用大语言模型技术对现有推荐系统的各环节进行优化改进，探索并开发生成式推荐系统技术，提升用户体验，实验业务价值； 4.持续关注行业内人工智能技术的发展趋势，结合业界前言技术和业务需求，和工程同学一起探索&打造大模型应用的最佳实践，提升业务效果和用户体验；