阿里云阿里云智能-大模型前沿部署工程师(通用场景)-北京/上海/杭州/广州/深圳
任职要求
本科及以上学历,计算机、人工智能、软件工程等相关专业,具备2年以上工作经验; 熟练掌握Python/Java编程语言,并具备工程能力与系统思维,有大模型项目落地经验者优先,熟悉阿里云大模型平台(AI Studio、百炼、PAI)、通义系列产品者优先; 熟悉掌握主流大模型技术栈,包括Context Engineering、RAG、Tool Use、MCP、Agent Workflow、DeepResearch、DeepSearch、Agen…
工作职责
深入重点客户业务场景,快速识别其对大模型技术的需求场景,例如知识问答、办公提效、内容生成、智能研发、辅助编程、多模态识别和生成等,端到端完成需求分析、总体方案设计、架构设计、组件研发、数据集成、系统集成等工作,推动通义千问系列模型在行业场景的落地; 主导大模型项目落地的关键技术工作,包括场景需求收集、数据解析与处理、知识抽取与向量化、RAG开发、Agent 流程编排等,协助客户完成模型选型、系统对接、用量监控、成本优化与效果迭代,确保客户可直观感知模型价值; 开发辅助工具代码降低客户接入门槛,例如测试工具、效果评测工具、数据处理工具、API 调用示例及 Demo 应用; 输出大模型落地方法论与最佳实践,包括 Prompt 模板库、RAG 优化策略、Agent 设计模式等,支持客户自主运营与规模化复制。
深入重点客户业务场景,快速识别其对大模型技术的需求场景,例如知识问答、办公提效、内容生成、智能研发、辅助编程、多模态识别和生成等,端到端完成需求分析、总体方案设计、架构设计、组件研发、数据集成、系统集成等工作,推动通义千问系列模型在行业场景的落地; 主导大模型项目落地的关键技术工作,包括场景需求收集、数据解析与处理、知识抽取与向量化、RAG开发、Agent 流程编排等,协助客户完成模型选型、系统对接、用量监控、成本优化与效果迭代,确保客户可直观感知模型价值; 开发辅助工具代码降低客户接入门槛,例如测试工具、效果评测工具、数据处理工具、API 调用示例及 Demo 应用; 输出大模型落地方法论与最佳实践,包括 Prompt 模板库、RAG 优化策略、Agent 设计模式等,支持客户自主运营与规模化复制。
团队介绍:广告业务原为商业产品与技术部门,为抖音集团的商业变现提供广告产品与技术,负责端到端大型广告系统建设,覆盖抖音、今日头条、西瓜视频、番茄小说、穿山甲等产品矩阵,践行"激发生意新可能"理念,致力于让营销更省心、更高效、更美好,推动商业的可持续增长,让不分体量、地域的企业及个体,都能通过数字化技术激发创造、驱动生意。连接广告主、用户及生态伙伴、成为开放共赢的全球最佳智能营销平台之一。在这里,你将投身建设面向未来的数字营销能力,接触到全球先进的商业产品架构、模型和算法,在互联网广告行业始终创新。 课题背景: 随着人工智能技术的快速发展,大模型技术在交易与广告场景中的应用日益广泛,已成为推动行业创新和效率提升的重要驱动力。大模型凭借其强大的学习能力和泛化性能,在多个领域展现出显著优势。例如,推荐大模型能够精准捕捉用户偏好,提升个性化推荐效果;AIGC(AI-Generated Content)技术可用于广告创意、商品图片和视频生成,大幅降低创作成本并提升内容质量;广告投放诊断系统和诊断助手帮助优化投放策略;智能客服、影片智能剪辑、智能导购、大模型审核、用户序列建模以及多模态广告和用户理解等应用,则通过自然语言处理、多模态数据融合等技术,提升用户体验和业务效率。 然而,交易与广告场景对大模型系统的要求极高,不仅需要模型具备出色的精度和泛化能力,还需在实时性、稳定性、可扩展性等方面满足严苛标准。特别是在大规模分布式训练、推理加速、异构硬件支持、多模态数据处理以及系统集成等方面,存在诸多技术难点。因此,针对交易与广告场景研发和优化大模型系统,不仅是人工智能技术发展的前沿方向,也是行业应用的迫切需求。本课题旨在通过系统和工程领域的深入研究,突破关键技术瓶颈,构建高效、稳定、可扩展的大模型解决方案,为交易与广告场景提供强有力的技术支撑。 课题挑战: 1、大规模分布式训练加速:大模型训练需处理海量数据和高复杂度计算,导致训练耗时长、资源需求大。如何优化分布式训练架构,提升数据并行、模型并行和流水线并行的效率,是首要技术难题。 2、推理加速和性能优化:交易与广告场景对实时性要求极高,如广告投放需毫秒级决策。如何在资源受限环境下通过模型压缩和推理引擎优化实现快速推理,是关键挑战。 3、异构硬件支持:大模型需适配多种硬件平台。如何实现高效部署和负载均衡,确保跨硬件精度一致性和高性能,是技术难点。 4、编译优化:编译优化是过程复杂,如何开发高效编译器,优化长尾/灵活模型或结构在不同Accelerator执行效率并减少延迟,是亟待解决的问题。 5、Agent工程:智能客服和导购等应用需构建自主决策的AI Agent。如何设计高效的Agent系统,支持复杂任务执行,是前沿挑战。 6、强化学习框架:强化学习在广告投放优化等场景中潜力巨大。如何构建高效框架,支持大规模环境训练和推理,是研究难点。 课题内容: 1、大规模分布式训练加速技术 1)研究数据并行、模型并行和混合并行算法,优化训练效率; 2)开发自适应负载均衡机制,减少资源浪费; 3)探索梯度压缩和通信优化技术,降低网络开销; 2、推理加速与性能优化方法 1)研究模型压缩技术(如量化、剪枝),减小模型体积; 2)开发高效推理引擎,支持批量推理和异步处理; 3)针对不同Accelerator的架构加速推理过程; 3、异构硬件支持与优化 1)设计通用部署框架,支持多硬件无缝集成; 2)开发硬件感知调度算法,优化任务分配; 3)研究跨硬件模型迁移技术,确保精度一致; 4、编译优化技术 1)深入优化模型编译器,优化长尾场景的计算开销; 2)研究图优化和算子融合技术,减少计算开销; 3)探索动态优化方法,提升运行时效率; 5、Agent工程与实现 1)设计模块化Agent架构,支持任务分解和决策; 2)开发多模态交互技术,提升用户体验; 3)研究Agent训练与评估方法,优化复杂场景性能; 6、强化学习框架构建 1)开发高效强化学习算法,支持多智能体协作; 2)针对交易与广告场景的训练场景优化训练速度,提升迭代效率; 3)探索强化学习在广告投放中的应用,提升决策效果。
公司介绍 滴滴于 2016 年组建自动驾驶技术研发部门,致力于打造世界领先的 L4 级自动驾驶技术,通过科技让出行更安全、更高效。我们相信,将自动驾驶技术部署在共享出行车队中,将创造最大的社会价值。依托滴滴在出行领域的 先进技术、海量数据、丰富经验和完整的出行平台生态,我们正在打造并运营世界领先的自动驾驶 Robotaxi 车队,推动自动驾驶在城市复杂交通场景中的规模化落地。 职位描述 作为感知团队的一员,你将与国内外顶尖人才一起,研究和开发自动驾驶领域的前沿算法,直接赋能 L4 Robotaxi 的大规模部署。 你将面向真实城市道路场景中的多样化挑战,利用多模态传感器(LiDAR、Camera、Radar 等)设计、开发并优化感知算法,解决物体识别、障碍物检测、场景理解、意图预测与大模型赋能等核心问题。 在这里,你将有机会: 与中美两地的优秀工程师和科学家合作,参与世界级的技术竞争; 深入研究并推动最前沿的学术成果在产业中的落地; 在全球最大出行平台之一的业务场景中,实现科研成果的规模化应用。 主要方向与职责: 你将在以下方向中选定一个或多个方向深入负责,并承担从研发到落地、从算法到系统的端到端职责: (一)物体识别与跟踪 设计并实现基于 LiDAR / Camera / Radar 的多模态检测模型,识别车辆、行人、自行车、静态障碍物、交通标志等 提升精度、召回率与抗扰性(抗遮挡、夜间、恶劣天气、长尾类别) (二)通用障碍物识别 识别未知类别 /未训练类别的障碍物 基于异常检测 /开放类别识别的算法研究与工程实现 在非结构化环境(施工区域、道路损坏、落物等)中提升鲁棒性 (三)场景和意图理解 语义分割、实例分割、道路 /车道/交通标志/交通灯等结构物识别 场景理解,例如施工区域识别、可通行区域识别等 意图理解,例如行人动作识别、起步意图识别等 交互和事件识别,例如多方交互、交通规则冲突、非规范驾驶行为等 (四)感知大模型 /多模态 探索或应用预训练多模态大模型,将视觉、语言、地图/文本信息融合以增强感知能力 零样本 / 少样本 / 跨域泛化的策略研发 将大模型成果迁移到真实车队感知系统中,提升复杂场景下的鲁棒性 (五)模型评估、验证 构建完整的评估管道,包括离线评估 + 真实道路 + 模拟环境测试,支持回归检测与性能监控 指标体系设计 (Precision, Recall, IoU, latency, false positives rate 等)
-大模型落地与演进: 主导多模态大语言模型(MLLM/VLM)在垂直业务场景的落地。负责构建从数据合成、SFT 到 RLHF 的自动化演进闭环,解决长尾场景下的模型泛化与持续迭代难题 -前沿感知算法攻坚: 负责视频动作识别、时空行为分析及具身感知等核心算法的预研与突破。结合业务痛点,提升智能体在复杂物理环境中的理解与决策能力,刷新业务 SOTA -极致工程化与部署: 负责算法模型在**端侧(Edge)**与云端的高性能部署。通过算子优化、模型量化及异构计算适配(TensorRT/NPU),打造高吞吐、低延迟的推理引擎,支撑产品规模化商用 -技术沉淀与影响力: 负责关键技术难点的攻关与复盘,沉淀通用算法资产与行业解决方案。通过高质量专利、技术白皮书及顶会论文,推动技术标准建设,提升团队行业影响力