蚂蚁金服蚂蚁集团-端智能agent安全策略专家-平台风险管理
任职要求
1.硕士研究生及以上学历,计算机、人工智能、软件、信息安全、统计和数学专业优先 2.具有大模型/算法等工作经历优先,有机器学习、多模态、大模型、Agent等经历者优先。 3.…
工作职责
1.agent整体安全方案设计:全链路设计端智能agent安全管控机制,包括供给安全、违规内容、xUI安全、意图护栏、调用管控、网络防御等,搭建对用户违规输入及模型违规输出的风险识别管控体系,确保复杂场景下的agent安全可控。 2.大模型攻击研究:研究端智能agent在多工具调用、RAG、memory、链式推理等复杂环境中的攻击面与潜在风险,识别敏感数据泄漏、工具滥用、意图篡改、海绵攻击、数据投毒、越狱攻击等新型威胁。 3.agent安全评测体系建设:基于端智能agent搭建风险知识体系,构建行业难题库及对抗样本生成工具,设计可复现的评测流程持续验证模型安全性与误杀表现。
1. 参与千问/夸克APP 智能对话AI产品研发,构建基于大模型驱动的Agent应用(对话/任务/多模态等); 2. 参与对话式产品后端核心架构设计和迭代,构建高可用、低延迟的AI应用基础设施; 3. 协同算法、产品、前端等多团队,将前沿AI能力转化为产品能力,提升体验。
【关于我们】 小红书电商正处于高速发展阶段。我们希望把大模型能力真正融入用户购物链路和商家服务场景中,而不是停留在“接一个模型接口”。 #团队当前聚焦于以下方向: - 面向客服/售后场景的智能机器人、知识辅助与服务提效 - 基于 RAG、Agent、多轮会话和流式交互的新一代 AI Native 应用 - 多终端、多模态场景下的自然交互与 Generative UI 探索 - 我们正在寻找一位具备具备全栈工程能力的技术同学。 如果你既关注浏览器、渲染、交互和体验,也能深入服务端、模型编排、知识检索、性能优化和工程效能,欢迎加入我们,一起定义 AI 在电商中的下一代交互形态。 #岗位职责 1)负责 AI Native 产品的全栈设计与研发落地 围绕小红书智能客服系统,负责从方案设计、技术架构到前后端实现的完整研发工作,推动 AI 能力稳定上线并持续演进。 2)将大模型能力转化为真实可用的产品体验 结合 Prompt Engineering、RAG、Tool Calling / Agent、多轮会话等能力,设计并落地适用于导购、售后、客服辅助等场景的 AI 交互方案,让模型能力真正服务用户与业务。 3)负责复杂交互与全链路性能优化 面向高并发电商业务,优化前端渲染性能、流式响应体验、长连接交互、服务端响应时延与系统稳定性,保障多终端场景下的高可用与一致性。 4)推动 AI 工程化与研发提效 将 AI 能力融入研发流程,包括代码辅助、测试生成、知识沉淀、自动化脚本等方向,提升团队整体研发效率与交付质量。 5)参与技术选型与团队技术建设 持续关注 AI Native 应用、前端渲染、生成式 UI、Agent、富媒体交互等方向,参与关键技术决策,沉淀最佳实践并影响团队技术文化。
我们正在重新定义“千问”:从一个博学的对话者进化为具备执行力的数字实体。我们的核心使命是构建一套统一的认知架构,打破模型与现实世界的壁垒。通过 Skill-based Agent 技术,实现从“语义理解”到“任务闭环”的跨越,让 AI 真正深入生产力场景,实现数字世界与物理世界的高效连接 1. 统一认知架构设计与能力演进: - 深度对接阿里集团内部及外部第三方服务,设计并实现高效、稳定的 Agent 框架。负责将复杂的业务逻辑抽象为可插拔的配置、标准化的工具,供大模型理解与调用。 - 设计 skill-based 【统一Agent】架构,实现长程规划与自我反思能力的统一认知架构,以协调内部的推理、记忆和执行模块,实现统一智能体在跨场景、长链条任务上的优异表现。 - 推动并构建一个动态的“千问能办” skill library,将海量、异构的原子能力抽象为该统一智能体可学习、可组合、可泛化的skill,探索自动化技能发现与组合优化的前沿方法。 2. 核心场景算法优化: ⁃长程规划与决策优化: 针对复杂复合需求,研发先进的任务分解与多步推理算法,解决长链条执行中的错误积累与漂移问题。 -Agentic-RL 策略: 构建基于 环境反馈的强化学习(RLHB/RLAIF) 体系,通过在模拟环境中的大规模探索,提升 Agent 在极端场景下的鲁棒性与决策上限。 -领域知识注入: 针对高频场景(学习、办公、生活)进行长程预训练与持续学习,让 Agent 不仅拥有通用逻辑,更具备深度的行业专家意识。 3. 实际需求驱动迭代: - 建立科学、全面的Agent评测体系,通过线上数据分析、Bad Case挖掘,精准定位模型在幻觉、误拒答、组合泛化、执行失败等方面的瓶颈。 - 领导数据驱动的迭代飞轮,不仅是利用线上反馈进行微调,更要探索世界模型模拟、合成数据生成、以及基于AI反馈的强化学习等手段,高效、规模化地提升统一智能体的能力上限。

我们正在重新定义“千问”:从一个博学的对话者进化为具备执行力的数字实体。我们的核心使命是构建一套统一的认知架构,打破模型与现实世界的壁垒。通过 Skill-based Agent 技术,实现从“语义理解”到“任务闭环”的跨越,让 AI 真正深入生产力场景,实现数字世界与物理世界的高效连接 1. 统一认知架构设计与能力演进: - 深度对接阿里集团内部及外部第三方服务,设计并实现高效、稳定的 Agent 框架。负责将复杂的业务逻辑抽象为可插拔的配置、标准化的工具,供大模型理解与调用。 - 设计 skill-based 【统一Agent】架构,实现长程规划与自我反思能力的统一认知架构,以协调内部的推理、记忆和执行模块,实现统一智能体在跨场景、长链条任务上的优异表现。 - 推动并构建一个动态的“千问能办” skill library,将海量、异构的原子能力抽象为该统一智能体可学习、可组合、可泛化的skill,探索自动化技能发现与组合优化的前沿方法。 2. 核心场景算法优化: ⁃长程规划与决策优化: 针对复杂复合需求,研发先进的任务分解与多步推理算法,解决长链条执行中的错误积累与漂移问题。 -Agentic-RL 策略: 构建基于 环境反馈的强化学习(RLHB/RLAIF) 体系,通过在模拟环境中的大规模探索,提升 Agent 在极端场景下的鲁棒性与决策上限。 -领域知识注入: 针对高频场景(学习、办公、生活)进行长程预训练与持续学习,让 Agent 不仅拥有通用逻辑,更具备深度的行业专家意识。 3. 实际需求驱动迭代: - 建立科学、全面的Agent评测体系,通过线上数据分析、Bad Case挖掘,精准定位模型在幻觉、误拒答、组合泛化、执行失败等方面的瓶颈。 - 领导数据驱动的迭代飞轮,不仅是利用线上反馈进行微调,更要探索世界模型模拟、合成数据生成、以及基于AI反馈的强化学习等手段,高效、规模化地提升统一智能体的能力上限。