阿里巴巴集团安全部-智能体安全运营-Harness风险治理
任职要求
1、硕士及以上，计算机、人工智能、信息安全、网络安全等相关专业；1年以上 AI 安全、应用安全或安全攻防相关经验，深度参与智能体或 AI 应用项目者优先； 2、AI 安全认知：深入理解 LLM 推理机制与 Agent 运行范式，熟悉工具调用、记忆管理、RAG、多 Agent 协作机制，能从攻击者视角识别 Agent 在业务场景中的系统性行为风险并定位关键风险点； 3、攻防技术基础：具备扎实的攻防技术基础与良好的技术动…
工作职责
负责智能体Harness（Skill、RAG、记忆等）的共性行为安全风险的发现、检测与防控能力建设。围绕 Agent 应用落地到各行业业务场景后暴露出的行为失控、组件被污染等业务风险，聚焦 Agent Harness 的资产发现与动态风险检测，联动网络安全、数据安全及业务部门构建纵深的 Agent 行为风控能力，持续降低智能体在真实业务流程中"做错事"和"被污染"的风险，保障智能体业务安全、稳定、可控地运行。
职位概述：负责阿里集团内智能体业务运行时安全防控运营，从需求对接、方案设计、策略上线到效果验收闭环管理。通过数据驱动的风险洞察和能力评测，协同算法团队构建安全防御能力，协同产品完善安全运营平台，确保高效服务业务的同时满足智能体业务安全、体验、成本优化等多重目标。 核心职责： 1. 安全解决方案设计与交付： ● 对接各智能体业务方，深入理解业务场景（办公、电商、代码、消费等Agent），识别运行时安全风险（Prompt注入、意图偏离、敏感信息泄露、越权等）； ● 综合安全效果、服务响应时效、安全成本、用户体验等因素，为业务量身制定防控方案，包括风险识别策略（规则+模型）、处置策略（拦截/放行/改写/人工审核等）、兜底机制等。 ● 协调算法、研发、产品资源，推动方案落地实施，完成业务接入、策略配置、灰度上线，并对最终安全效果负责。 2. 能力建设：通过安全评审、数据分析、红队测试、舆情情报等洞察和定义风险，发现能力短板，协同算法团队建设安全能力，构建评测集并制定验收标准，验收模型效果。 3. 运营机制和平台完善：建立巡检和监控告警机制，跟踪监管及行业动态，确保安全策略符合合规要求，并协同产品完善安全运营平台，优化防控链路，提升策略迭代效率。
1、负责集团智能体产品、服务的安全风险识别与评估，以及整体安全策略及解决方案制定。 2、结合业务发展，探索、发现、分析、挖掘潜在风险点并推动落地解决。 3、参与各类安全产品或服务的研发过程，确保产品安全可控。 4、参与安全治理，制定集团整体安全政策、制度，以及标准规范，推进落实。 5、结合内外部技术环境，对集团整体信息安全状况进行评估、分析，并提出相应的解决方案，持续优化提升集团安全防护能力。
我们正在打造一支 AI Native SDL团队，重新定义 AI 时代的软件安全开发生命周期。AI 不仅是我们保护的对象，更是我们工作的核心方式。我们相信安全流程正在从依赖规则、人工经验，演进为由 AI 驱动的智能工程。 * 设计并建设 AI Native SDL 体系，保障 AI 应用、Agent、MCP 等新型业务形态从设计、开发到运行阶段的安全。 * 负责 AI 应用安全架构设计，建立覆盖研发全生命周期的安全能力。 * 构建 Agent 身份认证、权限控制、工具调用、数据访问及运行时安全防护体系。 * 构建覆盖 Prompt Injection、Tool Abuse、模型滥用、越权访问、数据泄露等 AI 风险的纵深防御能力。 * 推动 AI 安全能力平台化、产品化，为研发提供统一、安全、易用的基础能力。
工作内容： 1.负责RASP能力的规划及设计、样板间上线及运营，包括RASP能力方案设计、技术选型、功能实现原型、规则维护与优化、样板间运营等； 2.负责部分木马分析、运行时漏洞分析与挖掘，配合各团队完成安全加固工作；