阿里巴巴集团安全部-智能体安全专家-杭州
任职要求
1、本科及以上学历，计算机或信息安全相关专业。
2、熟悉常见网络安全攻防原理，有独立攻防经验者优先。
3、3年以上…工作职责
1、负责集团智能体产品、服务的安全风险识别与评估，以及整体安全策略及解决方案制定。 2、结合业务发展，探索、发现、分析、挖掘潜在风险点并推动落地解决。 3、参与各类安全产品或服务的研发过程，确保产品安全可控。 4、参与安全治理，制定集团整体安全政策、制度，以及标准规范，推进落实。 5、结合内外部技术环境，对集团整体信息安全状况进行评估、分析，并提出相应的解决方案，持续优化提升集团安全防护能力。
我们正在打造一支 AI Native SDL团队，重新定义 AI 时代的软件安全开发生命周期。AI 不仅是我们保护的对象，更是我们工作的核心方式。我们相信安全流程正在从依赖规则、人工经验，演进为由 AI 驱动的智能工程。 * 设计并建设 AI Native SDL 体系，保障 AI 应用、Agent、MCP 等新型业务形态从设计、开发到运行阶段的安全。 * 负责 AI 应用安全架构设计，建立覆盖研发全生命周期的安全能力。 * 构建 Agent 身份认证、权限控制、工具调用、数据访问及运行时安全防护体系。 * 构建覆盖 Prompt Injection、Tool Abuse、模型滥用、越权访问、数据泄露等 AI 风险的纵深防御能力。 * 推动 AI 安全能力平台化、产品化，为研发提供统一、安全、易用的基础能力。
职位概述：负责阿里集团内智能体业务运行时安全防控运营，从需求对接、方案设计、策略上线到效果验收闭环管理。通过数据驱动的风险洞察和能力评测，协同算法团队构建安全防御能力，协同产品完善安全运营平台，确保高效服务业务的同时满足智能体业务安全、体验、成本优化等多重目标。 核心职责： 1. 安全解决方案设计与交付： ● 对接各智能体业务方，深入理解业务场景（办公、电商、代码、消费等Agent），识别运行时安全风险（Prompt注入、意图偏离、敏感信息泄露、越权等）； ● 综合安全效果、服务响应时效、安全成本、用户体验等因素，为业务量身制定防控方案，包括风险识别策略（规则+模型）、处置策略（拦截/放行/改写/人工审核等）、兜底机制等。 ● 协调算法、研发、产品资源，推动方案落地实施，完成业务接入、策略配置、灰度上线，并对最终安全效果负责。 2. 能力建设：通过安全评审、数据分析、红队测试、舆情情报等洞察和定义风险，发现能力短板，协同算法团队建设安全能力，构建评测集并制定验收标准，验收模型效果。 3. 运营机制和平台完善：建立巡检和监控告警机制，跟踪监管及行业动态，确保安全策略符合合规要求，并协同产品完善安全运营平台，优化防控链路，提升策略迭代效率。
工作内容： 1.负责RASP能力的规划及设计、样板间上线及运营，包括RASP能力方案设计、技术选型、功能实现原型、规则维护与优化、样板间运营等； 2.负责部分木马分析、运行时漏洞分析与挖掘，配合各团队完成安全加固工作；
1. 参与面向网络安全领域的垂直大模型交付工作，包括基于大模型做流程设计、agent优化和模型安全能力提升； 2. 负责对接阿里内部各个业务线的网络安全需求，包括情报安全、流量安全、数据安全等不同场景，构建高质量业务数据，优化交付流程； 3. 开展大模型全流程训练工作，包括预训练、CPT、SFT、GRPO及安全工具结合的Agentic RL； 4. 针对经典且依赖安全专家经验的的安全任务（如漏洞检测、流量情报分析、代码生成等）优化模型能力，提升其在真实攻防场景中的模型性能与鲁棒性； 5. 探索大模型在代码安全、漏洞挖掘、逆向工程等方向的应用，并推动技术成果落地与学术发表。