阿里巴巴集团安全部-智能体安全运营-杭州

任职要求

1. 熟悉主流Agent框架及LLM原理，了解工具调用、记忆管理、多Agent协作机制，熟悉常见攻击手段，有运行时安全防御经验、有大模型安全评测集构建、红蓝对抗等经验为佳。
2. 具备业务敏感性和结构化分析思维，熟练掌握SQL/Python进行数据分析，能从复杂场景中抽象出关键风险点，设计分层防御体系和策略。
3…

工作职责

职位概述：负责阿里集团内智能体业务运行时安全防控运营，从需求对接、方案设计、策略上线到效果验收闭环管理。通过数据驱动的风险洞察和能力评测，协同算法团队构建安全防御能力，协同产品完善安全运营平台，确保高效服务业务的同时满足智能体业务安全、体验、成本优化等多重目标。

核心职责：
1. 安全解决方案设计与交付：
● 对接各智能体业务方，深入理解业务场景（办公、电商、代码、消费等Agent），识别运行时安全风险（Prompt注入、意图偏离、敏感信息泄露、越权等）；
● 综合安全效果、服务响应时效、安全成本、用户体验等因素，为业务量身制定防控方案，包括风险识别策略（规则+模型）、处置策略（拦截/放行/改写/人工审核等）、兜底机制等。
● 协调算法、研发、产品资源，推动方案落地实施，完成业务接入、策略配置、灰度上线，并对最终安全效果负责。
2. 能力建设：通过安全评审、数据分析、红队测试、舆情情报等洞察和定义风险，发现能力短板，协同算法团队建设安全能力，构建评测集并制定验收标准，验收模型效果。
3. 运营机制和平台完善：建立巡检和监控告警机制，跟踪监管及行业动态，确保安全策略符合合规要求，并协同产品完善安全运营平台，优化防控链路，提升策略迭代效率。