美团AI安全专家
任职要求
1，具备3年以上信息安全经验，具备公司级安全产品设计或开发经验。 2，具备AI …
工作职责
1、AI资产梳理与风险分级：识别企业内部AI资产（如：AI Agent、MCP Server、RAG应用等），梳理其数据访问范围与权限边界，建立资产清单和风险分级机制。 2、AI行为风险识别：分析AI Agent在工具调用、文件访问、命令执行、身份权限使用等环节的行为风险，识别越权操作、敏感数据外传、异常自动化执行等问题。 3、AI安全检测与响应：建立AI安全告警分级、调查和响应流程，协同公司内部系统实现高风险访问阻断、Agent暂停、Token回收等响应机制。 4、AI使用安全治理：负责三方模型、Al Agent场景的日常安全管控与风险治理。
负责公司AI产品、大模型、AI Agent系统的全栈安全防护、安全漏洞挖掘与风险自动化测评能力构建，同时将LLM、Agent等先进AI技术引入AI安全工作流，提升AI安全的覆盖深度与效率。 1、AI安全架构和防护设计 1）结合公司实际业务场景，负责AI产品、大模型、AI Agent系统的安全设计与安全基线制定 2）针对AI典型威胁，设计并开发对应的安全防护机制与纵深防御体系 3）针对AI Agent系统中的高风险模块，构建运行时安全防护体系，保障AI系统在自治执行过程中的安全性 4）探索AI Agent技术在安全自动化场景中的应用，推动安全防护能力的智能化演进 2、AI安全测评与渗透测试 1）对AI产品、LLM API服务、RAG系统、AI Agent系统开展系统性和现网安全测试 2）设计并执行针对AI特有漏洞的渗透测试和自动化测评方案，覆盖典型的AI攻击向量 3）开发自动化测试工具模拟真实攻击者视角对AI应用开展测评 4）设计AI安全自动化评测框架，支持AI应用的批量化测试与持续评估
安全工程与风险感知方向： * 建设企业级风险感知体系，持续发现业务及 AI 系统安全风险。 * 建设攻击检测、异常行为分析、威胁狩猎及自动化响应能力，提升风险发现与处置效率。 * 打造 AI Native SDL 平台，推动安全检测、安全评审、安全测试及研发流程自动化。 * 利用 AI 构建智能告警分析、攻击研判、自动化响应及安全 Copilot 能力。 * 建设统一安全数据平台，持续提升检测能力、运营效率及安全工程能力。 漏洞治理与风险运营方向 * 熟悉常见漏洞原理及应用安全体系，具备扎实的漏洞分析能力。 * 有 SDL、漏洞运营、风险治理等相关经验。 * 熟悉 SAST、DAST、IAST、SCA、RASP 等安全技术或产品。 * 具备自动化开发能力，能够利用工程化方式提升治理效率。 * 对 AI 在漏洞治理、风险分析及自动化运营中的应用有实践或浓厚兴趣。 * 具备良好的数据分析能力和持续优化意识。
你来解决什么问题 水滴公司目前在日常工作中已经大量引入AI Agent进行协同办公，我们希望找到一个人，在未来规模继续扩大之前，把Agent的安全规范、风险管控、技术防线等安全基础设施系统性地建起来。 你将负责： 1、主导AI Agent安全体系从0到1建设，包含网络安全、数据安全等维度； 2、通过技术手段识别和管控安全风险——权限边界设计、数据流管控、异常行为检测，不仅是靠规范文件约束； 3、持续识别员工使用agent过程中的安全薄弱点，输出技术评估和管控方案 以小组协作方式推进安全能力建设，统筹分工。
1、负责搭建公司AI大模型内容安全防控体系，制定内容安全标准、风险管控策略及落地方案，保障大模型输出合规、安全。 2、负责大模型价值观与安全对齐，配合技术团队设计模型优化方案，防控生成内容中的不良导向、违规信息等风险，提升模型安全稳健性。 3、跟踪AI行业安全动态、政策法规及新型风险，挖掘大模型安全隐患，输出风险评估报告并推动迭代优化，建立风险预警机制。 4、对接算法、运营、法务等相关部门，推动安全策略落地执行，负责内容安全相关标准的更新、同步及配套设施维护。 5、处理AI大模型内容安全应急事件，制定应急处置流程，降低安全风险对业务的影响，确保大模型全场景安全应用。