小红书AI安全测试工程师

任职要求

1）本科及以上学历，信息安全、计算机、人工智能或相关专业；具备安全测试、渗透测试或AI安全研究经验，对AI安全测试技术有浓厚兴趣
2）深入了解AI系统架构，熟悉LLM、RAG、AI Agent工作原理及主流Agent框架
3）熟悉AI安全攻击技术，包括但不限于Prompt Injection、Jailbreak、对抗样本生成、模型逆向等
4）具备扎实的编程能力，能独立编写自动化安全测试脚本、Fuzzing工具及PoC利用…

工作职责

本岗位负责AI产品、大模型、AI Agent系统的安全漏洞挖掘与风险自动化测评，同时将LLM、Agent等先进AI技术引入自动化测评和渗透测试工作流，提升安全测评和渗透测试的覆盖深度与测试效率。（如下2个方向任选其一都可以）
一、AI安全测评与渗透测试（Security for AI）
1）对AI产品、LLM API服务、RAG系统、AI Agent系统开展系统性和现网安全测试，覆盖黑盒、灰盒、白盒多种测试模式
2）设计并执行针对AI特有漏洞的渗透测试和自动化测评方案，重点测试Prompt注入、越狱攻击、数据窃取、错误推理利用、越权任务执行、Tool权限隔离等AI特有攻击向量
3）对AI应用开展蓝军测评，开发自动化测试工具模拟真实攻击者视角，评估AI产品面临的特有攻击场景（Prompt Injection、越狱攻击等）
4）开展AI模型数据安全测试，验证训练数据隐私保护、差分隐私机制、模型逆向攻击防护的有效性
5）设计AI安全自动化评测框架，支持Prompt攻击、工具滥用、权限绕过、数据泄露等场景的批量化测试与持续评估

二、AI赋能安全测评（AI for Security）
1）利用LLM、AI Agent等技术提升安全测试效率，构建智能化的Fuzzing框架、Prompt攻击自动生成器、自动化漏洞挖掘工具、AI辅助代码审计、AI辅助现网安全渗透等
2）基于大模型能力实现测试用例的自动化生成与扩充，提升测试覆盖率并降低人工编写测试用例的成本
3）建立并持续维护AI安全测评基准库（AI Benchmark），结合AI能力实现测试数据集的自动化更新与评估指标优化
4）跟踪分析业界最新的大模型安全对抗技术及新型安全风险，引入业界AI安全验证优秀实践，安全测试标准、方法、技术、工具和独立创新，持续提升团队的安全验证测试能力