小红书AI安全架构与防护工程师

任职要求

1）本科及以上学历，计算机、信息安全、人工智能或相关专业
2）深入了解AI系统架构，熟悉LLM、RAG、AI Agent工作原理及主流Agent框架
3）熟悉AI安全威胁模型，了解OWASP LLM Top 10、MITRE ATLAS等AI安全框架，具备AI威胁建模与安全评估能力
4）具备扎实的编程能力，能独立编写安全工具、自动化脚本或PoC验证代码
5）了解主流大模型厂商（OpenAI…

工作职责

本岗位负责为公司AI系统构建全栈安全防护体系，确保AI应用安全合规使用，同时利用LLM、Agent等先进AI能力赋能安全防护工作，实现"以AI守护AI"。（如下2个方向任选其一都可以）
一、AI安全架构和防护设计（Security for AI）
1）结合公司实际业务场景，负责AI产品、大模型、AI Agent系统的安全设计与安全基线制定，覆盖训练、微调、部署、推理全生命周期
2）针对Prompt Injection、越狱攻击（Jailbreak）、模型窃取等AI典型威胁，设计并开发对应的安全防护机制与纵深防御体系
3）针对AI Agent系统中的Tool Calling、MCP、长期记忆、权限控制、多Agent协作等高风险模块，构建运行时安全防护体系，保障AI系统在自治执行过程中的安全性
4）制定AI数据安全合规清洗、脱敏及隐私保护方案，确保AI训练与推理过程数据不被投毒，隐私数据/价值数据不被泄露窃取

二、AI赋能安全防护（AI for Security）
1）利用LLM、AI Agent等技术构建智能化安全防护能力，如基于大模型的威胁情报分析、恶意行为检测、意图识别等
2）设计并落地AI驱动的安全辅助工具，提升安全分析、安全设计、安全开发、安全测试等环节的效率与准确性
3）探索AI Agent技术在安全自动化场景中的应用，推动安全防护能力的智能化演进

# 共性职责：
1）与AI产品团队协作，能清晰阐释技术方案，支撑安全防护方案在AI产品研发各阶段有效落地
2）跟踪AI安全与AI for Security领域前沿技术，快速响应变化，引入先进的AI安全理论和方法，持续积累安全领域根技术