奇虎360AI安全研究实习生（北京）-4246(J12272)
任职要求
1. 硕士及以上学历，有相关的工作或项目经历，博士优先； 2. 熟悉PyTorch、Tensorflow相关深度学习算法框架，熟悉大模型服务架构； 3. 具备良好的计算机基础，熟…
工作职责
1. 负责大模型安全攻防技术研究，如越狱、提示注入等; 2. 负责大模型软件生态系统安全风险的研究，如智能体安全等； 3. 负责大模型辅助静态分析、模糊测试等安全检测技术研究； 4. 跟踪国内外最新安全动态，了解最新的攻击技术，完成分析报告。 5. 参与AI安全产品研发; 6. 参与国家、省部级科研项目的实施; 7. 发表相关领域高水平论文。
1、负责LLM训练相关的工作，包括基础预训练、SFT以及强化学习等； 2、负责优化LLM在具体产品场景下的微调，能够完成技术在产品的落地； 3、探索LLM高效学习的方式，包括叠加数据训练、PPO优化方式等； 4、跟进前沿技术， 并把相应技术落地。
1、跟踪AI安全前沿攻击技术（arxiv、安全会议、技术博客），复现并验证新型攻击手法在实际Agent产品上的有效性，涵盖越狱攻击、间接提示注入、工具调用劫持、多模态注入、跨Agent串谋等方向。 2、针对端侧Agent、AI眼镜、智能硬件等新形态AI终端，研究端侧特有的攻击面（模型提取、本地越狱、固件安全、通信协议安全等），开发对应的攻击PoC。 3、开发和维护红队攻击PoC武器库，确保攻击样本的可复用性和时效性。 4、开发和改进自动化安全测试工具（Agent Fuzzer、多模态注入生成器、端侧安全扫描等），提升测试效率。 5、对MCP/ACP生态新上架插件进行安全审计，发现供应链层面的安全风险。
1. 负责 AI 安全研究方向规划与关键场景设计：面向安全运营、威胁检测、事件响应、漏洞分析、攻防验证等方向，规划 AI 在安全业务中的应用路径，明确能力边界、技术路线、评估方法和落地优先级。 2. 主导 AI+SOC 智能研判体系建设：设计预警研判、攻击链溯源、威胁情报关联、安全日志分析、处置能力建设等核心能力，推动 SOC 从人工经验驱动向 AI 辅助研判、证据化分析和自动化闭环演进。 3. 主导安全 Agent / Workflow 架构设计：负责安全场景下 Agent、RAG、工具调用、任务拆解、上下文管理、结果校验和人工确认机制的架构设计，构建面向安全分析师的智能研判助手和自动化分析流程。 4. 牵头 AI 赋能攻防研究与验证：探索大模型在代码审计、漏洞分析、Fuzzing Harness 生成、渗透测试路径辅助、攻击链推理、检测规则生成等方向的应用，形成可复用的方法、工具和研究成果。 5. 建立 AI 安全应用评测与风险控制机制：负责 AI 安全能力的效果评估和风险控制，包括准确性、可解释性、误报漏报、证据完整性、提示
1. 参与 AI 安全场景落地建设：围绕安全日志分析、钓鱼邮件识别、事件溯源、检测规则辅助生成等场景，参与 AI 能力的开发、验证和持续优化。 2. 开发安全 Agent / Workflow 模块：根据既定方案，完成工具调用、知识检索、上下文组织、任务编排、结构化输出和结果校验等模块开发，支撑安全分析流程的智能化改造。 3. 参与安全知识库与评测数据建设：整理和结构化攻击技战术、检测规则、历史案例、威胁情报、安全日志样本等内容，支持 RAG、智能问答、规则生成和效果评测等能力建设。 4. 参与 AI 赋能攻防工具探索：在代码审计、漏洞辅助分析、Fuzzing Harness 生成、渗透测试工具封装、攻击路径分析等方向进行实验验证，输出脚本、PoC、调研报告或工具原型。 5. 协助 AI 输出质量评估与风险发现：对 AI 输出结果进行验证，发现并反馈幻觉、误判、证据不足、提示词注入、工具调用异常等问题，协助完善评测集、规则和安全校验机制。