平安科技高级 AI 安全研究员
任职要求
本科以上学历 1. 具备一定安全基础和实战理解：熟悉安全日志分析、威胁检测、应急响应、威胁情报、漏洞分析、代码审计、渗透测试等至少一个方向，理解常见安全分析流程。 2. 熟悉大模型应用开发基本方法：了解 Prompt、RAG、Agent、工具调用、结构化输出、模型评测等基本方法，有 LangChain、LlamaIndex、AutoGen 或同类框架实践经验更佳。 3. 具备良好的工程开发能力：熟悉 Python，能够完成数…
工作职责
1. 参与 AI 安全场景落地建设：围绕安全日志分析、钓鱼邮件识别、事件溯源、检测规则辅助生成等场景，参与 AI 能力的开发、验证和持续优化。 2. 开发安全 Agent / Workflow 模块：根据既定方案，完成工具调用、知识检索、上下文组织、任务编排、结构化输出和结果校验等模块开发，支撑安全分析流程的智能化改造。 3. 参与安全知识库与评测数据建设：整理和结构化攻击技战术、检测规则、历史案例、威胁情报、安全日志样本等内容，支持 RAG、智能问答、规则生成和效果评测等能力建设。 4. 参与 AI 赋能攻防工具探索：在代码审计、漏洞辅助分析、Fuzzing Harness 生成、渗透测试工具封装、攻击路径分析等方向进行实验验证，输出脚本、PoC、调研报告或工具原型。 5. 协助 AI 输出质量评估与风险发现：对 AI 输出结果进行验证，发现并反馈幻觉、误判、证据不足、提示词注入、工具调用异常等问题，协助完善评测集、规则和安全校验机制。
阿里云专有云是面向政企行业客户的全栈云平台，为政企客户（政府、金融、部委、央企等行业）提供产品和服务。该岗位主要负责专有云AI安全技术方向的架构规划及研发工作，构建全面的AI安全防护体系，跟踪AI安全前沿技术，将研究成果转化为工程落地，插入链接提升技术竞争力，满足专有云客户的AI安全需求。 1、主导专有云AI安全架构设计 ● 设计并构建覆盖AI全生命周期的安全防护体系，包括数据安全、模型安全、推理安全等； ● 建立AI模型隐私保护机制，支持联邦学习、差分隐私、同态加密等隐私计算技术； ● 设计AI安全治理框架，确保AI系统的可解释性、公平性和可靠性； 2、主导AI安全技术研发和产品化落地： ● 研发AI对抗攻击检测与防护技术，包括对抗样本检测、模型后门检测、投毒攻击防护等； ● 开发AI数据安全技术，包括敏感数据识别、数据脱敏、数据水印等技术； ● 构建AI安全监控平台，实现AI系统运行时的实时安全监测和威胁预警； ● 协同AI平台团队，将安全能力深度集成到AI训练、推理、服务等各个环节；
1. 防御机制拆解： 跟踪国内外主流模型的安全策略，通过实验分析其在内容过滤、逻辑保护方面的实现路径，并输出分析报告。 2. 安全围栏建设： 参与公司模型的内容审计系统开发，编写并维护核心的防御 Prompt 和过滤规则库。 3. 风险路径探测： 对模型系统（含插件、沙箱）进行常规的安全评估，识别提示词泄露和接口滥用的潜在风险，并提出加固建议。 4. 反蒸馏技术落地： 协助落地基础的防爬取、模型输出干扰等风控方案，保护公司模型资产。 5. 跨团队协作： 与算法团队配合，将发现的安全漏洞转化为模型微调（SFT）或对齐（RLHF）的训练样本。
安全工程与风险感知方向： * 建设企业级风险感知体系，持续发现业务及 AI 系统安全风险。 * 建设攻击检测、异常行为分析、威胁狩猎及自动化响应能力，提升风险发现与处置效率。 * 打造 AI Native SDL 平台，推动安全检测、安全评审、安全测试及研发流程自动化。 * 利用 AI 构建智能告警分析、攻击研判、自动化响应及安全 Copilot 能力。 * 建设统一安全数据平台，持续提升检测能力、运营效率及安全工程能力。 漏洞治理与风险运营方向 * 熟悉常见漏洞原理及应用安全体系，具备扎实的漏洞分析能力。 * 有 SDL、漏洞运营、风险治理等相关经验。 * 熟悉 SAST、DAST、IAST、SCA、RASP 等安全技术或产品。 * 具备自动化开发能力，能够利用工程化方式提升治理效率。 * 对 AI 在漏洞治理、风险分析及自动化运营中的应用有实践或浓厚兴趣。 * 具备良好的数据分析能力和持续优化意识。
1、负责企业数据生命周期各类隐私安全建设项目的安全运营工作，包含且不限于数据分类分级、数据加密、数据传输、数据删除、数据最小化使用、权限治理等数据安全相关项目，确保项目执行落地； 2、主导数据安全方案设计与落地工作，结合业务特性及合规要求设计并落地风控解决方案。搭建风险响应、处置等多场景的数据化产品化能力以识别并化解风险； 3、负责内部的风控运营工作，结合业务和平台发展目标，制定有效的运营计划和运营流程；处理平台日常运营问题，响应并推动业务问题的解决。