蚂蚁金服蚂蚁集团-大模型攻防对抗安全工程师-杭州
任职要求
1、本科及以上学历、网络安全、机器学习等相关专业，具备扎实的网络安全/算法专业背景基础和较强的学习能力优先。 2、有大模型安全对抗及安全相关研究背景和经历。 3、熟练使用PyTorch/TensorFlow等主流深度学习框架，熟悉Transformer相关模型结构。 4、具有良好的沟通协调能力、较强的团队合作精神、优秀的执行能力。 5、具备强烈的进取心、求知欲有技术热情，具备良好的数据洞察及问题分析能力。
工作职责
1、建设端到端大模型全链路威胁对抗体系，包括大模型全链路威胁建模、威胁感知及应急响应体系和一体化解决方案。 2、跟踪和研究大模型面临的各类攻击技术，包括越狱攻击、指令攻击、提示词注入、反面诱导等，关注智能体安全风险、MCP安全风险等各类应用层衍生安全风险，并基于业务实际落地场景探索、设计、落地防御对抗方案。 3、负责跟进大模型安全相关的前沿技术进展，探索实际场景落地。
1、负责网商银行全域的威胁感知、攻防对抗和溯源； 2、建立基于威胁路径图的攻防与对抗体系，全面提升网商银行安全水位； 3、跟进业界安全能力的前沿趋势，不仅限于用大模型等创新技术提升攻防对抗质量。 让我们一起构建领先的数字银行安全体系！去建立默认安全体系，让已知风险无所遁形；建立可信纵深防御体系，让0day无用武之地；建立基于威胁路径图的攻防与对抗体系，你是红军也是蓝军，让你有“钓鱼”成功时的快感，也有一次次成功抵挡离奇攻击手法的成就感…快加入网商银行，一起铸造信息安全的铜墙铁壁！
蚂蚁集团核心风控团队大安全工程效率与品质保障团队，我们运用先进的技术和严格流程全面保障大安全业务如资金风控、内容安全、终端安全、反洗钱、基础安全等高品质高效率运转。目前团队聚焦大模型安全评测与对抗攻防核心技术，构建多维度评测体系，研发对抗框架与评测基准支持安全领域大模型发展。团队凭借亿级用户场景的实战积淀，正在大模型安全领域开拓创新。 1.设计并实施大模型多维度评测方案，覆盖功能、安全、性能等方向； 2.构建基准测试集和多维度的量化评估指标，针对安全领域设计领域专项测评方案，评估模型的领域适应性和实用性； 3.通过对抗性测试深入分析模型能力瓶颈，并提供可解释的测评报告，推动模型迭代优化。
负责面向安全业务场景的大模型能力建设，包括但不限于以下方向： 1. AI for security，利用AI技术增强网络安全和数据保护等领域的防御能力。在自动化威胁检测、分析和响应、DevSecOps等场景提升效率和攻防对抗能力； 2. Security for AI，保护AI应用系统安全，保护其免受攻击和滥用。
1 负责蚂蚁集团终端应用相关的安全研究与攻防对抗，包括Android、iOS、鸿蒙。 2 以端为载体与黑灰产进行对抗。负责黑灰产研究，攻击技术分析，识别能力建设。 3 负责系统研究，针对Android、iOS、鸿蒙等系统进行深度挖掘。 4 负责利用大模型技术全面提升攻防对抗效率。