蚂蚁金服【蚂蚁星】算法工程师-Agent安全-大安全-27届

部门介绍： 我们是蚂蚁集团大安全基础安全部，面向AI时代前沿安全挑战，重点建设下一代智能体安全防护体系，守护企业级AI应用、智能体协作系统及核心业务场景的安全可信运行。团队聚焦智能体安全攻防、AI应用风险治理、对抗性威胁检测、智能体行为管控、安全运营智能化等方向，也在网络对抗、资产认知、威胁情报等基础安全能力上持续深耕。我们正通过大数据、AI和工程化能力，推动安全体系从“人工规则驱动”走向“智能决策驱动”，探索AI时代安全的新范式。这里汇聚了一批毕业于清北等国内外顶尖高校的优秀同学与行业专家，兼具攻防、算法、平台工程和安全产品能力。你将有机会与顶尖人才并肩，在真实复杂的业务场景中参与智能体安全体系建设，共同定义下一代安全技术标准。 职位描述： 定义并构建智能体安全体系。作为智能体安全领域的奠基者，从理论到实践打造下一代AI安全标准，深度结合AI算法与安全攻防，引领行业发展方向，具体包括： 1. 研究大模型在不同模态下的安全对齐技术，解决幻觉、越权行为、记忆污染、A2A风险级联与传播等核心挑战。提出科学问题定义、构建评测体系与防御方法； 2. 构建Agent时代安全治理框架，确保从训练到推理全生命周期的合规与安全，构建AI应用可信环境； 3. 对抗安全与鲁棒性强化，突破传统安全边界，构建跨模态、多Agent交互环境下的全新安全模型，前瞻性定义AI智能体安全的关键指标与评估体系。

大模型对抗训练的瓶颈，已经从""模型能力""转移到""训练环境""和""迭代效率""。Data Multiverse 当前几个核心限制： 1. 一致性兜底覆盖率 ~90%，剩余 10% 集中在数值型特征，是 RL 训练奖励噪声的主要来源； 2. 90d 长周期历史保真度仅 83%，长程攻击剧本（养号 → 潜伏 → 变现）的仿真还原度不足； 3. 30%~50% 黑盒特征依赖 LLM 推理生成，无法精确校验，限制了仿真置信度上限； 4. 场景泛化性不高，迁移到新场景，每次都要重做大量基础设施。 任何一项不解决，攻防大模型自主进化的飞轮就转不起来。这是当前阻塞大模型路线的核心基础设施问题，也是我们相对于业界其它玩家的护城河所在。

大模型对抗训练的瓶颈，已经从""模型能力""转移到""训练环境""和""迭代效率""。Data Multiverse 当前几个核心限制： 1. 一致性兜底覆盖率 ~90%，剩余 10% 集中在数值型特征，是 RL 训练奖励噪声的主要来源； 2. 90d 长周期历史保真度仅 83%，长程攻击剧本（养号 → 潜伏 → 变现）的仿真还原度不足； 3. 30%~50% 黑盒特征依赖 LLM 推理生成，无法精确校验，限制了仿真置信度上限； 4. 场景泛化性不高，迁移到新场景，每次都要重做大量基础设施。 任何一项不解决，攻防大模型自主进化的飞轮就转不起来。这是当前阻塞大模型路线的核心基础设施问题，也是我们相对于业界其它玩家的护城河所在。

部门介绍： 蚂蚁集团大安全事业群机器智能团队致力于打造安全科技的核心竞争力，做可信AI的持续引领者，为广大支付宝用户的数字化生活提供全方位安全保障。作为蚂蚁集团安全版图中的核心力量，我们正以最前沿的AI算法为刃、以大模型为盾，编织数字世界的""安全之网""。在这里，大模型、智能体、AI安全等热门的研究不再是纸上谈兵，每一个方向都在落地成为真实业务场景、十亿级用户的智慧防线。 关于团队，过去获得过浙江省科技进步一等奖、中国电子学会科技进步一等奖，人工智能学会吴文俊人工智能自然科学奖一等奖，中国图象图形学学会科技进步一等奖、多次获得中国计算机学会科技进步奖、世界人工智能大会SAIL之星与""镇馆之宝""，等多个重量级奖项。可信AI专利布局全球第一，主导制定ITU国际风控标准。多名Kaggle Grandmaster ，拿过多个KDD Cup/CVPR/NeurIPS/ICCV/CVPR/ECCV等多个顶会竞赛冠军，累计发表近百篇顶会论文； 在这里，你将有机会和毕业于海内外著名高校的行业专家们、众多KDD Cup/CVPR 等比赛冠军、Kaggle Grandmaster、顶会论文作者们共同根植蚂蚁丰富的场景数据，利用海量算力探索创新前沿算法应用，使用领先的机器学习算法解决风控业务问题，构建数据与知识驱动的智能风控体系，提升用户的支付安全体验。 加入我们，让我们一起为世界带来微小而美好的改变。 职位描述： 参与和负责针对对抗攻击、后门植入、数据泄露等内生安全威胁的主动防御机制；研发基于RL的大模型安全对齐技术；通过实时对抗攻防与安全态势感知实现防御策略的自主进化；探索模型训练推理全链路的可控性增强技术。