蚂蚁金服【蚂蚁星】大模型安全算法工程师
任职要求
1. 人工智能、网络安全、计算机科学或相关领域的硕士及以上学位,博士优先; 2. 深厚的机器学习与深度学习理论基础,熟悉Transformer架构及大型语言模型内部机制; 3. 卓越的算法设计与系统架构能力,精通Python,熟练掌握PyTorch/TensorFlow等框架; 4. 系统性理解大模型安全威胁面,包括模型投毒、提示词注入、隐私攻击等核心安全挑战; 5. 对Agent系统架构及其安全挑战有深入认识,能前瞻性预见并设计解决未来AI安全关键问题; 6. 在大模型安全、AI安全、安全分析等相关领域发表过高质量学术论文或拥有专利。
工作职责
我们是大安全基础安全部,负责守护蚂蚁集团数据安全,并对抗内外部网络威胁。我们专注于企业核心数据资产保护与安全治理,保护用户及商家的数据安全。在数据全生命周期防护、防勒索、攻防演练、资产认知、威胁情报等领域具有深厚积累,致力于构建自主可控的数据安全防护与治理体系。 我们在基础安全领域站在行业前沿,一直引领行业能力标准与最佳实践经验,利用大数据、AI技术持续变革和创新安全运营体系。团队里有顶尖的攻防、算法与平台技术大拿。加入我们,与我们共同定义AI时代的新一代数据安全防护体系。 作为大模型数据安全领域的奠基者,从理论到实践打造下一代AI安全标准,引领行业发展方向,具体包括: 1. 突破传统安全边界,构建跨模态、多Agent交互环境下的全新安全模型,前瞻性定义AI系统安全的关键指标与评估体系; 2. 构建Agent时代的数据治理框架,确保从训练到推理全生命周期的数据合规与安全,构建AI应用可信环境; 3. 对抗安全与鲁棒性强化,研究大模型在不同模态下的安全对齐技术,解决幻觉、越权与越界行为等核心挑战,提升模型在复杂攻击下的稳定性。
作为蚂蚁集团核心风控技术部门,我们专注于解决业务风险相关的技术挑战与系统建设,覆盖资金安全、数据安全、大模型安全、反洗钱及数字化业务风控等领域。这些业务场景因强对抗性、风险形态多样化、高时效性要求等特性,对技术规模性、系统复杂度、性能极限、智能化水平及可扩展能力提出跨维度挑战。 技术沉淀与突破: 过去数十年,团队基于特征工程、策略体系、模型算法及数据驱动框架,构建了具备行业领先水平的智能风控基础设施,持续守护超大规模业务的安全运行。 未来方向与目标,在大模型技术驱动的新阶段,我们计划联合顶尖人才突破以下核心方向: 大模型驱动的风控基建:研发生成式AI为核心的智能引擎,提升风险识别与对抗能力; 自主进化的防御体系:深度结合业务理解与模型技术,构建风险防护、用户行为分析、产品风险识别的核心能力; 技术前沿探索:攻坚大模型在风控场景中的安全应用、动态对抗机制及可扩展性难题; 我们期待与具备顶尖技术视野与工程能力的候选人合作,共同定义下一代智能风控的技术标准。 结合安全各种风险场景,如黑产攻击,风险防控,权限管理,多模态内容理解,进行大模型算法/工程/应用的全栈/全流程建模,选型,设计,研发,和优化,并在基础设施或者应用有所创新和突破(如Prompt自动优化,SFT自适应,分布式训练编译调度,黑产对抗的强化学习,防控特征/策略的生成,面向对抗的多模态算法/系统设计和优化等)。
作为蚂蚁集团核心安全数据中枢,我们构建金融级全域智能安全防御体系,深耕风险防控、数据资产保护、网络攻防对抗、内容生态治理等关键领域。依托EB级全域安全数据资产与万亿级实时计算能力,为集团数字支付、数字互联生态、数金业务矩阵(网商银行、财富管理、保险科技)、数字科技输出及全球化业务提供全链路安全赋能。 我们依托先进的大数据分析技术和机器学习算法,深度挖掘数据中潜藏的风险与威胁,通过智能预测与主动防御机制,实现安全事件的精准识别与快速响应。持续追踪前沿技术发展,整合大数据、大模型和AI生成技术,成功打造了规模超千亿的多模态安全训练数据集。这些高质量数据集已成为集团大模型安全基础训练语料,广泛应用于大模型安全防御、大模型去毒及身份核验等关键安全领域。加入我们,你将有机会投身于前沿技术的研发与应用,亲身探索全球领先的科技创新成果。我们不仅提供行业领先的薪酬福利体系,更致力于为你营造专业、开放且富有活力的工作氛围。如果你对安全技术与数据应用怀有热忱,渴望在充满创新机遇与专业挑战的环境中实现职业成长,我们诚挚邀请你加入安全大数据技术团队!让我们携手共建智能安全新未来! 1.参与大模型预训练数据、sft数据、指令、CoT数据等样本处理计算和加工; 2.负责设计开发创新性数据合成算法,优化大模型训练中的高维稀疏数据表征与长尾分布处理; 3.负责搭建多模态数据生成工厂,探索文本、代码、图像的语义对齐与高质量合成,负责多模态数据分析与融合:处理文本、图像、音频等多模态数据,研发高效算法实现数据语义融合与精确解析; 4.设计先进的对抗式数据增强技术,提升噪声过滤精度并突破数据清洗瓶颈; 5.研究基于合成数据的大模型迭代机制,推动模型持续进化与提升性能。
蚂蚁集团大安全事业群机器智能团队致力于打造安全科技的核心竞争力,做可信AI的持续引领者,为广大支付宝用户的数字化生活提供全方位安全保障。作为蚂蚁集团安全版图中的核心力量,我们正以最前沿的AI算法为刃、以大模型为盾,编织数字世界的"安全之网"。在这里,大模型、智能体、AI安全等热门的研究不再是纸上谈兵,每一个方向都在落地成为真实业务场景、十亿级用户的智慧防线。 关于团队,过去获得过浙江省科技进步一等奖、中国电子学会科技进步一等奖,人工智能学会吴文俊人工智能自然科学奖一等奖,中国图象图形学学会科技进步一等奖、多次获得中国计算机学会科技进步奖、世界人工智能大会SAIL之星与"镇馆之宝",等多个重量级奖项。可信AI专利布局全球第一,主导制定ITU国际风控标准。多名Kaggle Grandmaster ,拿过多个KDD Cup/CVPR/NeurIPS/ICCV/CVPR/ECCV等多个顶会竞赛冠军,累计发表近百篇顶会论文; 在这里,你将有机会和毕业于海内外著名高校的行业专家们、众多KDD Cup/CVPR 等比赛冠军、Kaggle Grandmaster 、顶会论文作者们共同根植蚂蚁丰富的场景数据,利用海量算力探索创新前沿算法应用,使用领先的机器学习算法解决风控业务问题,构建数据与知识驱动的智能风控体系,提升用户的支付安全体验。 加入我们,让我们一起为世界带来微小而美好的改变。 1. 参与和负责针对对抗攻击、后门植入、数据泄露等内生安全威胁的主动防御机制; 2. 研发基于RL的大模型安全对齐技术; 3. 通过实时对抗攻防与安全态势感知实现防御策略的自主进化; 4. 探索模型训练推理全链路的可控性增强技术。
蚂蚁集团核心风控团队大安全工程效率与品质保障团队,我们运用先进的技术和严格流程全面保障大安全业务如资金风控、内容安全、终端安全、反洗钱、基础安全等高品质高效率运转。目前团队聚焦大模型安全评测与对抗攻防核心技术,构建多维度评测体系,研发对抗框架与评测基准支持安全领域大模型发展。团队凭借亿级用户场景的实战积淀,正在大模型安全领域开拓创新。 1.设计并实施大模型多维度评测方案,覆盖功能、安全、性能等方向; 2.构建基准测试集和多维度的量化评估指标,针对安全领域设计领域专项测评方案,评估模型的领域适应性和实用性; 3.通过对抗性测试深入分析模型能力瓶颈,并提供可解释的测评报告,推动模型迭代优化。