蚂蚁金服【蚂蚁星】AI安全研发工程师
任职要求
1. 扎实的机器学习理论基础,深入理解Transformer架构及大模型infra关键设计(如微调/蒸馏/推理)。在ACL/CVPR/NeurIPS等顶会发表相关论文; 2. 丰富的大模型使用经验,熟悉大模型分布式训练技术栈(如DeepSpeed/Megatron-LM)与…
工作职责
1. 面向金融等特定场景设计机器学习隐私保护方案,支持传统AI模型与大模型的隐私增强,构建兼顾模型性能、数据安全与实用性的AI系统; 2. 攻克大模型隐私微调与推理中的关键技术问题,基于数据安全、密码安全等多维安全技术构建全面的大模型隐私保护框架; 3. 跟踪AI隐私安全领域的国际前沿技术,主导先进技术创新并在开源社区或AI顶会中取得影响力成果。
蚂蚁集团大安全事业群机器智能团队致力于打造安全科技的核心竞争力,做可信AI的持续引领者,为广大支付宝用户的数字化生活提供全方位安全保障。作为蚂蚁集团安全版图中的核心力量,我们正以最前沿的AI算法为刃、以大模型为盾,编织数字世界的"安全之网"。在这里,大模型、智能体、AI安全等热门的研究不再是纸上谈兵,每一个方向都在落地成为真实业务场景、十亿级用户的智慧防线。 关于团队,过去获得过浙江省科技进步一等奖、中国电子学会科技进步一等奖,人工智能学会吴文俊人工智能自然科学奖一等奖,中国图象图形学学会科技进步一等奖、多次获得中国计算机学会科技进步奖、世界人工智能大会SAIL之星与"镇馆之宝",等多个重量级奖项。可信AI专利布局全球第一,主导制定ITU国际风控标准。多名Kaggle Grandmaster ,拿过多个KDD Cup/CVPR/NeurIPS/ICCV/CVPR/ECCV等多个顶会竞赛冠军,累计发表近百篇顶会论文; 在这里,你将有机会和毕业于海内外著名高校的行业专家们、众多KDD Cup/CVPR 等比赛冠军、Kaggle Grandmaster 、顶会论文作者们共同根植蚂蚁丰富的场景数据,利用海量算力探索创新前沿算法应用,使用领先的机器学习算法解决风控业务问题,构建数据与知识驱动的智能风控体系,提升用户的支付安全体验。 加入我们,让我们一起为世界带来微小而美好的改变。 1. 参与和负责针对对抗攻击、后门植入、数据泄露等内生安全威胁的主动防御机制; 2. 研发基于RL的大模型安全对齐技术; 3. 通过实时对抗攻防与安全态势感知实现防御策略的自主进化; 4. 探索模型训练推理全链路的可控性增强技术。
隐私计算部门位于蚂蚁国际技术的创新前沿,是一个由多学科专家组成的精英团队,致力于在严格保护用户和数据隐私的前提下,推动数据的有效利用和价值释放。我们鼓励团队成员跨越传统边界,与国内外顶尖学术界、产业界伙伴紧密合作,共同探索隐私计算领域的最前沿技术与应用。在这里,你将有机会参与国际级的项目,面对全球市场的多样性和复杂性挑战,为实现数据安全流通、促进全球经济包容性增长贡献智慧,为蚂蚁国际的全球用户及合作伙伴提供安全、高效、合规的数据处理和分析解决方案。 1. 负责密码学前沿技术跟踪和创新预研,进行隐私计算高性能、高精度、通用化方面的的基础研究; 2. 负责将隐私计算技术应用于现实问题,面向场景优化的密码算法和系统; 3. 跟踪、探索隐私计算方向前沿技术,并适时进行技术分享、专利申请和学术文章发表; 4. 通过行业深度洞察以及前膽性思考,探索前沿技术、预研新场景,引导行业标准制定以及打造全球领先的行业品牌心智。
风控技术是蚂蚁大安全技术最核心的团队之一,全面支持蚂蚁支付宝、国际、数金几大板块的风险防控技术能力建设,子方向包括资金风控、内容安全、流量作弊风控、核身等硬核技术,用大数据和AI能力,构建蚂蚁金融和数字化风控技术底盘,保证了风险水位的长期持续稳定。团队敢于打硬仗,不断挑战行业型不确定性技术课题。 面向蚂蚁海量用户,日亿级交易,我们希望用大模型技术重构风控攻防的底层逻辑,结合万亿样本,进行大模型算法/工程/应用的全栈建模,选型,设计,研发,和优化,端到端解决风险防控问题,通过各种创新(如黑产对抗的强化学习,防控特征/策略的生成,面向对抗的多模态算法/系统设计和优化等),用智能化突破现有风险对抗体系的上限,保障支付宝的每一个客户的资金安全,为每一次支付保驾护航。
作为蚂蚁集团核心安全数据中枢,我们构建金融级全域智能安全防御体系,深耕风险防控、数据资产保护、网络攻防对抗、内容生态治理等关键领域。依托EB级全域安全数据资产与万亿级实时计算能力,为集团数字支付、数字互联生态、数金业务矩阵(网商银行、财富管理、保险科技)、数字科技输出及全球化业务提供全链路安全赋能。 我们依托先进的大数据分析技术和机器学习算法,深度挖掘数据中潜藏的风险与威胁,通过智能预测与主动防御机制,实现安全事件的精准识别与快速响应。持续追踪前沿技术发展,整合大数据、大模型和AI生成技术,成功打造了规模超千亿的多模态安全训练数据集。这些高质量数据集已成为集团大模型安全基础训练语料,广泛应用于大模型安全防御、大模型去毒及身份核验等关键安全领域。加入我们,你将有机会投身于前沿技术的研发与应用,亲身探索全球领先的科技创新成果。我们不仅提供行业领先的薪酬福利体系,更致力于为你营造专业、开放且富有活力的工作氛围。如果你对安全技术与数据应用怀有热忱,渴望在充满创新机遇与专业挑战的环境中实现职业成长,我们诚挚邀请你加入安全大数据技术团队!让我们携手共建智能安全新未来! 1.参与大模型预训练数据、sft数据、指令、CoT数据等样本处理计算和加工; 2.负责设计开发创新性数据合成算法,优化大模型训练中的高维稀疏数据表征与长尾分布处理; 3.负责搭建多模态数据生成工厂,探索文本、代码、图像的语义对齐与高质量合成,负责多模态数据分析与融合:处理文本、图像、音频等多模态数据,研发高效算法实现数据语义融合与精确解析; 4.设计先进的对抗式数据增强技术,提升噪声过滤精度并突破数据清洗瓶颈; 5.研究基于合成数据的大模型迭代机制,推动模型持续进化与提升性能。