蚂蚁金服【蚂蚁星】算法工程师-大模型安全
任职要求
1. 计算机科学、人工智能、自然语言处理、数据科学、机器学习等相关专业博士或优秀硕士； 2. 尤其在RLHF优化，强化学习，RLHF 损失优化，Multi-Agent ，多模态大模型等方向有深度研究者或相关项目经验优先； …
工作职责
蚂蚁集团大安全事业群机器智能团队致力于打造安全科技的核心竞争力，做可信AI的持续引领者，为广大支付宝用户的数字化生活提供全方位安全保障。作为蚂蚁集团安全版图中的核心力量，我们正以最前沿的AI算法为刃、以大模型为盾，编织数字世界的"安全之网"。在这里，大模型、智能体、AI安全等热门的研究不再是纸上谈兵，每一个方向都在落地成为真实业务场景、十亿级用户的智慧防线。 关于团队，过去获得过浙江省科技进步一等奖、中国电子学会科技进步一等奖，人工智能学会吴文俊人工智能自然科学奖一等奖，中国图象图形学学会科技进步一等奖、多次获得中国计算机学会科技进步奖、世界人工智能大会SAIL之星与"镇馆之宝"，等多个重量级奖项。可信AI专利布局全球第一，主导制定ITU国际风控标准。多名Kaggle Grandmaster ，拿过多个KDD Cup/CVPR/NeurIPS/ICCV/CVPR/ECCV等多个顶会竞赛冠军，累计发表近百篇顶会论文； 在这里，你将有机会和毕业于海内外著名高校的行业专家们、众多KDD Cup/CVPR 等比赛冠军、Kaggle Grandmaster 、顶会论文作者们共同根植蚂蚁丰富的场景数据，利用海量算力探索创新前沿算法应用，使用领先的机器学习算法解决风控业务问题，构建数据与知识驱动的智能风控体系，提升用户的支付安全体验。 加入我们，让我们一起为世界带来微小而美好的改变。 1. 参与和负责针对对抗攻击、后门植入、数据泄露等内生安全威胁的主动防御机制； 2. 研发基于RL的大模型安全对齐技术； 3. 通过实时对抗攻防与安全态势感知实现防御策略的自主进化； 4. 探索模型训练推理全链路的可控性增强技术。
作为蚂蚁集团的核心大模型部门，我们专注大语言模型的技术攻坚与创新突破，致力于推动通用人工智能（AGI）技术的实质性进展。团队聚焦LLM后训练方向，包括模型对齐、高阶推理、安全可控等，持续完善智能系统的认知深度与可靠性。目前部门拥有数万张显卡资源，并且仍在持续加大投入，为探索模型能力边界提供坚实的保障。在追求AGI的道路上，我们始终秉持蚂蚁集团的技术务实基因，通过扎实的底层创新推动智能技术的产业落地。 1. 研发万亿参数LLM基模架构：大语言模型（LLM）后训练（post-train）全流程优化，设计高效分布式训练方案，进行十万亿token级别的超大规模训练，包括但不限于通用能力提升、安全对齐等方向； 2. 奥赛级别的LLM各项能力建设，迈向真正的AGI：前沿的高效强化学习算法设计，实现并应用SFT/RLHF/DPO/PPO/GRPO等算法，研发训推一体的大规模强化学习训练框架，探索多目标奖励模型、过程监督等前沿技术，提升模型在指令遵循、逻辑推理、多任务泛化等方面的性能； 3. 扩大工业与学术影响力：开源LLM模型及核心技术，发表顶会论文，贡献核心开源项目。
风控技术是蚂蚁大安全技术最核心的团队之一，全面支持蚂蚁支付宝、国际、数金几大板块的风险防控技术能力建设，子方向包括资金风控、内容安全、流量作弊风控、核身等硬核技术，用大数据和AI能力，构建蚂蚁金融和数字化风控技术底盘，保证了风险水位的长期持续稳定。团队敢于打硬仗，不断挑战行业型不确定性技术课题。 面向蚂蚁海量用户，日亿级交易，我们希望用大模型技术重构风控攻防的底层逻辑，结合万亿样本，进行大模型算法/工程/应用的全栈建模，选型，设计，研发，和优化，端到端解决风险防控问题，通过各种创新（如黑产对抗的强化学习，防控特征/策略的生成，面向对抗的多模态算法/系统设计和优化等），用智能化突破现有风险对抗体系的上限，保障支付宝的每一个客户的资金安全，为每一次支付保驾护航。
我们是大安全基础安全部，负责守护蚂蚁集团数据安全，并对抗内外部网络威胁。我们专注于企业核心数据资产保护与安全治理，保护用户及商家的数据安全。在数据全生命周期防护、防勒索、攻防演练、资产认知、威胁情报等领域具有深厚积累，致力于构建自主可控的数据安全防护与治理体系。 我们在基础安全领域站在行业前沿，一直引领行业能力标准与最佳实践经验，利用大数据、AI技术持续变革和创新安全运营体系。团队里有顶尖的攻防、算法与平台技术大拿。加入我们，与我们共同定义AI时代的新一代数据安全防护体系。 作为大模型数据安全领域的奠基者，从理论到实践打造下一代AI安全标准，引领行业发展方向，具体包括： 1. 突破传统安全边界，构建跨模态、多Agent交互环境下的全新安全模型，前瞻性定义AI系统安全的关键指标与评估体系； 2. 构建Agent时代的数据治理框架，确保从训练到推理全生命周期的数据合规与安全，构建AI应用可信环境； 3. 对抗安全与鲁棒性强化，研究大模型在不同模态下的安全对齐技术，解决幻觉、越权与越界行为等核心挑战，提升模型在复杂攻击下的稳定性。
作为蚂蚁集团核心安全数据中枢，我们构建金融级全域智能安全防御体系，深耕风险防控、数据资产保护、网络攻防对抗、内容生态治理等关键领域。依托EB级全域安全数据资产与万亿级实时计算能力，为集团数字支付、数字互联生态、数金业务矩阵（网商银行、财富管理、保险科技）、数字科技输出及全球化业务提供全链路安全赋能。 我们依托先进的大数据分析技术和机器学习算法，深度挖掘数据中潜藏的风险与威胁，通过智能预测与主动防御机制，实现安全事件的精准识别与快速响应。持续追踪前沿技术发展，整合大数据、大模型和AI生成技术，成功打造了规模超千亿的多模态安全训练数据集。这些高质量数据集已成为集团大模型安全基础训练语料，广泛应用于大模型安全防御、大模型去毒及身份核验等关键安全领域。加入我们，你将有机会投身于前沿技术的研发与应用，亲身探索全球领先的科技创新成果。我们不仅提供行业领先的薪酬福利体系，更致力于为你营造专业、开放且富有活力的工作氛围。如果你对安全技术与数据应用怀有热忱，渴望在充满创新机遇与专业挑战的环境中实现职业成长，我们诚挚邀请你加入安全大数据技术团队！让我们携手共建智能安全新未来！ 1.参与大模型预训练数据、sft数据、指令、CoT数据等样本处理计算和加工； 2.负责设计开发创新性数据合成算法，优化大模型训练中的高维稀疏数据表征与长尾分布处理； 3.负责搭建多模态数据生成工厂，探索文本、代码、图像的语义对齐与高质量合成，负责多模态数据分析与融合：处理文本、图像、音频等多模态数据，研发高效算法实现数据语义融合与精确解析； 4.设计先进的对抗式数据增强技术，提升噪声过滤精度并突破数据清洗瓶颈； 5.研究基于合成数据的大模型迭代机制，推动模型持续进化与提升性能。