蚂蚁金服蚂蚁集团-大模型安全算法专家-杭州/上海
任职要求
1. 硕士及以上学历，计算机、电子信息、网络安全、人工智能等相关专业，具备扎实的机器学习与深度学习基础； 2. 具备大模型安全研究或多模态理解相关经验，熟悉 LLM/VLM/Agent 相关架构与安全问题者优先； 3. 熟悉 PyTorch、TensorFlow 等主流深度学习框架，具备模型设计、…
工作职责
1. 大模型攻击研究 ● 针对大语言模型（LLM）、多模态模型（VLM）、智能体（Agent）等开展安全性与幻觉问题研究，系统化识别模型在对抗样本、越狱攻击、数据投毒、隐私泄露、注入、越权等方面的脆弱点； ● 设计并优化大模型对抗攻击算法，研究 Prompt 注入、自动化越狱策略与生成式数据增强方法，用于模拟实战攻击与安全性评估； ● 构建覆盖文本、图像、语音等多模态、agent场景的攻击方法库，支撑红队测试与模型安全基准建设。 2. 大模型防御机制 ● 研究大模型输入/输出层面的安全检测与防御机制，开发 Prompt 过滤、上下文改写、敏感内容抑制等方法； ● 构建跨模态、多层次的安全防护框架，提升 LLM/VLM/Agent 在实际应用中的鲁棒性。 3. 大模型安全对齐 ● 探索使用SFT、RL、MoE、RAG、Editing等对齐方法，提升模型的内生安全能力； ● 研究有害内容规避、幻觉抑制、安全对齐评测等关键技术，推动安全性融入模型全生命周期。 4. Agent 安全 ● 研究 Agent 在memory存储、多工具调用、链式推理中的攻击面与潜在风险，识别敏感数据泄露、工具滥用、意图篡改、海绵攻击等新型威胁； ● 设计 Agent 安全管控机制，包括权限控制、任务隔离、调用审计等，确保复杂场景下 Agent 的安全可控。
1. 流动性算法：综合运用机器学习与运筹优化技术，解决信贷资产预测、资金-资产匹配等关键问题，保障流动性安全与效益最大化； 2. 营销与增长建模：将互联网金融产品的营销、流量分发与用户增长问题抽象为算法问题，通过推荐系统、因果推断、数据挖掘等方法设计并落地算法解决方案； 3. 前沿技术探索：结合信贷与金融市场场景，探索大模型（如AIGC、Agent、LLM for Recommendation）等新技术的可行性与落地路径； 4. 跨团队协作：与产品、数据、风控等团队紧密合作，推动算法模型在真实业务场景中的规模化应用。
1. 掌握和跟踪大模型、数据安全等方面的国内国际法律、政策、技术标准，结合业务实际产出具有洞察力的分析报告； 2. 识别并处理公司在研发或经营活动中的系统性风险，提出系统性解决建议和合规方案并组织协同团队落实合规方案。 3. 与主管机关的合作，包括但不限于算法备案、大模型备案、APP合规、算法检查、各类调研与问询等； 4. 大模型服务的数据安全的全盘设计与实施，包括但不限于制度、机制、分类分级能力等的建设。
1. 主导大模型应用整体架构设计，包括前端界面与后端服务开发、数据库设计与优化，构建高性能、高可用、安全合规的Agent服务； 2. 参与大模型应用开发全流程工作，包括但不限于模型接入、Agent开发、Skills及工具开发、评测、业务逻辑开发等； 3. 基于多模态大模型设计AgentBay的技术架构，持续优化系统可扩展性和稳定性，支撑无影AI业务快速增长； 4. 深入研究LLM/Agent领域前沿技术，将研究成果应用于复杂业务场景，提升系统整体性能和智能化水平。
1. 基于电商行为、支付数据、位置轨迹及关系网络等对全球用户、商户进行深入的分析及挖掘，构建全球用户及商户画像。 2. 构建知识图谱，利用文本摘要、文本生成等算法技术，搭建起全球化的营销运营内容体系。 3. 基于跨境支付、境外本地站点等国际业务场景及特点，设计搜索、推荐及营销引流等算法模型及策略，提升用户体验和转化效果，帮助用户增长及商家成长。 4. 利用深度学习、时序预测等技术帮助国际更加安全、高效的实现资金流动性、外汇及金融监督等管理。 5. 全面了解蚂蚁国际业务发展，提供基于机器学习、深度学习、文本挖掘、复杂网络等算法方案解决复杂的实际业务问题。 特别方向岗位： 1. 蚂蚁国际-大模型算法工程师-金融算法（只看深圳）：https://talent.antgroup.com/off-campus-position?positionId=25121007960043 2. 蚂蚁国际-金融算法工程师-全球技术（只看深圳）：https://talent.antgroup.com/off-campus-position?positionId=25062505405245 3. 蚂蚁国际-算法专家 - ASAP-全球技术：https://talent.antgroup.com/off-campus-position?positionId=26022608810687 4. 蚂蚁国际-隐私计算/密码/安全算法工程师-全球技术：https://talent.antgroup.com/off-campus-position?positionId=26030508991149