蚂蚁金服蚂蚁集团-大模型安全策略专家-杭州
任职要求
1、硕士以上学历，计算机科学、信息安全、机器学习算法、数学和统计分析等相关专业背景；具备人文和科技跨学科背景者优先； 2、三年以上科技和互联网行业安全及风险管理相关经验，不限方向；对生成式语言大模型、多模态大模型及…
工作职责
1、根据公司战略和产品设计制定并完善大模型安全策略，确保模型生成内容的合法性、道德性和准确性；保障相关服务应用的安全性和可用性； 2、研究大模型技术发展前沿趋势、相关法律法规及行业标准，及时更新调整安全策略以确保合规并持续处于行业领先水平； 3、熟练掌握大模型安全评测和防御机制，主动发现和识别问题，通过应用模型微调、提示增强等手段提升内生和外围安全能力； 4、研究探索大模型安全相关技术手段和创新，持续优化、提升策略效能和对客体验；响应和处理相关突发事件和问题，及时采取措施降低负面影响。
1、负责大模型服务安全扫描和防御体系建设，为业务提供可靠的AI服务安全解决方案，平衡用户体验和风险控制，持续优化安全策略； 2、面向AI Agent及其他大模型应用范式，挖掘和研究大模型安全威胁及测试方法，联动产研算建设和运营大模型服务安全扫描能力，结合业务需求及新型大模型应用技术进行优化和升级。 3、基于安全攻防态势、数据分析挖掘和专家经验，围绕大模型应用场景和风险防控目标，设计和运营大模型服务风险防御策略，并与产研算团队深度合作，优化升级风险检测和处置能力。
蚂蚁国际ASAP技术部正在寻找有激情并且具有创新能力的算法工程师，通过使用AI技术，推动蚂蚁国际化业务的发展。蚂蚁是一家AI驱动的公司，国际化是蚂蚁当前的重点方向，在这个职位上，你有机会接触到互联网金融、人工智能、国际化这3个当前最热门领域。 1.基于跨境支付、跨境游、境外合作钱包等国际业务场景及特点，设计搜索、推荐及营销引流等算法模型及策略，提升用户体验和转化效果，帮助用户增长及商家成长。 2.全面了解蚂蚁国际业务发展，提供基于机器学习、深度学习、联邦学习、大模型、运筹优化等算法方案解决复杂的实际业务问题。
1. 具备较高的政策和风险的敏感度，对账号、交易、营销活动、内容、欺诈等业务风险进行分析和评估，构建全面的、准确的云上业务安全风险治理的策略体系； 2. 基于业务理解进行数据分析，探索风险特征，设计并产出风险策略、风控算法模型，并持续优化与迭代策略与模型的预测效果； 3. 沉淀分析思路与策略方法，提炼产品需求，与相关团队（如技术开发团队）协作并推动自动化策略的落地，能力的升级； 4. 主动挖掘违规案件线索，通过数据分析梳理、摸排线索间的关系，打击黑灰产业链，解决业务痛点。
1. 跟踪国内外监管政策和大模型技术标准发展趋势，熟悉监管合规规范，了解大模型原理，结合大模型特性、AIGC 场景特点，设计出适配业务发展需要的内容安全解决方案并推动落地； 2. 基于语言模型、多模态模型的风险防控标准和要求，在大模型内生安全、围栏安全、安全评测等方面，设计体系化的防控策略并推动落地，确保安全与体验的平衡； 3. 识别业务场景潜在安全风险，跟进风险舆情，制定应急预案并快速响应，确保问题得到及时处理； 4. 与业务团队、法务、GA 和基础安全等团队深度协作，确保大模型产品及服务符合相关法律法规要求。