蚂蚁金服蚂蚁集团-大模型安全策略专家-杭州
任职要求
1、大学本科及以上学历，计算机、信息安全、数学等理工科相关专业毕业； 2、了解安全技术或治理方法的行业标准和动态，有两年以上的安全从业经验；有相关安全证书，如CISP、CISSP、CISA等优先； 3、熟悉主流的AI产品和大模型训练和智能体开发生命周期，有数据安全或应用安全运营经验…
工作职责
1、负责大模型服务安全扫描和防御体系建设，为业务提供可靠的AI服务安全解决方案，平衡用户体验和风险控制，持续优化安全策略； 2、面向AI Agent及其他大模型应用范式，挖掘和研究大模型安全威胁及测试方法，联动产研算建设和运营大模型服务安全扫描能力，结合业务需求及新型大模型应用技术进行优化和升级。 3、基于安全攻防态势、数据分析挖掘和专家经验，围绕大模型应用场景和风险防控目标，设计和运营大模型服务风险防御策略，并与产研算团队深度合作，优化升级风险检测和处置能力。
1、根据公司战略和产品设计制定并完善大模型安全策略，确保模型生成内容的合法性、道德性和准确性；保障相关服务应用的安全性和可用性； 2、研究大模型技术发展前沿趋势、相关法律法规及行业标准，及时更新调整安全策略以确保合规并持续处于行业领先水平； 3、熟练掌握大模型安全评测和防御机制，主动发现和识别问题，通过应用模型微调、提示增强等手段提升内生和外围安全能力； 4、研究探索大模型安全相关技术手段和创新，持续优化、提升策略效能和对客体验；响应和处理相关突发事件和问题，及时采取措施降低负面影响。
1. 深入理解企业客户的大模型应用场景和功能，输出安全解决方案，以商业化标准交付客户需求； 2. 按照大模型监管的法律法规、技术标准，完成大模型应用场景的日常安全运营，为安全和体验的业务结果负责，持续进行评估与改进。同时，运营动作需要规范化，定期向客户输出审计报告； 3. 完成主管机关发起的大模型合规检查、指令处置工作； 4. 和产研、算法团队深度合作，通过评测、外层护栏、安全运营平台产品等各类能力，提升安全水位。
1、根据内容安全、视频质量、数字化场景等管控要求和范围，结合广告/短视频业务特性进行风险分析，设计适配业务发展要求的解决方案并推动落地 2、基于业务海量图、文、音、视等内容，和用户行为、关系等数据，结合多模态内容理解认知，研发综合解决方案，解决实际业务问题； 3、保障业务运行过程中风险内容理解功能的稳定运行，并能设计体系化的响应、迭代、升级方案，保证方案全生命周期的稳定性 4、探索和拥抱多模态大模型技术，跟进当前AI发展最前沿，探索&挖掘大模型能力，应用到广告/短视频等业务
1. 与安全运营、产品等团队紧密合作，负责团队的建设、管理与激励，确保团队成员的技术成长与职业发展，打造高效、创新的研发团队。确保云安全工具与平台能够有效支持公司整体安全策略； 2. 主导云安全保障工具及平台的架构设计与开发，确保其高性能、高可用性和可扩展性； 3. 深入研究AI大模型在云安全领域的应用，制定AI应用的技术路线图，带领团队开发基于AI的安全防护算法与工具，提升安全平台的智能化水平。