蚂蚁金服蚂蚁集团-安全风险策略高级专员-医疗大模型
任职要求
1、数学、统计、计算机、管理科学、金融等相关专业硕士或以上学历; 2、有良好的数据处理、分析与数据化运营能力,熟练使用至少一种专业分析工具,如Python,SQL等; 3、较高的风险敏锐度,能够快速理解新业务特性,主动发现风险点并提出体系化解决方案; 4、自驱、有担当,通过有效的团队协同、资源协调达成业务目标。 5、加分项: 有医疗领域的风控经验,有大模型的风控经验,能熟练应用大模型方案解决实际问题。
工作职责
在大模型应用百花齐放的时代,蚂蚁集团也积极投身其中,重点打造垂类领域的大模型产品,AQ就是其中的代表之一。我们团队重点关注AQ的各类风险,基于集团的安全能力和基建提供全套风险管理方案,为AQ的健康发展保驾护航。大模型医疗垂类风险作为其中最重要的风险,是我们的工作重点,我们致力于数据驱动,利用前沿的算法配合策略设计,做实做好风险防控。 1、策略建设:负责医疗大模型的风险策略运营,涉及大模型问答风险、服务风险和用户管理等,基于数据挖掘和分析,设计风险识别和决策策略,搭建面向各类风险的策略体系,并持续优化; 2、策略运营:熟悉风控平台,保障策略安全有效落地; 3、能力建设:基于风险管理需要预判策略升级方向,与产品和技术紧密合作,持续迭代智能化风控产品,推动产品化运营; 4、协同联动:深入业务实际场景,与医疗专家一道定义风险,与大模型算法一道进行大模型内生安全优化等。
面向支付宝亿级消费者的真实支付场景和医疗、大模型、广告等各类服务场景,我们基于集团视角提供全风险视野的评价方案,通过监控各业务线的风险动态水位和客户体验,助力业务决策和健康发展。我们不仅识别违反法律法规的底线类风险,如商户资质不合规、商品禁限售和广告虚假营销等,也识别不符合平台定位和业务要求的业务风险,如商品山寨、广告素材行业错放和抽佣费率风险等,另外,在大模型应用百花齐放的时代,医疗健康管家的安全伦理风险也是我们识别的重点。我们致力于数据驱动,利用前沿的算法配合策略设计,做实做好风险评价和防控。 1、策略建设:负责支付宝数字化场景的风险策略运营,涉及平台风险、业务风险和大模型风险等,基于数据挖掘和分析,设计风险防控策略,搭建面向各类风险的策略体系,并持续优化; 2、策略运营:熟悉风控平台,保障策略安全有效落地; 3、能力建设:基于风险管理需要,设计和构建智能化风控产品,与产品和技术紧密合作,推动产品化运营。
1、风险机制设计:完成业务链路的风险评审及风控方案设计; 2、通过数据分析等手段及时发现风险,定性、定量风险; 3、搭建风险策略体系,包含从识别到处置到申诉整体链路。
1. 内容安全审核与风险管控 - 主导游戏内用户生成内容(UGC)、社区互动、虚拟商品等场景的审核工作,快速识别并拦截违规内容(如涉黄、涉暴、政治敏感、不良信息等)。 - 建立并优化内容安全风险分级标准,制定风险应对策略,降低法律和舆论风险。 2. 安全策略制定与系统优化 - 结合业务需求,设计、落地、维护内容安全审核规则、机器策略及人工审核流程,提升审核效率与准确率。 - 参与审核系统(机器、人工内容安全过滤平台)的功能优化,推动技术工具与业务场景的深度高效结合。 3. 跨部门协作与合规管理 - 与法务、产品、运营、营销等部门联动,推动内容安全规范在业务流程中的落地,提供合规建议。 - 能承接来自监管的要求并完成上传下达等沟通落地事宜,熟悉国内游戏行业法规动态(如《网络安全法》《网络信息内容生态治理规定》),确保业务合规。 4. 团队赋能与应急响应 - 指导初级审核人员,输出审核案例与标准,提升团队专业能力。 - 主导重大内容安全事件的应急处理(如舆情爆发、安全保障响应),快速制定解决方案并落地。