蚂蚁金服蚂蚁集团-内容安全风控策略专家-杭州
任职要求
1、3年及以上互联网相关工作经验，有广告业务内容风险防控经验的优先； 2、熟悉NLP、CV、Audio、多模态相关算法，熟悉大模型前沿技术，包含但不限于pre-train、SFT、RLHF等，并有相关Prompt、Agent设计经验； 3、有较强的沟通…
工作职责
1、根据内容安全、广告法、业务质量等要求，结合广告业务特性进行风险分析，设计适配业务发展要求的解决方案并推动落地； 2、基于业务海量图、文、音、视等内容，和用户行为、关系等数据，结合多模态内容理解认知，研发综合解决方案，解决实际业务问题； 3、保障业务运行过程中风险内容理解功能的稳定运行，并能设计体系化的响应、迭代、升级方案，保证方案全生命周期的稳定性； 4、拥抱当前AI发展前沿，探索多模态大模型技术，通过研发领域大模型、AI Agent、Copilot等技术，推动大模型在业务上的应用落地。
1. 面对全球量级的海量数据流，参与构建高可用、高灵敏度的风控实时算法体系，挑战极高难度的“数据不平衡”难题，在万分之一甚至更低概率的威胁样本中实现精准定位； 2. 应用自适应学习、异常检测等前沿技术，解决攻击手法高速迭代（变异）的风险模型鲁棒性问题，确保在极低误伤率的前提下实现高召回； 4. 负责维护和优化覆盖亿级实体的商品知识图谱，处理比传统电商规模大百倍的商品数据； 5. 研发基于深度学习的商品模型，融合商品标题（NLP）、图片/视频（CV）、价格建模及交易行为等多模态特征，实现对知识产权侵权、山寨品牌及违规违禁品的精准识别与自动清理； 6. 参与打造业界领先的内容安全系统，处理日均千万级的直播、图文、短视频及代码等复杂多态内容。
1.将风控治理需求转化为大模型识别方案，通过 Prompt Engineering、RAG、Workflow 持续调优； 2.探索 VLM 多模态大模型在视频内容安全场景的落地应用； 3.完成大模型指令微调、偏好对齐，提升风控场景识别效果； 4.设计开发安全 Agent，落地自动化风险研判、处置系统； 5.参与标注评测体系建设，构建风控专属高质量数据集； 6.研究对抗防御、幻觉检测、安全对齐技术，解决大模型风控痛点； 7.沉淀技术文档、方法论，保障大模型合规稳定运行。
1.主要职责负责腾讯云上多类业务的安全合规工作，包括理解业务并针对性制定合规策略； 2.善于合规类违规场景挖掘特征，运用AI与大模型技术辅助设计高效的检测与打击方案； 3.结合相关政策要求及业务需求，探索AIGC、智能体（Agent）等技术在自动化风险识别与处置流程中的落地应用； 4.提供安全运营支持、协调推进跨团队项目，熟练掌握AI能对安全事件进行分析及解决； 5.通过培训/知识库/流程优化等手段，助力业务提升合规能力，沉淀AI驱动的安全运营实践与方法论。
1.负责规则引擎、策略配置平台、审核工作台、处置中心等核心模块的规划、设计、迭代； 2.拆解审核治理业务流程，设计高效审核工具、运营工作台，提升审核效率； 3.设计可视化规则引擎，支持策略配置、灰度发布、效果监控、自动回滚； 4.搭建机审处置中心，实现删除、限流、打标、降权等自动化处置落地； 5.落地风险大盘、策略看板、质量报表等数据可视化产品； 6.输出 PRD 文档，协同工程推进开发上线，收集反馈持续优化产品体验。