小红书社区安全-内容安全运营
任职要求
1、本科及以上学历，3年以上互联网内容安全领域经验；
2、内容风险敏感性强，熟悉互联网政策法规和网络传播规律；
3、AI应用能力、逻辑思维、总结归纳能力强，信息获取、文…工作职责
1、负责监管工作要求、外部风险舆情等的分析研判，细化工作要求并做好分发和跟进，完成处置情况、趋势分析等报告，为内外部沟通提供支持； 2、负责基于监管工作要求、外部风险舆情等开展巡查，输出工作建议并做好监管工作要求的落地结果验收； 3、负责重大敏感内容风险的常态化管理，建立工作机制，完成工作报告； 4、协同支持团队，借助数据化、产品化、智能化等手段持续提升全链路效率和执行水平。
1、协助产品经理对社区内容安全问题进行分析定义，制定并推动治理方案上线，包括问题细则与策略优化建议等； 2、参与社区内容安全治理工作； 3、参与社区内容安全问题评估，建立相关评估框架并持续监控数据，挖掘问题，通过数据分析的方式发现问题。
1.负责 1-2 个核心风险领域（色情 / 涉政 / 广告 / 欺诈 / 反作弊）的策略设计与迭代； 2.监控业务数据，挖掘风险模式、作弊行为，设计识别防控策略； 3.制定风险分级、触发条件、处置逻辑、升级机制，落地差异化管控； 4.搭建策略监控指标体系，输出优化方案，持续提升风控效果； 5.深度挖掘平台潜在风险，反哺安全治理，协同算法定义模型需求； 6.对接运营优化人审流程，打通机审 - 人审协同链路； 7.跟踪黑灰产手法、行业动态，保持策略前瞻性，保障合规治理。
1.负责内容安全类平台核心模块规划与设计：内容安全规则引擎、机审策略管理平台、多模态审核工作台、内容处置中心、弹幕 / 评论风控平台等； 2.设计可视化规则引擎，支持内容风险规则配置、灰度发布、阈值调优、自动回滚，支撑机审策略快速迭代； 3.搭建人机协同审核工作流，打通机审预筛、人工复核、申诉闭环，提升内容审核效率； 4.落地内容安全数据看板：多模态风险大盘、机审效果监控、审核质量报表、舆情风险预警看板； 5.搭建机审自动化处置中心，实现视频 / 内容删除、降权、限流、打标、禁言等一键处置； 6.深度对接内容安全策略专家、审核运营、算法团队，落地机审全链路平台能力，适配大模型审核工具需求； 7.输出 PRD、原型设计，协同工程推进开发上线，持续优化机审平台稳定性与易用性。
1、探索多模态大模型在视频、图像、文本内容的理解能力，构建场景化模型，提升风险识别准召率； 2、研究UGC文本/图像拒绝理由的可解释性归因方法，推动人机协同审核应用落地； 3、构建大模型在风险防控等场景的垂类内容理解能力，优化模型对抗性及迭代效率； 4、开发视频、图文向量化表征技术，提升跨模态检索能力（如视频索引、图文相似性检索）； 5、推动大模型在业务系统中的落地。