得物内容安全机审策略（词库运营方向）
任职要求
1. 学历专业：本科及以上学历，计算机/统计学/信息安全/数学等相关专业优先； 2. 经验年限：3年以上内容安全/风控策略/审核运营相关工作经验； 3. SQL能力：熟练掌握 SQL，能独立完成 ODPS/Hive 大数据…
工作职责
一、词库治理，违禁词库建设与维护 1. 负责全场景违禁词库的日常增删改查，覆盖内容安全色情、违法违规、公序良俗、嘲讽辱骂等风险问题；建立词库分级体系，制定差异化处置策略； 2. 绕审变体识别与对抗：建立乱序词、谐音词、拆字词、符号插入等绕审手法的检测能力，基于模型构建变体词索引，替代逐个枚举排列的粗放模式，定期巡检词库命中率，清理高误报词； 3. 正则规则引擎优化：维护正则匹配规则，针对正则覆盖不足问题，持续扩充匹配模式，建立正则规则的回归测试集，确保新增规则不引入误伤； 二、算法调优，机审策略配置与调优 1. 负责机审路由策略，优化各检测能力的权重与组合逻辑，调整转人工阈值，在拦截率与误伤率之间寻找最优平衡点； 2. 漏放分析与模型迭代，建立三维度漏放监控体系：对漏放样本做 case 级归因分析（关键词盲区/正则覆盖不足/模型误判/信号缺失），推动模型迭代，基于漏放分析结果，提炼新特征需求，协同算法团队完成模型训练与评测； 3. AI 审核能力建设：设计并迭代大模型内容安全审核 Prompt，覆盖政治敏感、暴恐、色情、违法、未成年保护、公序良俗等风险，针对词库提取、扩展、优化、预警、分析提效； 三、运营闭环，审核效率运营 1. 监控各场景核心指标，发现异常波动及时介入，对于风险覆盖指标负责，与各个场景环节联动建立运营指标，并基于准、召等指标，定义运营优化的流程并负责落地； 2. 对问题风险负责，具备问题定位、复盘、方案优化的能力，能够快速应对各类突发问题，并及时给出应对方案，例如舆情、客诉问题；
1. 机审策略构建与迭代： 负责全平台内容安全（涉黄、涉政、暴恐、违禁、黑产引流等）的机器审核策略。通过分析海量业务数据，制定、部署并优化风控拦截规则，平衡漏放率与误杀率。 2. 数据挖掘与特征工程： 基于亿级文本/图文/视频数据，熟练运用分类算法、聚类分析、特征分布检验 等统计机器学习方法，深度挖掘坏样本的变异特征与作弊模式。 3. AI Agent 搭建与落地： 探索并主导大模型（LLM）在内容审核场景的深度应用。利用现有框架（如 LangChain、Dify、Coze 等）设计并搭建自动化风控 Agent 工作流（例如：自动化抽检 Agent、复杂长文本意图判别 Agent、基于 RAG 的安全知识库问答 Agent等）。 4. 大模型赋能规则挖掘： 建设基于大模型的“策略推荐 Copilot”，利用 AI 辅助分析每日高危 Bad Case，自动聚类异常模式，并一键生成或推荐业务拦截规则代码。 5. 攻防体系与指标监控： 持续追踪黑灰产对抗手法，建立完善的策略监控大盘和预警机制；对线上机审规则进行 A/B 测试及效果评估。
1.深刻了解公司重点产品安全发展情况，根据有关部门要求匹配产品合规办法； 2.敏锐把握公司业务相关的政策要求和行业趋势，统筹推进公司文化与内容领域业务合规； 3.正确、及时传导政策要求，采取有效措施，加强产品协同，降低相关风险，保障公司业务稳健发展。
岗位聚焦于构建面向下一代内容安全与商品治理的超级智能体系统（Super Agent），深度融合大模型认知能力及平台治理知识体系，推动风险治理从“人工规则+模型判别”向“自主感知—知识推理—动态决策—闭环干预”的智能体范式跃迁。核心职责包括： 1、构建大模型驱动的商品治理体系：研发百亿级商品知识图谱，实现品牌、品类、款式、引流行为、黑产团伙等多维实体的高精度识别与关联推理；构建可解释、可演化的商品治理Agent，支持跨场景泛化与策略自适应； 2、自编排可进化的智能审核流程：构建任务感知型Agent，支持新风险场景下的自动流程规划、工具调用与策略部署；设计大模型上下岗机制与在线迭代框架，保障系统持续学习与安全可控； 3、构建十亿级商品流量下的违禁品智能防控体系：主导商品禁限售全覆盖能力建设，融合法律法规、平台规则与行业标准，构建动态更新的违禁品知识库；利用多模态大模型（文本、图像、属性、行为）实现高精度、低漏放的违禁商品实时识别与拦截；设计面向高并发、低延迟场景的在线防控架构，支撑日均十亿级商品曝光的毫秒级风险决策。
1、负责快手短视频安全的治理与调控工作，基于内容理解及风险研判，制定从问题发现、识别处置到效果监控的全流程治理机制； 2、深入了解以短视频为主的社区场景，根据内容理解、用户反馈、数据现象等，分析用户及内容特征，设计合理有效的内容规则和策略方案，并对治理效果进行持续评估； 3、负责快手内容安全治理相关的策略设计与能力建设，完善社区审核链路搭建，负责视频安全的机审大小模型策略优化和降本增效； 4、能够与产品、算法等上下游团队协作，完善社区治理系统，优化治理链路、策略体系机制，保障问题内容治理高效、彻底，维护社区内容安全。