得物内容安全机审策略
任职要求
1. 学历与背景： 本科及以上学历，计算机、数学、统计学、人工智能等相关专业；具备 3-5 年以上安全风控、内容审核策略、或数据挖掘相关工作经验。 2. 扎实的数据分析与算法底座： - 精通 SQL 和 Python，具备海量数据处理能力。 - 深刻理解并能熟练应用传统机器学习算法，能够独立通过分类、聚类、时序分析、特征分布对比等手段，从无标签或弱标签数据中提炼有效的业务规则。 3. AI 大模型实操能力（核心必备）： - 熟悉主流大模型（如 GPT-4、Claude、通义千问、Kimi 等）的能力边界与调用逻辑。 - 精通 Prompt Engineering（提示词工程），能够通过 CoT（思维链）解决复杂的逻辑判别问…
工作职责
1. 机审策略构建与迭代： 负责全平台内容安全（涉黄、涉政、暴恐、违禁、黑产引流等）的机器审核策略。通过分析海量业务数据，制定、部署并优化风控拦截规则，平衡漏放率与误杀率。 2. 数据挖掘与特征工程： 基于亿级文本/图文/视频数据，熟练运用分类算法、聚类分析、特征分布检验 等统计机器学习方法，深度挖掘坏样本的变异特征与作弊模式。 3. AI Agent 搭建与落地： 探索并主导大模型（LLM）在内容审核场景的深度应用。利用现有框架（如 LangChain、Dify、Coze 等）设计并搭建自动化风控 Agent 工作流（例如：自动化抽检 Agent、复杂长文本意图判别 Agent、基于 RAG 的安全知识库问答 Agent等）。 4. 大模型赋能规则挖掘： 建设基于大模型的“策略推荐 Copilot”，利用 AI 辅助分析每日高危 Bad Case，自动聚类异常模式，并一键生成或推荐业务拦截规则代码。 5. 攻防体系与指标监控： 持续追踪黑灰产对抗手法，建立完善的策略监控大盘和预警机制；对线上机审规则进行 A/B 测试及效果评估。
1、深入理解内容安全/商业安全的业务场景和治理需求，并独立完成机审策略的构建、验证和上线。 2、负责安全策略全生命周期的管理流程，包括但不限于灰度、小流量、召回抽样评估、能力迭代、下线等； 3、掌握图文、视频等多模态风险的常见识别手段，能根据不同的风险特征，精准选型并应用合适的算法模型解决问题。 4、构建并监控策略核心数据漏斗，通过深度数据下钻分析，定位策略缺陷和风险漏洞，并提出行之有效的优化方案，驱动策略效果持续提升。 5、强目标导向协同算法工程师、软件开发工程师、内容治理运营、产品等团队，对齐目标，统筹资源，共同达成安全治理目标。 6、具备产品意识，不仅满足于解决单点问题，更致力于优化产品工具、提升整体安全运营的效率和智能化水平。
1、深入理解内容安全/商业安全的业务场景和治理需求，并独立完成机审策略的构建、验证和上线。 2、负责安全策略全生命周期的管理流程，包括但不限于灰度、小流量、召回抽样评估、能力迭代、下线等； 3、掌握图文、视频等多模态风险的常见识别手段，能根据不同的风险特征，精准选型并应用合适的算法模型解决问题。 4、构建并监控策略核心数据漏斗，通过深度数据下钻分析，定位策略缺陷和风险漏洞，并提出行之有效的优化方案，驱动策略效果持续提升。 5、强目标导向协同算法工程师、软件开发工程师、内容治理运营、产品等团队，对齐目标，统筹资源，共同达成安全治理目标。 6、具备产品意识，不仅满足于解决单点问题，更致力于优化产品工具、提升整体安全运营的效率和智能化水平。
1、负责社区高危红线风险治理策略，精准捕捉不同场景下治理诉求，可独立完成机审策略的搭建设计、效果验证及最终上线落地，确保机审体系能有效识别并拦截风险。 2、负责社区高危红线安全策略全生命周期管理，通过标准化流程保障策略长期有效，避免风险识别能力衰减。 3、将内容安全治理需求转化为基于大模型的识别方案，通过PE/RAG/Workflow等技术持续实验和优化，不断提升策略的准确率与召回率。 4、通过图文、视频等多模态风险的常见识别手段，根据不同的风险特征，精准选型并应用合适的算法模型解决治理问题。 5、构建并监控策略核心数据漏斗，通过深度数据下钻分析，定位策略缺陷和风险漏洞，输出切实可行的优化方案，推动风险识别效果持续迭代提升。 6、强目标导向，协同算法工程师、软件开发工程师、内容治理运营、产品等团队，对齐目标，统筹资源，共同达成安全治理目标。
1、海外机审策略制定与落地（Base：成都） （1）负责海外地区（东南亚、印度、中东等地区）内容安全机审策略的制定、优化及本地化适配，确保符合当地法律法规、文化习俗及平台标准； （2）制定机审模型测试方案，通过多供应商测试、效果评估等手段验证策略落地效果，持续提升机审准确率与覆盖率； （3）针对舆情、客诉、业务反馈等场景，快速输出机审优化方案，降低内容风险。 2、机审能力体系建设与沉淀 （1）规划并搭建海外机审样本库、规则库，推动样本标注标准化及规则泛化能力提升； （2）建立机审效果监控体系，定期输出效果分析报告，提出迭代优化方向； （3）沉淀多地区机审运营方法论，推动工具化、流程化能力建设。 3、供应商管理与资源协调 （1）负责当地机审模型供应商的选型、能力评估、采购及结算，监控供应商模型效果并推动优化； （2）管理人工标注供应商团队，制定标注标准及效果验收规则，确保样本标注质量； （3）协调内外部资源，推动技术、产品、审核团队高效协作，保障机审能力与业务需求对齐。 4、跨区域协同与风险防控 （1）对接海外业务、人审、质检等团队，同步机审策略与风险管控进展； （2）跟踪全球内容安全监管动态，预判合规风险并提前布局机审应对方案。