小红书社区安全机审策略高级专家
任职要求
1、具备3年及以上互联网内容安全、商业安全的风控策略或相关领域的工作经验, 了解机审链路。 2、具备优秀的逻辑思维和抽象能力,能独立完成从需求分析到策略上线的全过程。 3、具备优秀的数据分析能力和一定的算法能力。 4、拥有出色的跨团队沟通和项目推动能力,能够清晰表达、对齐目标并解决冲突。
工作职责
1、深入理解内容安全/商业安全的业务场景和治理需求,并独立完成机审策略的构建、验证和上线。 2、负责安全策略全生命周期的管理流程,包括但不限于灰度、小流量、召回抽样评估、能力迭代、下线等; 3、掌握图文、视频等多模态风险的常见识别手段,能根据不同的风险特征,精准选型并应用合适的算法模型解决问题。 4、构建并监控策略核心数据漏斗,通过深度数据下钻分析,定位策略缺陷和风险漏洞,并提出行之有效的优化方案,驱动策略效果持续提升。 5、强目标导向协同算法工程师、软件开发工程师、内容治理运营、产品等团队,对齐目标,统筹资源,共同达成安全治理目标。 6、具备产品意识,不仅满足于解决单点问题,更致力于优化产品工具、提升整体安全运营的效率和智能化水平。
1. 内容安全审核与风险管控 - 主导游戏内用户生成内容(UGC)、社区互动、虚拟商品等场景的审核工作,快速识别并拦截违规内容(如涉黄、涉暴、政治敏感、不良信息等)。 - 建立并优化内容安全风险分级标准,制定风险应对策略,降低法律和舆论风险。 2. 安全策略制定与系统优化 - 结合业务需求,设计、落地、维护内容安全审核规则、机器策略及人工审核流程,提升审核效率与准确率。 - 参与审核系统(机器、人工内容安全过滤平台)的功能优化,推动技术工具与业务场景的深度高效结合。 3. 跨部门协作与合规管理 - 与法务、产品、运营、营销等部门联动,推动内容安全规范在业务流程中的落地,提供合规建议。 - 能承接来自监管的要求并完成上传下达等沟通落地事宜,熟悉国内游戏行业法规动态(如《网络安全法》《网络信息内容生态治理规定》),确保业务合规。 4. 团队赋能与应急响应 - 指导初级审核人员,输出审核案例与标准,提升团队专业能力。 - 主导重大内容安全事件的应急处理(如舆情爆发、安全保障响应),快速制定解决方案并落地。
团队介绍:国际化内容安全平台团队致力于为字节跳动国际化产品的用户维护安全可信赖环境,通过开发、迭代机器学习模型和信息系统以更早、更快发掘风险、监控风险、响应紧急事件,以人工智能技术支持业务发展,力求更高效、更敏捷、更全能地维护站内生态安全。 1、参与国际化内容安全人审的规则、管理、质量平台建设,打造数据化、体系化和高效的人审系统; 2、持续优化产品体验、性能和稳定性,参与智能化人工审核端能力建设,打造极致审核体验; 3、深度参与业务审核人效和质量优化,用技术帮助业务提升; 4、参与全栈低代码平台建设,设计引擎优化,组件开发,自动化测试等; 5、建设研发一站式效能平台,通过数据化和自动化手段解决研发质量和效率问题; 6、基于Electron建设审核客户端,在音视频、网络、流程策略等不断提升能力上限。
1、深入理解内容安全/商业安全的业务场景和治理需求,并独立完成机审策略的构建、验证和上线。 2、负责安全策略全生命周期的管理流程,包括但不限于灰度、小流量、召回抽样评估、能力迭代、下线等; 3、掌握图文、视频等多模态风险的常见识别手段,能根据不同的风险特征,精准选型并应用合适的算法模型解决问题。 4、构建并监控策略核心数据漏斗,通过深度数据下钻分析,定位策略缺陷和风险漏洞,并提出行之有效的优化方案,驱动策略效果持续提升。 5、强目标导向协同算法工程师、软件开发工程师、内容治理运营、产品等团队,对齐目标,统筹资源,共同达成安全治理目标。 6、具备产品意识,不仅满足于解决单点问题,更致力于优化产品工具、提升整体安全运营的效率和智能化水平。