哔哩哔哩海外内容安全策略（标准）
任职要求
1.本科以上学历，英语听说读写能力强，可作为日常工作语言；
2.1—3年内容安全行业经验，具备内容安全的理解能力及风险洞察能力，有内容风控/内容运营经…工作职责
1.收集线上内容新风险和行业动态，输出标准覆盖情况评估报告； 2.对现有规则进行优化，梳理和制定各场景的模型标准和审核规则； 3.对标准文档等配套设施迭代维护，搭建标准管理后台； 4.对接内外部门，有效推进标准相关需求项目落地执行； 5.完成直属上级交办的其他工作。
1、整体负责海外大模型业务内容安全策略，能够通过对业务场景的深度分析，打造符合方舟自己的海外内容安全策略； 2、内部定模型准入标准，所有的模型符合这个内容安全的标准后才可以上线； 3、外部定沟通口径，负责销售/商务反馈的关于内容安全问询的应对、海外媒体的应对； 4、总结客户诉求，来对内部模型和模型外部策略提出要求，与安全产品、技术紧密协作，推进对应的产品或者方案落实； 5、持续发现与挖掘新增问题，并进行问题刻画，不断扩大策略覆盖面，搭建”风险发现→风险研判→风险刻画→标准执行”的完整运营流程机制； 6、了解海外各国的AIGC内容安全策略以及商业化策略，实时关注和解读海外各区域的安全政策从而保持产品的合规性。
1. 内容安全审核与风险管控 - 主导游戏内用户生成内容（UGC）、社区互动、虚拟商品等场景的审核工作，快速识别并拦截违规内容（如涉黄、涉暴、政治敏感、不良信息等）。 - 建立并优化内容安全风险分级标准，制定风险应对策略，降低法律和舆论风险。 2. 安全策略制定与系统优化 - 结合业务需求，设计、落地、维护内容安全审核规则、机器策略及人工审核流程，提升审核效率与准确率。 - 参与审核系统（机器、人工内容安全过滤平台）的功能优化，推动技术工具与业务场景的深度高效结合。 3. 跨部门协作与合规管理 - 与法务、产品、运营、营销等部门联动，推动内容安全规范在业务流程中的落地，提供合规建议。 - 能承接来自监管的要求并完成上传下达等沟通落地事宜，熟悉国内游戏行业法规动态（如《网络安全法》《网络信息内容生态治理规定》），确保业务合规。 4. 团队赋能与应急响应 - 指导初级审核人员，输出审核案例与标准，提升团队专业能力。 - 主导重大内容安全事件的应急处理（如舆情爆发、安全保障响应），快速制定解决方案并落地。
1、负责小红书海外审核业务工作，搭建多语言、多组建审核团队，建立7*24小时响应机制，多文化背景的审核流程与标准体系，设计符合国际法规的合规框架； 2、建立海外高危内容规则体系和识别机制，制定风险舆情的感知和响应流程，并结合用户体验搭建申诉和举报链路； 3、持续对审核质量进行归因分析并制定改善策略，通过规则迭代、尺度拉齐、产品功能优化等手段，提升审核质量，降低风险漏放和体验误伤； 4、联动产品等相关团队定期输出海外内容安全洞察报告，驱动安全产品的策略和功能迭代，带领团队发现审核问题和机会点，协作各方拿到收益；
日常实习：面向全体在校生，为符合岗位要求的同学提供为期3个月及以上的项目实践机会。 团队介绍：Flow是字节跳动旗下AI创新业务团队，专注研究新技术赛道相关领域技术和产品，目前已在国内和海外分别上线【豆包】和【Cici】等产品。当下的AI革命正席卷全球，同时带来了巨大变革和机遇。我们相信工具可以改变人类过往生活、工作的方式，也在积极探索应用层的创新，有多个AI相关创新产品在孵化中，团队氛围好，发展空间大，快来加入我们！让我们一起探索前沿的技术理念！为全球用户创造更大价值！ 1、负责猫箱、星绘等AI产品的内容安全治理，对AIGC内容风险进行研判分析，协同标准完成风险定性； 2、基于标准对内容案例进行风险标注，识别涉政/色情等风险内容并提取风险特征； 3、通过案例排查、数据分析归因策略误伤原因，提出优化建议，推动策略准确率提升。