小红书模型标注-AI安全产品策略运营
任职要求
1、本科及以上学历，政府关系、新闻、政治类学科优先； 2、拥有3年以上传统人审、机审策略安全产品or运营相关工作经验，若出身AI产品安全策略团队优。 3、熟悉网络安全、数据安全、信息安全等相关领域知识，掌握常见的安全攻击手段与防御策略，具备丰富的安全事件应急响应与处置经验； 4、具备出色的数据分析能力，能够熟练运用数据分析工具（如 Python、…
工作职责
1、整体负责点点业务内容、机审安全策略，能够通过对业务场景的深度分析，制定并落地精细化内容、机审安全策略。 2、通过定性、定量方法评测策略表现，进行策略迭代更新，不断提升内容、机审策略效果。 3、与跨部门团队紧密协作，包括算法、舆情、法务、市场等部门，就产品安全PRD/BRD方案落地实施进行高效沟通与协调，推动产品快速上线。 4、持续跟踪国内外 AI 安全法规政策动态，敏锐洞察行业安全趋势与潜在风险，及时为产品提供安全建议与决策支持，确保产品功能&内容符合法律法规要求，规避合规风险。 5、负责建立完善的安全监测与预警机制，实时监控 AI 产品安全态势，快速识别、响应并处理安全事件，最大限度降低安全事件对产品和用户的影响。 6、负责搭建AI 产品安全策略，通过数据驱动的方式分析线上策略的过滤效果，发现并解决存在的问题，不断优化策略内容与执行流程，降低线上策略误伤&漏放。
1、对业务模型训练效果的数据负责，与算法进行专业对话，结合模型能力要求进行数据策略的制定，为模型效果提供最优解决方案，支持从模型冷启、样本设计、数据生产、效果优化、线上监控的全过程，推动策略迭代提升模型效果； 2、负责搜索、安全生态、内容理解、大模型、商业交易等业务板块的模型需求，基于业务场景模型的应用效果设计运营链路，从模型实际应用收益出发，推动模型的策略、规则、数据链路的优化； 3、基于行业常见智能化应用手段，例如agent、rag、pe等，进行智能化标注策略设计，提供专业的智能化数据方案，搭建人机协同、智能化标注等数据链路，拿到效率、成本的收益； 4、保持数据行业前沿的视角和前瞻性的专业思考，持续推进智能化标注策略迭代，同时辅助内部工具平台、组织与业务交付流程的优化，提出有效建议，提高团队整体业务效率。
1、负责百科词条内容优化的安全、质量把关，服务AI搜主Bot信息知识类需求满足能力建设； 2、对接产品、研发团队，跟进搜索场景内容优化的线索承接、清洗，审核流程与策略维护，提升有效线索的筛查效率和审核有效进审率； 3、对接审核团队，跟进各类标准的敏捷迭代维护和高效准确落地，通过培训、质检、申诉对齐、质量评估等方式提升执行准确率与人效； 4、检查和验收下游交付数据，通过日常数据监控与分析，沉淀问题发现-定性-解决的全链路方案，反推业务流程优化提效，服务审核降本增效。
日常实习：面向全体在校生，为符合岗位要求的同学提供为期3个月及以上的项目实践机会。 团队介绍：抖音集团内容质量与数据服务平台（DOUYIN GROUP CONTENT QUALITY AND DATA SERVICE，简称CQC）是负责抖音集团今日头条、抖音、西瓜等产品内容安全与质量工作的团队，在各产品运营增长方面开展支持工作，为产品线提供数据服务的基础支持。平台下设内容质量中心、数据中心及运营支持中心，在全国10余个城市有业务分布。 1、深入理解AI大模型，对大模型数据以及知识理想态有深刻认知； 2、能准确理解产品研发需求，通过PE(提示词工程)等方法，持续产出符合理想态的高质量内容； 3、负责金融知识场景中大模型数据的标注、质检与策略运营工作； 4、与产品研发协同，针对大模型的突出问题，进行知识的专项攻坚。
1、学习并熟悉内容审核全流程，协助把控内容安全风险，通过数据分析持续优化审核策略，对策略效果及审出率进行追踪和反馈； 2、参与各项内容治理专项项目，协助制定项目目标和解决方案，协调审核规则、人力、质检等团队推动项目顺利落地； 3、支持业务策略迭代工作，包括数据标注与分析、违禁词挖掘、风险内容特征识别等，参与违规案例分析，协助制定相应策略并跟进模型优化落地。