小红书模型标注-AI安全模型数据运营
任职要求
1、本科及以上学历，计算机、统计学等理科学科优先； 2、拥有3年以上安全模型设计、训练、部署调试经验优先； 3、了解大模型原理，熟悉大模型…
工作职责
1、 独立刻画出符合当前业务场景需求的安全数据体系，包括不限于常规的审核风险体系、生态风险体系等。 2、协同算法设计模型数据策略方案，涵盖专项、非专项安全场景下安全数据训练策略。 3、从模型的数据样本建设、评测体系设计、安全标注自动化升级等，能从模型底座能力上解决策略、模型在用户问题上带来的误伤，漏放。 4、有比较强的agent协同理解，同时具备一定PE技巧，推动安全在各类问题上以自动化形式解决，搭建安全PE-workflow，提升各团队工作效能。 5、能够和算法讨论出适配于不同场景下模型的安全能力（基于数据本身），需要协助算法做好问题分析、数据筛选、策略过滤、模型效果验证。
1、整体负责点点业务内容、机审安全策略，能够通过对业务场景的深度分析，制定并落地精细化内容、机审安全策略。 2、通过定性、定量方法评测策略表现，进行策略迭代更新，不断提升内容、机审策略效果。 3、与跨部门团队紧密协作，包括算法、舆情、法务、市场等部门，就产品安全PRD/BRD方案落地实施进行高效沟通与协调，推动产品快速上线。 4、持续跟踪国内外 AI 安全法规政策动态，敏锐洞察行业安全趋势与潜在风险，及时为产品提供安全建议与决策支持，确保产品功能&内容符合法律法规要求，规避合规风险。 5、负责建立完善的安全监测与预警机制，实时监控 AI 产品安全态势，快速识别、响应并处理安全事件，最大限度降低安全事件对产品和用户的影响。 6、负责搭建AI 产品安全策略，通过数据驱动的方式分析线上策略的过滤效果，发现并解决存在的问题，不断优化策略内容与执行流程，降低线上策略误伤&漏放。
1、对业务模型训练效果的数据负责，与算法进行专业对话，结合模型能力要求进行数据策略的制定，为模型效果提供最优解决方案，支持从模型冷启、样本设计、数据生产、效果优化、线上监控的全过程，推动策略迭代提升模型效果； 2、负责搜索、安全生态、内容理解、大模型、商业交易等业务板块的模型需求，基于业务场景模型的应用效果设计运营链路，从模型实际应用收益出发，推动模型的策略、规则、数据链路的优化； 3、基于行业常见智能化应用手段，例如agent、rag、pe等，进行智能化标注策略设计，提供专业的智能化数据方案，搭建人机协同、智能化标注等数据链路，拿到效率、成本的收益； 4、保持数据行业前沿的视角和前瞻性的专业思考，持续推进智能化标注策略迭代，同时辅助内部工具平台、组织与业务交付流程的优化，提出有效建议，提高团队整体业务效率。
1、对业务模型训练效果的数据负责，与算法进行专业对话，结合模型能力要求进行数据策略的制定，为模型效果提供最优解决方案，支持从模型冷启、样本设计、数据生产、效果优化、线上监控的全过程，推动策略迭代提升模型效果； 2、负责搜索、安全生态、内容理解、大模型、商业交易等业务板块的模型需求，基于业务场景模型的应用效果设计运营链路，从模型实际应用收益出发，推动模型的策略、规则、数据链路的优化； 3、基于行业常见智能化应用手段，例如agent、rag、pe等，进行智能化标注策略设计，提供专业的智能化数据方案，搭建人机协同、智能化标注等数据链路，拿到效率、成本的收益； 4、保持数据行业前沿的视角和前瞻性的专业思考，持续推进智能化标注策略迭代，同时辅助内部工具平台、组织与业务交付流程的优化，提出有效建议，提高团队整体业务效率。
1、数据管理及运营，负责模型数据的质量把控及数据集构建全流程管理； 2、工作协同，积极配合算法、业务及项目负责人，协同完成模型的规划、训练、上线及效果监控； 3、项目管理，管理所负责模型或项目的进度、质量、收益等，对项目成员及结果负责； 4、通过数据分析模型表现，及时反馈问题，针对性提出解决方案，确保项目各项指标符合预期； 5、参与制定项目标准，并不断优化流程，提升项目交付质量。