小红书社区模型标注-AI安全模型数据运营
任职要求
1、本科及以上学历，计算机、统计学等理科学科优先； 2、拥有3年以上安全模型设计、训练、部署调试经验优先； 3、了解大模型原理，熟悉大模型的训练、优化迭代链路； 4、掌握prompt撰写、应用和优化技巧，深度理解agent原理，能够将安全策略与技术结合起来，实现人机协同作业；
工作职责
1、 独立刻画出符合当前业务场景需求的安全数据体系，包括不限于常规的审核风险体系、生态风险体系等。 2、协同算法设计模型数据策略方案，涵盖专项、非专项安全场景下安全数据训练策略。 3、从模型的数据样本建设、评测体系设计、安全标注自动化升级等，能从模型底座能力上解决策略、模型在用户问题上带来的误伤，漏放。 4、有比较强的agent协同理解，同时具备一定PE技巧，推动安全在各类问题上以自动化形式解决，搭建安全PE-workflow，提升各团队工作效能。 5、能够和算法讨论出适配于不同场景下模型的安全能力（基于数据本身），需要协助算法做好问题分析、数据筛选、策略过滤、模型效果验证。
1、数据管理及运营，负责模型数据的质量把控及数据集构建全流程管理； 2、工作协同，积极配合算法、业务及项目负责人，协同完成模型的规划、训练、上线及效果监控； 3、项目管理，管理所负责模型或项目的进度、质量、收益等，对项目成员及结果负责； 4、通过数据分析模型表现，及时反馈问题，针对性提出解决方案，确保项目各项指标符合预期； 5、参与制定项目标准，并不断优化流程，提升项目交付质量。
1、数据管理及运营，负责模型数据的质量把控及数据集构建全流程管理； 2、工作协同，积极配合算法、业务及项目负责人，协同完成模型的规划、训练、上线及效果监控； 3、项目管理，管理所负责模型或项目的进度、质量、收益等，对项目成员及结果负责； 4、通过数据分析模型表现，及时反馈问题，针对性提出解决方案，确保项目各项指标符合预期； 5、参与制定项目标准，并不断优化流程，提升项目交付质量。
1、学习并熟悉内容审核全流程，协助把控内容安全风险，通过数据分析持续优化审核策略，对策略效果及审出率进行追踪和反馈； 2、参与各项内容治理专项项目，协助制定项目目标和解决方案，协调审核规则、人力、质检等团队推动项目顺利落地； 3、支持业务策略迭代工作，包括数据标注与分析、违禁词挖掘、风险内容特征识别等，参与违规案例分析，协助制定相应策略并跟进模型优化落地。
1、设计AI标注及项目管理平台，包括传统数据标注及大模型数据标注，为用户提供数据标注作业服务及项目管理服务，包括数据采集、清洗、标注等环节，服务项目提需到结算的全流程; 2、独立完成平台产品需求分析和规划，设计产品原型，并撰写需求文档，包括定义、设计、推进等工作，对业务需求持续收集及梳理，从具体需求中抽象出平台级通用化功能组件能力； 3、持续提升AI智能化标注能力并平台化，替代重复工作，紧跟行业及业务探索辅助提升质量及效率，打造高效的人机协同的平台模式； 4、与研发、运营等部门密切合作，推进产品的快速升级，保证产品按时、高质量上线。