小红书社区审核大模型策略运营
任职要求
1、本科及以上学历，三年以上工作经验，有汉语言文学/新闻学等相关专业优先； 2、有较好的安全、生态治理需求理解能力和策略设计能力，能站在业务角度将需求转换到大模型应用的层面，对大模型能力擅长点、优化方向有基本的理解； 3、熟悉并掌握Prompt的编写、应用和优化技巧，了解AI Agents原理，对人机辅助有兴趣有行动；了解大语言模型技术，参与过大语言模型的训练和优化迭代过程，包括预训练、SFT以及强化学习等； 4、对大模型有强烈的好奇心，抗压性强。
工作职责
1、根据审核需求，设计和构建合适的Prompt模型，进行实验和测试，并不断优化模型的性能和效果； 2、和算法、产品团队紧密配合，调试和引导模型的提示策略，确保生成的结果符合需求目标； 3、参与设计和实施Prompt工程的规则，将抽象概念转化为具体、有效的提示语，并且能够推动在审核中应用落地； 4、参与PE的迭代与更新，不断完善模型的性能和效果，确保其准确性。
1、负责申诉机审运营工作，对审核效率进行系统性分析和优化，在成本、效率与质量上建立好的观测方式和优化体系； 2、优化审核工具及大模型算法等机审策略，降低人审率，使人力集中于复杂人工判断任务，提升人力利用效率； 3、跨团队、跨业务沟通，与产品研发对接，负责审核进审策略上线前后测试及数据跟进，推动策略精准率提升； 4、具有项目独立运营能力，能够独立推进项目规划、执行和监控，以及跨部门沟通协调，确保审核策略的有效实施和持续优化，有较强的文档书写能力。
1、从内容治理角度出发，通过机审能力建设和提升，实现高效率防控风险的效果； 2、熟悉内容治理全流程，从风险识别-风险召回-风险处置-效果验收等环节全面衡量机审能力水平； 3、熟悉模型和策略制定逻辑，具有全局视角，能系统化提升模型和策略能力，以及提升上线后实际效果； 4、了解大模型的应用，强化大模型在审核全链路的应用，迭代审核模式，多方位提升风险治理效率。
1、参与设计「规则+大模型+人工」分级审核策略，优化动态阈值和处置方案； 2、推动大模型在送审识别、多模态审核等场景落地，主导Prompt优化与效果评测； 3、分析误伤率/召回率数据，定位模型失效场景并推动算法迭代； 4、协同算法、安全生态、法务团队，平衡审核效果与合规风险。
1、负责将内容安全/商业安全的治理需求，转化为基于大模型的识别方案。通过PE/RAG/Workflow等技术持续实验和优化，不断提升策略的准确率与召回率。 2、能够开发用于安全场景的Agent和Workflow，实现复杂风险场景的自动化识别、推理和处置。 3、作为大模型技术在安全领域的专家，强目标导向地协同算法、研发、治理、产品等团队，明确技术路径，统筹项目资源，共同实现安全目标。 4、具备产品意识，不仅满足于解决单点问题，更致力于优化产品工具、提升整体安全运营的效率和智能化水平。