小红书社区安全大模型策略运营
任职要求
1、具备2年及以上大模型相关项目的实践经验，有安全风控经验优先。 2、了解大模型的算法原理，熟悉至少一种主流大模型应用开发框架，有构建Agent的经验。能够独立完成Workflow或Agent的搭建、评测和部署。…
工作职责
1、负责将内容安全/商业安全的治理需求，转化为基于大模型的识别方案。通过PE/RAG/Workflow等技术持续实验和优化，不断提升策略的准确率与召回率。 2、能够开发用于安全场景的Agent和Workflow，实现复杂风险场景的自动化识别、推理和处置。 3、作为大模型技术在安全领域的专家，强目标导向地协同算法、研发、治理、产品等团队，明确技术路径，统筹项目资源，共同实现安全目标。 4、具备产品意识，不仅满足于解决单点问题，更致力于优化产品工具、提升整体安全运营的效率和智能化水平。
1、负责将内容安全/商业安全的复杂治理需求，转化为基于大模型的识别方案。通过PE/RAG/Workflow等技术持续实验和优化，不断提升策略的准确率与召回率。 2、能够开发用于安全场景的Agent和Workflow，实现复杂风险场景的自动化识别、推理和处置。 3、探索大模型及Multi-Agent领域前沿技术，进行技术调研、原型搭建和效果验证，并推动其在业务场景中的规模化应用。 4、作为大模型技术在安全领域的专家，强目标导向地协同算法、研发、治理、产品等团队，明确技术路径，统筹项目资源，共同实现安全目标。 5、具备产品意识，不仅满足于解决单点问题，更致力于优化产品工具、提升整体安全运营的效率和智能化水平。
1、负责申诉机审运营工作，对审核效率进行系统性分析和优化，在成本、效率与质量上建立好的观测方式和优化体系； 2、优化审核工具及大模型算法等机审策略，降低人审率，使人力集中于复杂人工判断任务，提升人力利用效率； 3、跨团队、跨业务沟通，与产品研发对接，负责审核进审策略上线前后测试及数据跟进，推动策略精准率提升； 4、具有项目独立运营能力，能够独立推进项目规划、执行和监控，以及跨部门沟通协调，确保审核策略的有效实施和持续优化，有较强的文档书写能力。
1、根据审核需求，设计和构建合适的Prompt模型，进行实验和测试，并不断优化模型的性能和效果； 2、和算法、产品团队紧密配合，调试和引导模型的提示策略，确保生成的结果符合需求目标； 3、参与设计和实施Prompt工程的规则，将抽象概念转化为具体、有效的提示语，并且能够推动在审核中应用落地； 4、参与PE的迭代与更新，不断完善模型的性能和效果，确保其准确性。
1、负责社区高危红线风险治理策略，精准捕捉不同场景下治理诉求，可独立完成机审策略的搭建设计、效果验证及最终上线落地，确保机审体系能有效识别并拦截风险。 2、负责社区高危红线安全策略全生命周期管理，通过标准化流程保障策略长期有效，避免风险识别能力衰减。 3、将内容安全治理需求转化为基于大模型的识别方案，通过PE/RAG/Workflow等技术持续实验和优化，不断提升策略的准确率与召回率。 4、通过图文、视频等多模态风险的常见识别手段，根据不同的风险特征，精准选型并应用合适的算法模型解决治理问题。 5、构建并监控策略核心数据漏斗，通过深度数据下钻分析，定位策略缺陷和风险漏洞，输出切实可行的优化方案，推动风险识别效果持续迭代提升。 6、强目标导向，协同算法工程师、软件开发工程师、内容治理运营、产品等团队，对齐目标，统筹资源，共同达成安全治理目标。