小红书社区安全大模型策略运营
社招全职2年以上审核策略地点:北京 | 上海 | 武汉状态:招聘
任职要求
1、具备2年及以上大模型相关项目的实践经验,有安全风控经验优先。 2、了解大模型的算法原理,熟悉至少一种主流大模型应用开发框架,有构建Agent的经验。能够独立完成Workflow或Agent的搭建、评测和部署。 3、具备比较好的业务理解能力,熟悉prompt指令构造,能根据业务(标注、审核)需求梳理业务运营逻辑,制定解决方案; 4、具备优秀的沟通协作能力,强烈的责任心和owner意识,敢于挑战常规思路,很强的内外视野。
工作职责
1、负责将内容安全/商业安全的治理需求,转化为基于大模型的识别方案。通过PE/RAG/Workflow等技术持续实验和优化,不断提升策略的准确率与召回率。 2、能够开发用于安全场景的Agent和Workflow,实现复杂风险场景的自动化识别、推理和处置。 3、作为大模型技术在安全领域的专家,强目标导向地协同算法、研发、治理、产品等团队,明确技术路径,统筹项目资源,共同实现安全目标。 4、具备产品意识,不仅满足于解决单点问题,更致力于优化产品工具、提升整体安全运营的效率和智能化水平。
包括英文材料
AI agent+
https://www.ibm.com/think/ai-agents
Your one-stop resource for gaining in-depth knowledge and hands-on applications of AI agents.
算法+
https://roadmap.sh/datastructures-and-algorithms
Step by step guide to learn Data Structures and Algorithms in 2025
https://www.hellointerview.com/learn/code
A visual guide to the most important patterns and approaches for the coding interview.
https://www.w3schools.com/dsa/
大模型+
https://www.youtube.com/watch?v=xZDB1naRUlk
You will build projects with LLMs that will enable you to create dynamic interfaces, interact with vast amounts of text data, and even empower LLMs with the capability to browse the internet for research papers.
https://www.youtube.com/watch?v=zjkBMFhNj_g
开发框架+
[英文] Understanding Modern Development Frameworks: A Guide for Developers and Technical Decision-makers
https://www.freecodecamp.org/news/understanding-modern-development-frameworks-guide-for-devs/
Prompt+
https://cloud.google.com/vertex-ai/generative-ai/docs/learn/prompts/introduction-prompt-design
A prompt is a natural language request submitted to a language model to receive a response back.
https://learn.microsoft.com/en-us/azure/ai-foundry/openai/concepts/prompt-engineering
These techniques aren't recommended for reasoning models like gpt-5 and o-series models.
https://www.youtube.com/watch?v=LWiMwhDZ9as
Learn and master the fundamentals of Prompt Engineering and LLMs with this 5-HOUR Prompt Engineering Crash Course!
相关职位
社招2年以上审核策略
1、负责将内容安全/商业安全的复杂治理需求,转化为基于大模型的识别方案。通过PE/RAG/Workflow等技术持续实验和优化,不断提升策略的准确率与召回率。 2、能够开发用于安全场景的Agent和Workflow,实现复杂风险场景的自动化识别、推理和处置。 3、探索大模型及Multi-Agent领域前沿技术,进行技术调研、原型搭建和效果验证,并推动其在业务场景中的规模化应用。 4、作为大模型技术在安全领域的专家,强目标导向地协同算法、研发、治理、产品等团队,明确技术路径,统筹项目资源,共同实现安全目标。 5、具备产品意识,不仅满足于解决单点问题,更致力于优化产品工具、提升整体安全运营的效率和智能化水平。
更新于 2025-09-30
社招3-5年审核策略
1、根据审核需求,设计和构建合适的Prompt模型,进行实验和测试,并不断优化模型的性能和效果; 2、和算法、产品团队紧密配合,调试和引导模型的提示策略,确保生成的结果符合需求目标; 3、参与设计和实施Prompt工程的规则,将抽象概念转化为具体、有效的提示语,并且能够推动在审核中应用落地; 4、参与PE的迭代与更新,不断完善模型的性能和效果,确保其准确性。
更新于 2025-07-28
社招3年以上审核策略
1、负责申诉机审运营工作,对审核效率进行系统性分析和优化,在成本、效率与质量上建立好的观测方式和优化体系; 2、优化审核工具及大模型算法等机审策略,降低人审率,使人力集中于复杂人工判断任务,提升人力利用效率; 3、跨团队、跨业务沟通,与产品研发对接,负责审核进审策略上线前后测试及数据跟进,推动策略精准率提升; 4、具有项目独立运营能力,能够独立推进项目规划、执行和监控,以及跨部门沟通协调,确保审核策略的有效实施和持续优化,有较强的文档书写能力。