阿里云阿里云智能-内容安全策略运营专家-上海
任职要求
1. 本科及以上学历优先，工作有激情，有自驱力、学习力强，对内容安全事件敏感度高； 2. 具备独立数据分析能力，有逻辑性，熟练掌握 SQL 技能，能交付业务分析报告； 3…
工作职责
1. 深入理解企业客户的大模型应用场景和功能，输出安全解决方案，以商业化标准交付客户需求； 2. 按照大模型监管的法律法规、技术标准，完成大模型应用场景的日常安全运营，为安全和体验的业务结果负责，持续进行评估与改进。同时，运营动作需要规范化，定期向客户输出审计报告； 3. 完成主管机关发起的大模型合规检查、指令处置工作； 4. 和产研、算法团队深度合作，通过评测、外层护栏、安全运营平台产品等各类能力，提升安全水位。
1、负责社区内容安全的治理策略产品和运营，需要基于监管、舆情、用户的需求，提供应急保障及治理策略； 2、收集和感知关于该专项的各类风险信息，对问题进行全面、专业的分析和定位，明确治理范围和治理方向； 3、通过项目管理的方式，充分拉通GA、PR、算法、数分、审核等角色，实现项目目标。
1、负责生活服务内容场景的风控安全策略/功能设计，保障整个生态安全，内容真实可信； 2、设计体系化的风险策略，及时掌握潜在风险及业务的变化，协调上下游团队提升整体风控能力； 3、与产品、数据、技术团队深度合作，沉淀风控能力，设计和构建智能化风控产品、流程和机制。
1、负责将内容安全/商业安全的治理需求，转化为基于大模型的识别方案。通过PE/RAG/Workflow等技术持续实验和优化，不断提升策略的准确率与召回率。 2、能够开发用于安全场景的Agent和Workflow，实现复杂风险场景的自动化识别、推理和处置。 3、作为大模型技术在安全领域的专家，强目标导向地协同算法、研发、治理、产品等团队，明确技术路径，统筹项目资源，共同实现安全目标。 4、具备产品意识，不仅满足于解决单点问题，更致力于优化产品工具、提升整体安全运营的效率和智能化水平。
1、负责小红书海外审核业务工作，搭建多语言、多组建审核团队，建立7*24小时响应机制，多文化背景的审核流程与标准体系，设计符合国际法规的合规框架； 2、建立海外高危内容规则体系和识别机制，制定风险舆情的感知和响应流程，并结合用户体验搭建申诉和举报链路； 3、持续对审核质量进行归因分析并制定改善策略，通过规则迭代、尺度拉齐、产品功能优化等手段，提升审核质量，降低风险漏放和体验误伤； 4、联动产品等相关团队定期输出海外内容安全洞察报告，驱动安全产品的策略和功能迭代，带领团队发现审核问题和机会点，协作各方拿到收益；