小红书内容安全工程实习生

1、研究、设计和实现NLP算法和模型，用于内容安全的自动化检测和分类，包括但不限于文本分类、情感分析、语义理解等； 2、开发异常检测算法，监测平台上的异常活动，并分析有害内容传播的模式和趋势； 3、持续优化现有的NLP模型，提高其性能和效率，确保内容安全系统的实时性和可扩展性； 4、与产品、策略等其他相关团队紧密合作，确保内容安全措施与产品逻辑及风险规则相匹配，并能够有效响应不断变化的风险。

岗位背景  我们正在建设面向工业领域（如智能制造、工业自动化、工业软件、OT/IT 融合等）的AI 知识库，用于后续的大模型训练、微调（Fine-tuning）及智能问答、知识推理等应  用。  本岗位将深度参与工业领域数据的收集、清洗、结构化与知识化过程，是 AI 产品从“概念”走向“可用”的关键环节。  工作职责  1. 工业领域数据收集  o 收集并整理工业相关资料，包括但不限于：  § 技术白皮书、产品手册、标准规范（如 IEC、ISO、国家标准等）  § 解决方案文档、用户案例、技术博客、学术/行业报告  o 覆盖领域示例：  § 工业自动化、智能制造、数字化工厂  § 工业网络与通信协议（如 OPC UA、PROFINET、Modbus 等）  § 工业信息安全 / OT Cybersecurity  2. 数据清洗与结构化  o 对收集的非结构化数据进行整理、去重、纠错、分类  o 按要求将数据整理为结构化格式（如 Markdown / JSON / 表格等）  o 对内容进行章节拆分、要点提炼、术语统一  3. 知识标注与知识库构建支持  o 对数据进行基础语义标注（如主题、标签、行业、技术类型）  o 协助构建 Q&A 数据、知识对（Instruction / Question–Answer）  o 按 AI 训练需求整理高质量语料（适用于 RAG / LLM 微调）  4. 与研发/产品协作  o 与 AI 工程师配合，根据训练效果不断优化数据质量  o 理解“模型为什么答不好”，反推数据缺口或结构问题

1. 处理玩家内容安全申诉举报case，包括案例分析、结果核查反馈等全流程，并根据需要优化对应风控策略。 2. 负责风控相关日志和服务的核心字段测试验收工作，建立自动化流程，确保数据质量和准确性，提升业务效率。 3. 负责内容安全相关数据的可视化运营与安全指标体系的设计，包括核心风险指标的定义、监控看板搭建及定期分析报告输出，为策略优化和业务决策提供数据支持。 4. 搭建基于大语言模型的内容安全智能风控体系，包括自动化内容标注、智能问答机器人等，完善大语言模型在内容审核上的应用。 5. 与算法、产品运营、客服、游戏项目组等多部门协调沟通，协助提供完整的内容安全机审人审解决方案。 业务需求： 1、处理内容安全所有客服反馈，包括申诉、举报、case核实等，及时响应项目组和客服的相关信息 2、负责内容安全相关策略运营工作，如gear biztype审核、项目接入沟通、需求沟通、客服处理名单提供以及部分策略调优 3、负责内容安全相关日志、服务接口的核心字段测试验收，辅助建立自动化校验流程（基于agent或编写测试用例等） 4、辅助参与大模型文本风险标注和智能问答机器人的开发

1.研究大模型前沿技术，包括但不限于预训练，指令微调和强化学习等对齐技术，多模态、可控文本生成等； 2.负责大模型高效分布式训练和性能优化； 3.研究模型压缩和推理优化技术，包括但不限于剪枝、量化及知识蒸馏等； 4.推动大模型在搜索、客服、推荐、广告等场景规模化落地； 5.参与大模型平台建设。