阿里云阿里云智能-大模型安全运营专家-杭州

1. 平台风险治理：深入理解监管合规要求与平台业务发展节奏，结合产品实际能力与行业竞对情况，制定切实可落地的平台安全方案；并具备在业务快速迭代环境中动态调整安全策略的能力，推动安全与业务协同发展而非相互掣肘； 2. 算法安全管控：结合大模型的新能力与新风险特征，系统性设计安全管控框架，综合平衡风险召回率、用户体验、产品性能与稳定性、行业整体水位等多维目标； 3. 知识产权合规：持续跟进国内外 AIGC 领域知识产权重点案例与监管走向，开展系统性合规调研，结合平台业务场景输出具备实操性的治理判断与风险应对建议，协助平台建立主动、前瞻的知识产权合规机制。

1、深入研究大模型在对话交互、内容生成等场景下的潜在安全风险（如幻觉、偏见、诱导违规、价值观偏差等）。结合国家相关法律法规及监管要求，制定并持续迭代千问大模型的内容安全审核规则、风险分类分级标准及防御策略； 2、负责日常及突发风险事件的监测与处置，通过Badcase挖掘与归因分析，快速响应并解决模型输出中的安全问题。针对提示词注入、越狱攻击等新型攻击手段，设计针对性的防御机制与拦截策略，持续降低模型回复的风险率； 3、协同算法与产品团队，构建高质量的“红队测试”数据集与安全对齐语料。通过Prompt优化、RAG（检索增强生成）干预、安全代答策略等手段，推动模型在安全维度的持续调优，实现“以模护模”的自动化风险拦截； 4、建立大模型内容安全评估体系，在模型迭代、备案及上线前开展全方位的安全评测与压力测试，输出风险评估报告，确保模型在全生命周期内的合规性与鲁棒性。

1、负责大模型安全运营工作，包括大模型内容安全、大模型系统安全； 2、负责大模型安全策略体系、应急响应机制、安全标准体系、大模型安全风险指标体系建设。 3、协同AI安全部算法、工程、产品，构建大模型安全运营体系； 4、与京东内部大模型应用方协同，推动大模型安全能力落地各京东大模型应用场景。

ByteIntern：面向2027届毕业生（2026年9月-2027年8月期间毕业），为符合岗位要求的同学提供转正机会。 团队介绍：CQC（中国内容质量与数据服务平台）归属于抖音集团，负责今日头条、抖音、西瓜视频等产品内容和抖音集团商业内容的安全质量与体验，支持各产品的运营和增长，以及为产品线提供AI算法算力的基础支持服务。 1、基于安全策略需求，负责为算法训练提供高质量数据支持，覆盖数据挖掘、筛选、清洗及标注规范制定； 2、通过SQL及数据分析工具，深入挖掘线上数据，定位模型安全能力短板，输出可量化的优化方向； 3、与下游标注团队紧密协作，承担精标项目的需求对接、任务拆解与进度跟进，保障数据交付质量与效率； 4、参与安全策略效果评估，结合准确率、召回率等核心指标，持续跟踪数据投入对模型能力的提升效果。