字节跳动大模型安全运营专家-Data
任职要求
1、有人工智能或技术平台服务经验者优先，有比较强的客户服务意识； 2、熟悉用户研究和市场分析方法，能够运用数据分析工具进行用户行为分析； 3、出色的沟通技巧和人际交往能力，能够与用户和团队成员建立良好的关系； 4、具备项目管理能力，能够在快节奏的环境中有效管理多个项目； 5、对数据敏感，能够熟练使用数据分析工具，如Excel、SQL等； 6、具有创新思维和解决问题的能力，能够提出并实施新的运营策略，具有良好的团队合作精神和领导能力。
工作职责
1、整体负责海外大模型业务内容安全策略，能够通过对业务场景的深度分析，打造符合方舟自己的海外内容安全策略； 2、内部定模型准入标准，所有的模型符合这个内容安全的标准后才可以上线； 3、外部定沟通口径，负责销售/商务反馈的关于内容安全问询的应对、海外媒体的应对； 4、总结客户诉求，来对内部模型和模型外部策略提出要求，与安全产品、技术紧密协作，推进对应的产品或者方案落实； 5、持续发现与挖掘新增问题，并进行问题刻画，不断扩大策略覆盖面，搭建”风险发现→风险研判→风险刻画→标准执行”的完整运营流程机制； 6、了解海外各国的AIGC内容安全策略以及商业化策略，实时关注和解读海外各区域的安全政策从而保持产品的合规性。
日常实习：面向全体在校生，为符合岗位要求的同学提供为期3个月及以上的项目实践机会。 团队介绍：抖音集团内容质量与数据服务平台（DOUYIN GROUP CONTENT QUALITY AND DATA SERVICE，简称CQC）是负责抖音集团今日头条、抖音、西瓜等产品内容安全与质量工作的团队，在各产品运营增长方面开展支持工作，为产品线提供数据服务的基础支持。平台下设内容质量中心、数据中心及运营支持中心，在全国10余个城市有业务分布。 1、负责规模化运营外包专家团队，制定和优化人工评估流程和标准，对专家评估结果进行质量把控，进行数据分析，撰写评估报告，为模型优化提供可靠依据； 2、搭建自动评估和标注体系，编写PE和Workflow程序，实现评估数据的规模生成与筛选，协同产品研发团队完成自动评估系统搭建与优化； 3、制作自动评估的评测集，从多样性、时效性、真实性、区分度等维度，保障评测集的质量，辅助研发快速迭代。
1、负责蚂蚁全站数据研发平台Dataphin实时相关体系建设，包括通用+智能(流批一体，Codeless)研发平台，质量保障平台，支撑智能化商业决策和运营，让数据快速释放价值； 2、负责蚂蚁全站数据研发平台Dataphin基础设施相关体系建设，保障全站用户稳定，高效，安全进行数据生产建设； 3、负责蚂蚁集团受控加工平台的应用架构设计和系统实施，通过体系化并具有前瞻性的能力建设，确保研发时即受控保障、事前可灰度观测、事中可观测预警、事后可应急快恢，使得数据三板斧和数据SLA在蚂蚁数据域全面落地。
1、负责蚂蚁全站数据研发平台Dataphin实时相关体系建设，包括通用+智能(流批一体，Codeless)研发平台，质量保障平台，支撑智能化商业决策和运营，让数据快速释放价值； 2、负责蚂蚁全站数据研发平台Dataphin基础设施相关体系建设，保障全站用户稳定，高效，安全进行数据生产建设； 3、负责蚂蚁集团受控加工平台的应用架构设计和系统实施，通过体系化并具有前瞻性的能力建设，确保研发时即受控保障、事前可灰度观测、事中可观测预警、事后可应急快恢，使得数据三板斧和数据SLA在蚂蚁数据域全面落地。
1、负责大模型服务安全扫描和防御体系建设，为业务提供可靠的AI服务安全解决方案，平衡用户体验和风险控制，持续优化安全策略； 2、面向AI Agent及其他大模型应用范式，挖掘和研究大模型安全威胁及测试方法，联动产研算建设和运营大模型服务安全扫描能力，结合业务需求及新型大模型应用技术进行优化和升级。 3、基于安全攻防态势、数据分析挖掘和专家经验，围绕大模型应用场景和风险防控目标，设计和运营大模型服务风险防御策略，并与产研算团队深度合作，优化升级风险检测和处置能力。