新浪微博AI 安全专员
任职要求
1. 计算机、人工智能、信息安全或相关专业本科及以上学历； 2. 拥有攻防对抗、安全运营、大模型安全领域相关工作经验者优先； 3. 至少熟练掌握一门编程语言，如Python、golang、Java等； 4. 熟悉web/二进制漏洞原理及利用方式，能够独立编写漏洞PoC或EXP； 5. 理解大模型技术基本原理，掌握TensorFlow/PyTorch等框架，具备大模型微调（SFT/RLHF）经验； 6. 具备AI与信息安全重叠领域研究或实践背景，具备大模型在安全运营方面落地经验者优先； 7. 熟悉互联网甲方安全防御体系，能够将AI应用于安全攻防并形成有效应对； 8.具备问题分析与解决能力，自我驱动，善于跨团队合作，拥有良好协同组织能力。
工作职责
1. 负责研究大模型及AI Agent应用的安全挑战，研究方向全面覆盖模型安全、数据安全、隐私安全、应用安全以及安全攻防对抗等多个关键领域； 2. 主导大模型在安全运营领域的应用建设，从整体规划、需求设计到实施和运营，确保大模型有效提升安全运营效率并成功落地； 3. 负责攻防能力体系的建设和优化，通过强化安全建设和应急响应机制，提升安全运营能力； 4. 增强业务侧应用大模型的安全防护，全方位提升业务侧大模型的安全性； 5. 紧密追踪前沿攻防技术、AI安全及大模型领域的技术动态，结合公司业务与安全需求，持续完善攻击验证与防御策略。
1.主导蚂蚁国际安全产品的规划设计，协同国际业务、风险政策、风险运营等团队一同提升蚂蚁国际风控安全能力； 2.承接蚂蚁国际风控需求管理，将客户需求转换为产品解决方案及流程机制，主导产品落地实施和改进优化； 3.从风控视角对蚂蚁国际业务的客户体验、商户服务、安全运营机制等进行需求分析和机制优化，为业务提出合理的安全业务建议。 4.使用AI模型的新技术，与开发/算法团队紧密合作，探索安全产品创新形态；
1、AI客服系统日常运营 -负责大模型驱动的智能客服对话流监控与调优，实时诊断异常对话场景 -基于用户反馈与业务需求，对接供应商优化Prompt工程设计与知识库结构，提升首次解决率 2、数据驱动效能提升 -监测关键指标：对话满意度、意图识别准确率、转人工率，定期生成运营洞察报告 -构建领域专属语料库，协同算法团队完成垂类场景的模型强化训练 3、风险管理与合规 -建立AI应答内容安全审核机制，预防法律/品牌声誉风险 -制定应急预案，确保系统故障时人工服务无缝接管 4、跨部门协作与创新 -联动产品、技术团队推动需求落地，例如知识库动态更新接口开发、多模态（语音/图像）应答功能迭代
一、全链路质量管理 推动资源设计业务（策划、设计、交付）全流程IT化建设能力，建立标准化质检体系，确保素材质量符合业务需求； 需定期输出质量评估报告，推动跨部门协作优化生产流程，提升素材投产效率。 二、法律风控合规管理与效率优化 制定全球本地化素材生产中的法律风险（如侵权、肖像权争议）应对策略；定期审核素材资源（版权素材、第三方合作资源等）的可用性、合规性及安全性，建立分类分级管理体系； 制定完善机审+人审策略，推动自动化工具落地，提升资源审核效率 三、PUGC/AIGC流程标准化建设 了解制定PUGC及AI生成内容（如图像）的全流程SOP，涵盖创作者管理、素材审核、版权声明等环节； 设计AI生成内容合规筛查规则，包括版权溯源、风险标识及伦理边界把控。
1、根据大模型AIGC内容安全管控要求，结合业务特性，设计适配业务发展需要的内容安全解决方案，并推动落地。 2、研究大模型技术行业前沿趋势，沉淀安全领域知识经验体系和方法论，及时迭代安全策略以确保合规。 3、通过数据分析、评测效果反馈，挖掘大模型产品存在的安全隐患并给出合理性分析。 4、负责模型数据训练框架建设、定义数据价值，完成标注标准建设和流程优化 5、风险发生时快速响应，协同产研算技术团队，推动安全问题解决。