阿里云阿里云智能-大模型安全运营专家-杭州
任职要求
1. 本科及以上学历，计算机、人工智能、信息安全、数理统计等相关专业；
2. 3 年以上内容安全、平台风险治理或 AI 安全领域从业经验，有完整国内外安全治理项目主导经验优先；
3. 熟悉国内外 AI 主要监管框架，能够将监管要求有效转化为可执行的平台规范…工作职责
1. 平台风险治理：深入理解监管合规要求与平台业务发展节奏，结合产品实际能力与行业竞对情况，制定切实可落地的平台安全方案；并具备在业务快速迭代环境中动态调整安全策略的能力，推动安全与业务协同发展而非相互掣肘； 2. 算法安全管控：结合大模型的新能力与新风险特征，系统性设计安全管控框架，综合平衡风险召回率、用户体验、产品性能与稳定性、行业整体水位等多维目标； 3. 知识产权合规：持续跟进国内外 AIGC 领域知识产权重点案例与监管走向，开展系统性合规调研，结合平台业务场景输出具备实操性的治理判断与风险应对建议，协助平台建立主动、前瞻的知识产权合规机制。
1、负责大模型服务安全扫描和防御体系建设，为业务提供可靠的AI服务安全解决方案，平衡用户体验和风险控制，持续优化安全策略； 2、面向AI Agent及其他大模型应用范式，挖掘和研究大模型安全威胁及测试方法，联动产研算建设和运营大模型服务安全扫描能力，结合业务需求及新型大模型应用技术进行优化和升级。 3、基于安全攻防态势、数据分析挖掘和专家经验，围绕大模型应用场景和风险防控目标，设计和运营大模型服务风险防御策略，并与产研算团队深度合作，优化升级风险检测和处置能力。
1. 与安全运营、产品等团队紧密合作，负责团队的建设、管理与激励，确保团队成员的技术成长与职业发展，打造高效、创新的研发团队。确保云安全工具与平台能够有效支持公司整体安全策略； 2. 主导云安全保障工具及平台的架构设计与开发，确保其高性能、高可用性和可扩展性； 3. 深入研究AI大模型在云安全领域的应用，制定AI应用的技术路线图，带领团队开发基于AI的安全防护算法与工具，提升安全平台的智能化水平。
1. 通用合规治理，对云平台发现的安全合规风险进行跟踪治理，建立专有云合规运营基线，主导阿里云与客户的安全责任边界划分，制定清晰的责任归属模型，确保双方权责明确； 2. 重点合规要求落地，落实关基、国产化、大模型等重点合规要求领域的能力要求，确保各项安全合规义务要求能够落实； 3. 云平台制度规范体系建设，建立云平台安全管理制度体系，包括不限于运维、风险管理、数据安全等领域； 4. 建立专有云合规知识库，沉淀典型场景解决方案并复用，降低平台合规成本。
1、根据公司战略和产品设计制定并完善大模型安全策略，确保模型生成内容的合法性、道德性和准确性；保障相关服务应用的安全性和可用性； 2、研究大模型技术发展前沿趋势、相关法律法规及行业标准，及时更新调整安全策略以确保合规并持续处于行业领先水平； 3、熟练掌握大模型安全评测和防御机制，主动发现和识别问题，通过应用模型微调、提示增强等手段提升内生和外围安全能力； 4、研究探索大模型安全相关技术手段和创新，持续优化、提升策略效能和对客体验；响应和处理相关突发事件和问题，及时采取措施降低负面影响。