美团大模型安全解决方案专家
任职要求
1. 大学本科及以上学历，计算机、数据科学、算法相关专业优先。 2. 至少3年以上策略产品、安全风控经验，有大模型安全解决方案经验者优先。 3. 有良好的逻辑思维能力和数据分析能力，能对复杂问题完成系统性拆解，并迅速识别关键问题； 4. 具备良好的跨团队沟通能力、协作能力，具备较强的项目管理能力，推动上下游的协作完成。 5. 掌握大模型技术动态、安全方案，具备较强的创新能力和解决问题能力，能够快速应对各种挑战。
工作职责
1. 为AI产品/服务的内容安全防控结果负责，能够通过对业务场景的深度分析，制定适配的解决方案，并落地内容安全策略； 2. 通过定性、定量方法评估策略表现，进行策略迭代更新，不断提升内容安全效果； 3. 对内容有深刻理解和敏锐洞察，持续挖掘新增问题，并进行问题刻画，不断扩大策略覆盖面； 4. 设计合理的大模型安全防控链路，与产研协同推进落地； 5. 深刻理解AI合规要求，设计解决方案，并推动强制性合规要求落地。
1、体系化洞察所负责业务的内、外部风险，挖掘集团各业务条线数据安全需求并形成可落地的通用解决方案； 2、主导完成数据安全各类解决方案的整体规划、需求设计、交付、运营等环节，协同内部平台研发与安全技术团队，推动解决方案落地与实施，确保业务侧数据安全水位的真正提升； 3、沉淀可复制的数据安全风险场景治理经验，集团各业务条线可以高效复用； 4、洞察并理解数据安全合规、产业、攻防趋势，为业务侧数据安全建设提供有效输入。
1)负责跟踪大模型风控的趋势，输出政策解读、合规方案和合规策略，面向公司大模型内容提供合规咨询。 2)基于语言类、多模态类大模型风险防控要求，在大模型内生安全、外置防御、安全测评方面，设计风控策略并推动落地，确保安全与体验的平衡。 3)根据大模型AIGC内容安全管控要求和范围，结合业务特性进行风险评估，设计出适配业务发展需要的内容安全解决方案并推动落地。 4)通过数据分析、评测效果反馈，不断优化安全管控策略，提高大模型安全机审和人审防护质量。 5)与业务、法律、内容安全、GA等团队协作，确保大模型产品符合相关法律法规要求。 6)风险发生时快速应，协同产品技术团队，推动安全问题解决。
1、负责大模型服务安全扫描和防御体系建设，为业务提供可靠的AI服务安全解决方案，平衡用户体验和风险控制，持续优化安全策略； 2、面向AI Agent及其他大模型应用范式，挖掘和研究大模型安全威胁及测试方法，联动产研算建设和运营大模型服务安全扫描能力，结合业务需求及新型大模型应用技术进行优化和升级。 3、基于安全攻防态势、数据分析挖掘和专家经验，围绕大模型应用场景和风险防控目标，设计和运营大模型服务风险防御策略，并与产研算团队深度合作，优化升级风险检测和处置能力。
1. 面向大模型、具身智能、AI眼镜等场景，建设AI安全的测评与防御平台，科学评估AI安全水位，并为高并发业务大模型服务场景提供低打扰防御能力。 2. 深入了解大模型在业务应用中的安全问题，对智能体服务的的工具、知识、大模型应用提供系统性安全解决方案，解决AI与硬件结合的应用安全问题，在人与AI交互的过程中守护AI应用安全底线。 3. 通过语料去毒、再训练、强化学习等手段持续将大模型应用的安全政策与基座模型对齐。 4.不断探索技术新领域，推动技术能力的沉淀和技术氛围的建设。