阿里巴巴阿里巴巴研究型实习生-多模态大模型安全评测及原生安全增强
任职要求
1、学历背景：计算机科学、人工智能、网络安全等相关专业，硕士或博士在读。 2、算法基础：熟悉 Transformer 结构，深入理解主流多模态大模型架构（如 LLaVA, GPT-4V, Gemini, Stable Diffusion 等）及其训练/推理机制。 3、攻防经验：了解对抗攻击（Adversarial Attacks）经典算法（如 PGD, FGSM），或有大模型越狱（Jailb…
工作职责
1. 参与多模态大模型（MLLM）及其应用场景的安全风险研究，探索文本、图像、视频、音频等跨模态交互中的新型攻击面（如跨模态语义鸿沟利用、隐写攻击），进行威胁建模与风险定级。 2. 协助开展多模态安全攻防实验，包括视觉/语音越狱（Visual/Audio Jailbreak）、对抗样本生成（Adversarial Perturbation）、跨模态提示注入等，评测主流多模态模型在复杂输入下的鲁棒性与防御边界。 3. 研究多模态大模型的原生安全增强技术，探索基于潜在空间防御（Latent Space Defense）的改进算法，从模型底层提升安全性。 4. 跟踪前沿研究进展，调研多模态学习、对抗机器学习、模型对齐与可信AI领域的顶级会议论文（如CVPR, NeurIPS, ICLR等）及技术方案，为团队提供前沿技术洞察。 5. 协助构建多模态安全评测基准与自动化工具链，沉淀高质量的跨模态攻击数据集，形成可复现的评测流程，支持团队在多维感知场景下的风险分析与能力验证。
1、参与多模态大模型与视觉生成大模型端到端安全评测体系建设，围绕内容安全、对抗鲁棒性、越狱攻击、防御有效性等方向设计并执行系统化评测方案，推动模型安全能力量化与评估标准完善。 2、参与多模态大模型与视觉生成大模型隐层表征风险感知能力研究，构建面向风险识别/安全判别的内部表征分析框架，探索模型在不同语义空间下的风险感知与决策机制。 3、参与多模态大模型与视觉生成大模型可解释性与模型探针（Model Probing）研究与落地，基于探针技术分析模型内部知识编码、风险表征分布及安全行为形成机制，提升模型安全决策透明度与可解释能力。 4、参与面向多模态理解与视觉生成场景的低侵入式插件化原生安全围栏算法研发，探索轻量、高效、可插拔的安全防护机制，提升大模型原生安全能力与部署灵活性。 5、参与多模态大模型与视觉生成大模型原生安全增强技术的探索与落地，研究以低侵入、最小打扰方式提升目标模型解码阶段安全性的关键技术路径，在保障模型安全性的同时平衡生成质量与用户体验。 6、跟踪国内外大模型安全、模型可解释性及 Runtime Safety Alignment等前沿研究进展，复现相关论文与开源方案，推动研究成果在实际业务场景中的落地应用。
1、负责将内容理解、机器学习、流量调控算法能力落地于小红书笔记/评论/直播/商品/账号/广告生态治理场景，技术驱动小红书生态和画风优化 2、具体负责多模态识别、计算机视觉、自然语言处理、语言/多模态大模型、决策树模型等算法的研发迭代，通过样本去噪、样本生成、模型创新、自监督、few-shot等手段持续提高治理效果
团队介绍：国际化商业安全团队致力于在国际化用户、企业和产品之间建立安全可靠的连接。我们通过一系列完善的系统和能力，审核广告内容、预测政策违规行为，并执行广告审核通过或拒绝的措施。作为国际商业化团队的业务合作伙伴，我们提供的业务诚信解决方案不仅确保国际化业务始终是一个安全、积极、友好的用户环境，同时也推动业务增长。 课题介绍：随着数字内容的爆炸式增长，智能审核已成为互联网平台重要的技术能力，但面对日益复杂的审核场景和不断演进的对抗手段，传统审核技术正面临前所未有的挑战。当前智能审核领域存在规则动态性、内容复杂性、样本稀缺性、对抗升级和解释性缺失等诸多技术难题，特别是在涉及审核规则变更、长文本、长时序、多语言、少样本和AIGC生成对抗等问题时，现有的开源大模型表现仍有提升空间。 课题挑战：重点突破多模态推理、Context Engineering、理解与生成统一等核心技术，实现智能决策、自主规划、工具调用和智能修复等能力。 课题价值：打造领先审核系统，实现高质量的是否拒绝、为何拒绝、智能修复全流程能力，实现全机审，效果超人工。