阿里巴巴日常实习生-大模型安全评测与原生安全机制研究

1、参与多模态大模型与视觉生成大模型端到端安全评测体系建设，围绕内容安全、对抗鲁棒性、越狱攻击、防御有效性等方向设计并执行系统化评测方案，推动模型安全能力量化与评估标准完善。 2、参与多模态大模型与视觉生成大模型隐层表征风险感知能力研究，构建面向风险识别/安全判别的内部表征分析框架，探索模型在不同语义空间下的风险感知与决策机制。 3、参与多模态大模型与视觉生成大模型可解释性与模型探针（Model Probing）研究与落地，基于探针技术分析模型内部知识编码、风险表征分布及安全行为形成机制，提升模型安全决策透明度与可解释能力。 4、参与面向多模态理解与视觉生成场景的低侵入式插件化原生安全围栏算法研发，探索轻量、高效、可插拔的安全防护机制，提升大模型原生安全能力与部署灵活性。 5、参与多模态大模型与视觉生成大模型原生安全增强技术的探索与落地，研究以低侵入、最小打扰方式提升目标模型解码阶段安全性的关键技术路径，在保障模型安全性的同时平衡生成质量与用户体验。 6、跟踪国内外大模型安全、模型可解释性及 Runtime Safety Alignment等前沿研究进展，复现相关论文与开源方案，推动研究成果在实际业务场景中的落地应用。

1、参与大模型安全评测体系的设计与建设，围绕内容安全、价值观对齐与越狱攻击等方向，搭建多维度、多场景、多语种的系统化评测方案，推动模型安全能力的量化分析与行业评估标准的完善。 2、参与大模型安全评测数据集构建与维护，覆盖通用风险、垂直领域风险及长尾风险等场景，探索基于红队对抗（Red Teaming）、自动化Prompt生成、合成数据等技术的高质量评测样本生产方案。 3、参与基于LLM-as-a-Judge的自动化评判方法研究与落地，探索评判模型的偏差校准、不确定性量化及与人类标注一致性提升的关键技术路径，构建可信、可解释的安全评测闭环。 4、参与自动化安全评测工具链与评测平台的研发与迭代，沉淀可复用的评测Pipeline与Judge模型能力，提升评测效率、覆盖度与结果一致性，支撑大模型版本迭代过程中的安全回归与持续监控。 5、跟踪国内外大模型安全评测、AI Safety Benchmark、Red Teaming 等前沿研究进展，复现相关论文与开源方案（如HarmBench、JailbreakBench、SafetyBench等），推动研究成果在实际评测场景中的落地应用。

1.参与大语言模型的安全性研究，识别模型在实际应用中的潜在风险； 2.协助设计和实现针对提示攻击、生成内容合规性、对抗样本检测等方面的防御机制； 3.跟踪前沿大模型安全技术，包括但不限于红队测试、安全评估框架、隐私保护等； 4.搭建实验环境，进行系统性测试与评估，输出研究报告或技术文档； 5.与团队协作，支持产品级安全能力的落地与优化。

岗位面向行为风控这一高度复杂且动态对抗的业务场景，支持反爬、作弊、欺诈、账号安全、恶意行为等核心风控业务，聚焦大模型后训练与Agentic等前沿技术，探索下一代智能风控基座和行为域基模解决方案。 1、参与行为域数据体系建设：面向行为风控场景中的结构化、序列化、图表化等数据，参与数据处理、任务构建和评测方案设计；探索面向结构化数据的大模型后训练方法，参与行为特色“世界模型”的研究与验证。 2、参与强化学习方案设计：围绕行为风控中的复杂任务，参与Reward System、RL后训练、复杂决策、自我博弈等方向的研究与实验；协助推进全链路情报分析与风险决策能力的建模和优化。 3、参与Agent训练环境和方案构建：面向行为分析、识别、挖掘、链路还原、路径推演等场景，参与可扩展Agent训练环境的设计、搭建与迭代；支持复杂任务下Agent能力评测、训练数据构造和效果分析。 4、参与技术探索与效果分析：跟进大模型后训练、RLHF、Agent、世界模型等方向的前沿研究；结合业务场景，参与实验设计、结果分析和方案迭代，推动研究成果向真实业务问题靠近。