携程大模型安全实习生(MJ032780)
任职要求
技术要求： 1、 熟练掌握Python编程，熟悉Dify、LangChain或LangGraph等LLM应用开发框架； 2、 具备Prompt工程经验，能编写高效提示词以优化模型输出； 3、 熟悉大模型应用技术（如RAG、Multi-Agent、MCP等），了解模型微…
工作职责
1、应用RAG、CoT、Agent等LLM技术，优化安全产品的智能化功能，提升模型输出质量和系统效率； 2、协助大模型微调、部署和测试； 3、配合团队进行技术调研，整理相关文档或报告。
1、参与大模型安全评测体系的设计与建设，围绕内容安全、价值观对齐与越狱攻击等方向，搭建多维度、多场景、多语种的系统化评测方案，推动模型安全能力的量化分析与行业评估标准的完善。 2、参与大模型安全评测数据集构建与维护，覆盖通用风险、垂直领域风险及长尾风险等场景，探索基于红队对抗（Red Teaming）、自动化Prompt生成、合成数据等技术的高质量评测样本生产方案。 3、参与基于LLM-as-a-Judge的自动化评判方法研究与落地，探索评判模型的偏差校准、不确定性量化及与人类标注一致性提升的关键技术路径，构建可信、可解释的安全评测闭环。 4、参与自动化安全评测工具链与评测平台的研发与迭代，沉淀可复用的评测Pipeline与Judge模型能力，提升评测效率、覆盖度与结果一致性，支撑大模型版本迭代过程中的安全回归与持续监控。 5、跟踪国内外大模型安全评测、AI Safety Benchmark、Red Teaming 等前沿研究进展，复现相关论文与开源方案（如HarmBench、JailbreakBench、SafetyBench等），推动研究成果在实际评测场景中的落地应用。
1.负责行业/领域大模型算法能力研发，包括但不限于安全对齐、安全围栏、幻觉检测、隐私保护等，满足内外部客户对内容安全、抑制模型幻觉、模型性能提升、智能体安全的需求； 2.深入研究大模型相关技术，跟进业务最新趋势，包括benchmark构建、CoT数据合成、模型微调与强化学习等方面，建设公司在领域的影响力。
1、参与大模型端到端安全评测体系建设，围绕内容安全、对抗鲁棒性、越狱攻击、防御有效性等方向设计并执行系统化评测方案，推动模型安全能力量化与评估标准完善。 2、参与大模型隐层表征风险感知能力研究，构建面向风险识别/安全判别的内部表征分析框架，探索模型在不同语义空间下的风险感知与决策机制。 3、参与大模型可解释性与模型探针（Model Probing）研究与落地，基于探针技术分析模型内部知识编码、风险表征分布及安全行为形成机制，提升模型安全决策透明度与可解释能力。 4、参与面向语言理解及多模态理解场景的低侵入式插件化原生安全围栏算法研发，探索轻量、高效、可插拔的安全防护机制，提升大模型原生安全能力与部署灵活性。 5、参与大模型原生安全增强技术的探索与落地，研究以低侵入、最小打扰方式提升目标模型解码阶段安全性的关键技术路径，在保障模型安全性的同时平衡生成质量与用户体验。 6、跟踪国内外大模型安全、模型可解释性及 Runtime Safety Alignment等前沿研究进展，复现相关论文与开源方案，推动研究成果在实际业务场景中的落地应用。
1.参与大语言模型的安全性研究，识别模型在实际应用中的潜在风险； 2.协助设计和实现针对提示攻击、生成内容合规性、对抗样本检测等方面的防御机制； 3.跟踪前沿大模型安全技术，包括但不限于红队测试、安全评估框架、隐私保护等； 4.搭建实验环境，进行系统性测试与评估，输出研究报告或技术文档； 5.与团队协作，支持产品级安全能力的落地与优化。