智能互联集团安全部-内容安全大模型算法专家-杭州

1、评测是大模型下半场的重中之重。构建面向大模型的多维度评估体系，包含安全垂域能力（内容、商品、行为风险识别，变异对抗）、通用能力（指令遵循、长上下文理解、工具调用）等。通过算法实现科学有效、持续进化的自动化评估方案，深入大模型训练的各个阶段，为模型能力持续提升提供精准反馈与指导 2、负责基础模型和安全应用的效果评估工作，深度参与安全大模型的性能分析与评估，尤其聚焦于基础模型、多模态、agent、和前沿技术（RL、对抗学习）等方向的能力定向分析，驱动模型迭代优化，直接影响前沿技术落地效果与用户体验 3、紧跟业界人工智能技术前沿动态，结合大模型发展成果，将Agent、RAG、Post-Train等技术在实际场景中落地。积极分享和沉淀关键技术，推动技术创新

1. 面向安全垂域大模型，构建安全领域知识体系，将高质量领域知识转化为适用于大模型的有效训练数据，提升基座模型在业务场景的知识理解与推理能力； 2. 深入研究大语言模型的知识理解、表征与记忆机制，探索知识在模型内部的存储、激活与推理路径，为高效的知识注入提供理论基础； 3. 建立安全领域知识的质量标准和评估体系，驱动安全基座模型的持续迭代与优化，形成“知识-数据-模型-评测”的安全数据飞轮； 4. 探索安全特色的知识增强技术，提升基座模型在安全攻防对抗环境的知识应用与规划能力，通过自我博弈提升模型智能水平。

我们要寻找一位对数据安全和人工智能充满热情的大模型应用算法工程师加入我们的团队。在这里，你将加入一个充满热情的技术团队，参与构建智能化的数据安全防护体系，利用前沿的机器学习与数据挖掘技术，探索大模型在数据安全领域的深度应用。 具体职责包括但不限于： ● 大模型微调与实战 参与开源大模型的后训练（SFT、RL）与效果调优；针对具体的数据安全场景（如敏感词识别、API 风险检测），优化模型推理效果与性能。 ● 数据处理与工程化 参与高质量训练数据集的构建，编写自动化脚本进行数据清洗、增强与合成（Synthetic Data）；协助解决模型部署中的工程问题，提升服务稳定性。 ● 算法落地与迭代 利用 NLP 技术（如 NER 实体识别、文本分类）解决实际业务中的隐私保护问题；持续跟踪测试最新的 RAG、Agent 技术，并在业务中尝试落地。 ● 前沿技术复现 跟踪学界/业界在 LLM 与安全结合领域的最新论文与技术报告，快速复现并验证其在内部场景的有效性。

1. 紧跟海内外相关法律法规动态，及LLM和智能体的风险态势，能构建风险矩阵，定义风险细则。 2. 构建全面、科学的护栏评测集，与算法深度合作，通过评测发现更多模型缺陷，牵引护栏能力的升级。同时整体为能力的运维与交付负责。 3. 深度支持业务，同算法一起为业务提供适配模型及应用的安全解决方案，推动安全策略的有效实施与迭代。