阿里巴巴集团安全部-大模型训练/Agent算法工程师/专家-杭州/北京
任职要求
1、计算机、人工智能或相关专业硕士及以上学历 2、3年以上大模型/智能体算法经验，精通大模型和智能体的基本原理与训练方法 3、具备优秀的结构化思维和信息提炼能力，善于沟通和跨团队协作 4、…
工作职责
1、探索知识和评测驱动的模型自主训练闭环链路，实现大模型训练自进化框架 2、基于业务需求，利用自主训练闭环链路训练安全基础模型，保持通用能力不降的前提下提升业务效果 3、与工程团队合作搭建Agentic环境，负责Agent相关训练和评测 4、研究安全场景的知识和评测问题，发表论文、专利、开源评测集等成果
我们要寻找一位对数据安全和人工智能充满热情的大模型应用算法工程师加入我们的团队。在这里，你将加入一个充满热情的技术团队，参与构建智能化的数据安全防护体系，利用前沿的机器学习与数据挖掘技术，探索大模型在数据安全领域的深度应用。 具体职责包括但不限于： ● 大模型微调与实战 参与开源大模型的后训练（SFT、RL）与效果调优；针对具体的数据安全场景（如敏感词识别、API 风险检测），优化模型推理效果与性能。 ● 数据处理与工程化 参与高质量训练数据集的构建，编写自动化脚本进行数据清洗、增强与合成（Synthetic Data）；协助解决模型部署中的工程问题，提升服务稳定性。 ● 算法落地与迭代 利用 NLP 技术（如 NER 实体识别、文本分类）解决实际业务中的隐私保护问题；持续跟踪测试最新的 RAG、Agent 技术，并在业务中尝试落地。 ● 前沿技术复现 跟踪学界/业界在 LLM 与安全结合领域的最新论文与技术报告，快速复现并验证其在内部场景的有效性。
1. 集团多种业务场景下，对千亿级流量进行攻击流量识别、人机识别相关算法研究； 2. 通过 LLM 对海量流量及各端审计数据进行分析，不断提升大模型在流量识别场景下的分析及归因能力； 3. 搭建端云协同的风控模型系统，不断提升各类异常流量的防控能力； 4. 跟踪风控领域前沿技术，结合多模态数据，进行原型系统的研发和验证
1. 紧跟海内外相关法律法规动态，及LLM和智能体的风险态势，能构建风险矩阵，定义风险细则。 2. 构建全面、科学的护栏评测集，与算法深度合作，通过评测发现更多模型缺陷，牵引护栏能力的升级。同时整体为能力的运维与交付负责。 3. 深度支持业务，同算法一起为业务提供适配模型及应用的安全解决方案，推动安全策略的有效实施与迭代。
1. 具备一定的AI技术研究，熟悉AI和大模型在安全领域的应用开发与优化，包括但不限于威胁检测、流量分析、异常行为识别、数据隐私保护等； 2. 利用大模型构建新型对抗性攻击与防御系统，自动化分析、预测、建模来识别异常、欺诈、违规、恶意行为，为安全防护提供智能化支持。 3. 结合大模型进行新攻击方式、新技术方法的创新研究，并应用于实际安全场景。 4. 负责大模型安全应用技术平台搭建，组件的研发，持续迭代优化。 5. 与业界、学术界紧密合作，推动大模型在安全领域的落地及发展。