阿里巴巴阿里国际站-AI安全算法工程师（AI Agent方向）-杭州
任职要求
1、计算机、人工智能、信息安全等相关专业硕士及以上学历，具备 3 年以上深耕风控算法或 AI 安全领域的实战经验。 2、深度掌握 PyTorch/TensorFlow 等主流深度学习框架，熟悉大语言模型的对齐与防御机制。 3、了解提示词工程 与 AI 对抗攻防技术，在越狱指令检测、对抗样本建模及大模型幻觉缓…
工作职责
1、参与阿里巴巴国际站及 Accio Work 平台的 AI 风险防控体系建设，负责 AI 风险检测与防御算法的研发与落地。 2、针对提示词注入、智能体劫持、AI合规侵权、数据投毒等新型风险，构建 Global AIGuard，实现全链路 AI 风险管理能力。 3、协助构建智能体操作审计与风险溯源系统，实现 AI 决策过程的可视化与可解释性，支持异常行为的快速定位与干预。 4、参与 AI 红队攻防演练，模拟黑灰产攻击手法，挖掘 AI 智能体潜在漏洞并提出修复方案，持续优化平台安全水位。 5、配合业务团队完成流量反作弊、市场治理、资金安全、合规侵权等场景的 AI 风控算法迭代，提升模型准确率与实时性。 6、持续跟踪 Safety Alignment、Privacy-Preserving AI 等 SOTA 研究，将学术前沿成果转化为业务生产力。
1. 负责大模型安全对齐技术工作，包括安全推理数据构建、奖励模型、安全代答模型研发; 2. 负责可解释性研究和产品落地，包括文本及多模态基模神经元解释的生产与应用，对安全及幻觉badcase做诊断; 3. 负责研发大模型应用交互入口的攻防技术研发，如越狱、算力消耗、智能体控制、后门攻击、迁移攻击等，并研发相应的防御手段，如Prompt Guard; 4. 负责大模型安全评测工作，包括评测方法创新、数据集迭代、系统搭建等。
1.基础业务对接：主导终端安全、launcher启动器应用推荐、安全soc策略等核心场景中的模型选型、数据建设、训练调优、A/B实验复盘，对业务指标（转化提升、误杀率、留存、转化率等）负责； 2.评估体系搭建：设计可解释的算法效果评估体系，梳理线上完整归因链路，用数据驱动模型周级迭代； 3.协作性：与产品、安全、工程深度合作，推动AI技术在管家业务场景中的产品化与商业化； 4.技术影响力：跟踪前沿AI技术，探索其在管家业务场景下创新应用，能带领团队在技术深度与广度上持续突破。
1.负责AI算法对抗攻击及其他 AI 安全相关内容的研究、开发与效果调试； 2.负责算法架构安全研究，包括指标拆解，可解释性等的研究，落地成开发工程框架； 3.研究行业 AI 专利&标准&AI安全相关论文，结合公司自动驾驶算法开展安全工程化落地方案研究；
1、参与阿里巴巴国际站及 Accio Work 平台的 AI 风险防控体系建设，负责 AI 风险检测与防御算法的研发与落地。 2、针对提示词注入、智能体劫持、AI合规侵权、数据投毒等新型风险，构建 Global AIGuard，实现全链路 AI 风险管理能力。 3、协助构建智能体操作审计与风险溯源系统，实现 AI 决策过程的可视化与可解释性，支持异常行为的快速定位与干预。 4、参与 AI 红队攻防演练，模拟黑灰产攻击手法，挖掘 AI 智能体潜在漏洞并提出修复方案，持续优化平台安全水位。 5、配合业务团队完成流量反作弊、市场治理、资金安全、合规侵权等场景的 AI 风控算法迭代，提升模型准确率与实时性。 6、持续跟踪 Safety Alignment、Privacy-Preserving AI 等 SOTA 研究，将学术前沿成果转化为业务生产力。