腾讯安全AI算法工程师
任职要求
1.计算机、人工智能、数学等相关专业本科及以上学历，5年以上AI算法研发经验，其中2年以上团队或项目管理经验； 2.在机器学习、深度学习、大模型、多模态等方向有扎实积累，具备从0到1主导AI技术项目落地的成功经验； …
工作职责
1.基础业务对接：主导终端安全、launcher启动器应用推荐、安全soc策略等核心场景中的模型选型、数据建设、训练调优、A/B实验复盘，对业务指标（转化提升、误杀率、留存、转化率等）负责； 2.评估体系搭建：设计可解释的算法效果评估体系，梳理线上完整归因链路，用数据驱动模型周级迭代； 3.协作性：与产品、安全、工程深度合作，推动AI技术在管家业务场景中的产品化与商业化； 4.技术影响力：跟踪前沿AI技术，探索其在管家业务场景下创新应用，能带领团队在技术深度与广度上持续突破。
1.负责AI算法对抗攻击及其他 AI 安全相关内容的研究、开发与效果调试； 2.负责算法架构安全研究，包括指标拆解，可解释性等的研究，落地成开发工程框架； 3.研究行业 AI 专利&标准&AI安全相关论文，结合公司自动驾驶算法开展安全工程化落地方案研究；
1、参与阿里巴巴国际站及 Accio Work 平台的 AI 风险防控体系建设，负责 AI 风险检测与防御算法的研发与落地。 2、针对提示词注入、智能体劫持、AI合规侵权、数据投毒等新型风险，构建 Global AIGuard，实现全链路 AI 风险管理能力。 3、协助构建智能体操作审计与风险溯源系统，实现 AI 决策过程的可视化与可解释性，支持异常行为的快速定位与干预。 4、参与 AI 红队攻防演练，模拟黑灰产攻击手法，挖掘 AI 智能体潜在漏洞并提出修复方案，持续优化平台安全水位。 5、配合业务团队完成流量反作弊、市场治理、资金安全、合规侵权等场景的 AI 风控算法迭代，提升模型准确率与实时性。 6、持续跟踪 Safety Alignment、Privacy-Preserving AI 等 SOTA 研究，将学术前沿成果转化为业务生产力。
1、参与阿里巴巴国际站及 Accio Work 平台的 AI 风险防控体系建设，负责 AI 风险检测与防御算法的研发与落地。 2、针对提示词注入、智能体劫持、AI合规侵权、数据投毒等新型风险，构建 Global AIGuard，实现全链路 AI 风险管理能力。 3、协助构建智能体操作审计与风险溯源系统，实现 AI 决策过程的可视化与可解释性，支持异常行为的快速定位与干预。 4、参与 AI 红队攻防演练，模拟黑灰产攻击手法，挖掘 AI 智能体潜在漏洞并提出修复方案，持续优化平台安全水位。 5、配合业务团队完成流量反作弊、市场治理、资金安全、合规侵权等场景的 AI 风控算法迭代，提升模型准确率与实时性。 6、持续跟踪 Safety Alignment、Privacy-Preserving AI 等 SOTA 研究，将学术前沿成果转化为业务生产力。
1. 负责大模型安全对齐技术工作，包括安全推理数据构建、奖励模型、安全代答模型研发; 2. 负责可解释性研究和产品落地，包括文本及多模态基模神经元解释的生产与应用，对安全及幻觉badcase做诊断; 3. 负责研发大模型应用交互入口的攻防技术研发，如越狱、算力消耗、智能体控制、后门攻击、迁移攻击等，并研发相应的防御手段，如Prompt Guard; 4. 负责大模型安全评测工作，包括评测方法创新、数据集迭代、系统搭建等。