千问千问事业部-安全大模型算法专家-VLM方向
任职要求
1、计算机、人工智能等相关专业硕士及以上学历，具备2年以上算法研发经验； 2、具备多模态检测大模型的后训练实战经验。熟练掌握SFT、RLHF/DPO等技术，能针对安全场景进行高效的模型对齐与优化；有大规模多模态数据集处理经验者优先； 3、精通Python，熟悉PyTorch等主流深度学习框架。深入理解Transformer架构，在大模型后训练、多模态检索或AI Agent任一领域有扎实实践。熟悉大模型红队测试方法论，有…
工作职责
1、负责构建集团级多模态内容安全防控体系，研发基于VLM的内容审核与大模型安全对齐算法，保障通义千问、夸克AI等核心产品的业务安全； 2、深耕多模态大模型安全领域，重点突破跨模态通用表征、AI Agent安全防御、AIGC生成内容检测及大模型后训练安全调优等关键技术； 3、利用大模型能力构建自动化风险挖掘系统，通过合成对抗样本、长尾场景泛化及自我博弈，主动发现线上潜在的安全盲区与新型攻击模式，实现从“被动拦截”到“主动治理”的转变； 4、建立高危风险内容的快速识别与拦截机制（紧急止血方案），针对突发舆情或新型攻击手段，能在小时级内完成策略迭代与模型热更新，确保业务零重大安全事故； 5、设计并落地端到端的多模态风控解决方案，平衡安全性与用户体验，解决复杂场景下的全模态风险问题； 6、跟踪业界大模型安全最新进展，持续迭代算法策略，保持技术领先性。
1. 负责内容安全领域的大模型算法研发与落地，构建面向国际及国内多场景（如商品审核、社区内容、广告等）的智能识别与风险防控体系； 2. 设计并实现基于大模型的自动化审核系统，提升审核效率与准确率，支持高并发、低延迟的在线服务； 3. 负责商品治理领域的风险防控算法研发与落地，面向数十亿级商品库，构建覆盖假货、侵权、山寨、劣质、滥发等核心场景的智能识别体系，通过大模型驱动的内容理解、行为建模与知识推理技术，提升风险识别准确率与自动化处置能力，保障消费者购物体验与权利人平台权益，支撑电商生态健康可持续发展； 4. 探索大模型在内容理解、行为建模、团伙识别、跨语言语义分析等方向的应用，推动从传统规则/小模型向知识驱动AGI范式的演进； 5. 构建可解释、可迭代的知识生产闭环，支撑风险感知、策略生成与防控标准动态更新； 6. 参与大模型训练、微调、推理优化及部署全流程，提升模型在真实业务中的泛化能力与稳定性。
1. 参与构建面向阿里集团海量安全业务的网络安全大模型，系统性突破在代码理解、漏洞挖掘、攻击模拟等高复杂度场景中的瓶颈； 2. 负责高质量安全数据的构建，涵盖代码漏洞检测与修复、程序逆向与分析、安全领域工具（包括但不限于Fuzz、反编译、漏扫等）等多样化安全数据的加工处理和合成优化； 3. 开展大模型全流程训练工作，包括预训练、SFT、Agentic RL等； 4. 针对经典且依赖安全专家经验的的安全任务（如渗透测试、二进制代码分析、红蓝对抗策略生成、项目级代码漏洞发现与修复等）优化模型能力，提升其在真实攻防场景中的模型性能与鲁棒性； 5. 探索大模型在代码安全、漏洞挖掘、逆向工程、数据安全、流量防护等方向的应用，并推动技术成果落地与学术发表。
1. 参与面向网络安全领域的垂直大模型基座建设，包括模型架构优化、训练策略制定与性能优化； 2. 负责高质量安全数据的构建，涵盖代码漏洞检测与修复、程序逆向与分析、安全领域工具（包括但不限于Fuzz、反编译、漏扫等）等多样化安全数据的加工处理和合成优化； 3. 开展大模型全流程训练工作，包括预训练、SFT、GRPO及安全工具结合的Agentic RL； 4. 针对经典且依赖安全专家经验的的安全任务（如渗透测试、二进制代码分析、红蓝对抗策略生成、项目级代码漏洞发现与修复等）优化模型能力，提升其在真实攻防场景中的模型性能与鲁棒性； 5. 探索大模型在代码安全、漏洞挖掘、逆向工程等方向的应用，并推动技术成果落地与学术发表。
1. 负责内容安全领域的大模型算法研发与落地，构建面向国际及国内多场景（如商品审核、社区内容、广告等）的智能识别与风险防控体系； 2. 设计并实现基于大模型的自动化审核系统，提升审核效率与准确率，支持高并发、低延迟的在线服务； 3. 负责商品治理领域的风险防控算法研发与落地，面向数十亿级商品库，构建覆盖假货、侵权、山寨、劣质、滥发等核心场景的智能识别体系，通过大模型驱动的内容理解、行为建模与知识推理技术，提升风险识别准确率与自动化处置能力，保障消费者购物体验与权利人平台权益，支撑电商生态健康可持续发展； 4. 探索大模型在内容理解、行为建模、团伙识别、跨语言语义分析等方向的应用，推动从传统规则/小模型向知识驱动AGI范式的演进； 5. 构建可解释、可迭代的知识生产闭环，支撑风险感知、策略生成与防控标准动态更新； 6. 参与大模型训练、微调、推理优化及部署全流程，提升模型在真实业务中的泛化能力与稳定性。