阿里云阿里云智能-高级算法专家-安全大模型后训练-杭州
任职要求
1. 计算机、人工智能、机器学习、数学、自动化或相关专业，本科及以上学历优先。 2. 具有3年以上机器学习或强化学习研发经验，具备大模型强化学习相关项目经验；核心项目负责人或有复杂技术方向Owner经验优先。 3. 具有基于CVE、CTF、代码执行、系统环境或安全工具反馈构建RL任务、Verifier和奖励机制的经验…
工作职责
负责安全大模型强化学习方向的整体技术规划和团队建设，制定中长期技术路线，识别关键技术问题，持续提升团队在LLM RL和Agentic RL方向的技术竞争力。主导安全大模型强化学习算法研发，围绕模型推理、规划、安全工具使用、代码安全类和复杂任务处理能力，持续探索和优化RLVR、在线强化学习、过程奖励及长程信用分配等关键技术。 1. 面向漏洞分析和利用、代码安全、威胁研判、攻防任务等复杂场景，设计安全大模型的强化学习技术路线，提升模型理解、分析和执行安全任务的能力。 2. 结合CVE、CTF、代码样本、安全知识、专业工具及授权环境，将真实安全问题转化为可交互、可验证、可复现、可规模化训练的强化学习任务。 3. 建设强化学习的安全任务与安全场景环境体系，形成任务构建、环境执行、轨迹采集、策略优化和效果评估的完整闭环。 4. 负责奖励机制与Verifier体系建设，综合运用程序执行、工具调用结果、环境反馈、规则约束和模型判断等方式，提高奖励信号的准确性、稳定性和泛化能力。 5. 主导Agentic RL技术研发，提升模型在复杂任务中的任务分解、规划探索、工具选择、状态管理、错误恢复和跨步骤优化能力。
1、构建面向业务风控（作弊、欺诈、账号安全、垃圾注册、恶意行为等）领域的下一代智能风控基座大模型。从底层开始设计、训练和优化专属于风控领域的“最强大脑”，利用大模型技术从根本上提升识别和对抗黑灰产的能力，为公司的核心业务安全保驾护航。 2、设计和构建高质量、多模态的（文本、行为序列、图数据、设备信息等）风控领域训练数据集； 3、开展领域自适应预训练，让通用大模型深度理解风控概念（如欺诈模式、作弊行为、爬虫特征、账号养号等），探索大模型与图神经网络、异常检测、时序分析等传统风控技术的融合创新。
1、负责大模型内容安全防控体系的架构设计与落地，覆盖模型训练、服务上线到内容生成与传播的全链路风险管控。聚焦安全后训练技术路线，通过SFT、RLHF等对齐方法改进安全模型在内容安全场景下的效果，包括大规模数据合成、训练策略优化、自适应推理及可扩展知识注入等； 2、主导大模型安全后训练全链路研发与优化，包括：安全对齐训练数据的设计、合成与质量评估；奖励模型的构建与迭代；SFT/PPO/DPO/GRPO等后训练策略的设计与调优；安全对齐评测体系搭建。通过系统化后训练Pipeline，持续提升模型在风险内容识别、越狱攻击防御、有害意图判别、多轮对话安全等场景的对齐与泛化能力； 3、构建基于大模型能力的自动化风险挖掘与红队测试体系。利用LLM/VLM自动生成对抗样本、合成长尾风险场景，通过自我博弈与持续进化主动发现线上安全盲区与新型攻击模式，实现从“被动拦截”到“主动治理”的转变。搭建分钟/小时级闭环的自动迭代机制，覆盖新增风险的快速响应与模型热更新； 4、建立高危风险内容的快速识别与拦截机制，针对突发舆情或新型攻击，小时级完成策略迭代与模型热更新，确保业务零重大安全事故。保障大语言模型产品、多模态AI应用、搜索推荐等核心业务的内容安全与应用安全； 5、跟踪NeurIPS、ICML、ICLR、CVPR、ACL等顶会在大模型安全对齐、后训练、红队测试等方向的最新进展，持续迭代算法策略，保持技术领先。在团队中发挥技术领军作用，指导核心研发，推动跨团队协作与技术标准化。
1.负责多模态大模型全链路研发与优化，涵盖 SFT、RL 训练等关键环节，探索图文、视频、音频等多模态数据的质量评估与清洗方法、优化模型训练策略及结构设计、提升模型泛化与推理能力。 2.结合业务场景需求，主导多模态大模型落地项目，涵盖内容理解与结构化、质量甄别、智能生成等任务，设计算法方案并推动上线，提升业务效率与用户体验。 3.跟踪多模态大模型前沿技术，探索其在安全治理场景的适配性和落地，驱动技术迭代。 4.承担团队管理与人才培养，提升团队技术影响力。
1、负责飞猪域内反欺诈、反作弊、账号安全、商品内容风险等全链路风控算法能力建设，搭建风控算法体系，保障业务安全与用户体验平衡； 2、深入理解业务，基于海量用户行为、交易、设备环境数据进行风险分析与挖掘，使用机器学习、深度学习、图模型、大语言模型等方法，构建风险感知、识别、决策、处置闭环，保障业务安全； 3、基于域内多模态数据（行为序列、文本、图关系），搭建风控场景大模型agent，探索任务规划、工具调用、RAG、多Agent协同等技术，实现风险防控的效果和效率提升。