阿里巴巴集团安全部-阿里控股-大模型安全-大模型安全算法
任职要求
1. 计算机、数学、人工智能等相关专业硕士及以上学历，3年以上算法研发经验，有内容安全或风控领域背景者优先。 2. 精通Python/C++/Java中至少一门语言，具备扎实的数据结构、算法基础及工程化能力，熟悉深度学习框架（如PyTorch、TensorFlow）。 3. 熟悉机器学习、深度学习及强化学习算法，对多模态处理（文本、图像）有实践经验。 4. 具备端侧模型开发经验，熟悉模型压缩（如量化、剪枝）及端云协同推理优化技术，能应对资源受限环境下的算法部署挑战。 5. 具备AI Agent开发与模型自动迭代系统落地经验，熟悉LangChain、AutoGen、CrewAI等…
工作职责
1. 负责端侧大模型内容安全算法架构设计与研发，构建覆盖文本、图像等多模态输入的违规内容识别体系，实现对用户违规输入及模型违规输出的风险实时拦截与精准识别； 2. 设计并落地基于Agent的模型自动迭代系统，利用Agent自主完成线上Badcase挖掘、对抗样本生成、数据回流、增量训练与效果验证的全流程编排，实现内容安全模型的自助进化与持续调优，大幅降低人工干预成本，提升模型对新型违规内容的响应速度； 3. 设计端云协同的算法解决方案，结合端侧轻量化模型与云端高精度模型的联合优化，提升内容安全检测的实时性与准确性。 4. 主导核心能力建设，包括但不限于大模型端侧化、模型压缩加速、加密传输、攻防对抗技术研究，并将Agent能力深度嵌入算法研发与运维全流程，推动算法在业务场景中的高效落地、自动迭代与持续进化。
工作内容： 1.负责RASP能力的规划及设计、样板间上线及运营，包括RASP能力方案设计、技术选型、功能实现原型、规则维护与优化、样板间运营等； 2.负责部分木马分析、运行时漏洞分析与挖掘，配合各团队完成安全加固工作；
1. 参与面向网络安全领域的垂直大模型交付工作，包括基于大模型做流程设计、agent优化和模型安全能力提升； 2. 负责对接阿里内部各个业务线的网络安全需求，包括情报安全、流量安全、数据安全等不同场景，构建高质量业务数据，优化交付流程； 3. 开展大模型全流程训练工作，包括预训练、CPT、SFT、GRPO及安全工具结合的Agentic RL； 4. 针对经典且依赖安全专家经验的的安全任务（如漏洞检测、流量情报分析、代码生成等）优化模型能力，提升其在真实攻防场景中的模型性能与鲁棒性； 5. 探索大模型在代码安全、漏洞挖掘、逆向工程等方向的应用，并推动技术成果落地与学术发表。
岗位面向行为风控这一高度复杂且动态对抗的业务场景，支持反爬、作弊、欺诈、账号安全、恶意行为等核心风控业务，聚焦大模型强化学习与Agent等核心技术，构建下一代智能风控基座和行业权威的行为域基模解决方案。 1、面向行为域的结构化/序列化/图表化数据体系，构建面向结构化数据的后训练和评测方案，产出行为特色的“世界模型”； 2、围绕行为风控的复杂任务，设计并迭代强化学习方案，包括但不限于：Reward System、RL、复杂决策、自我博弈等方向，构建全链路情报分析与风险决策能力； 3、面向行为分析、识别、挖掘、链路还原、路径推演等场景，设计可规模化扩展的Agent训练环境和迭代方案；
1、探索知识和评测驱动的模型自主训练闭环链路，实现大模型训练自进化框架 2、基于业务需求，利用自主训练闭环链路训练安全基础模型，保持通用能力不降的前提下提升业务效果 3、与工程团队合作搭建Agentic环境，负责Agent相关训练和评测 4、研究安全场景的知识和评测问题，发表论文、专利、开源评测集等成果