阿里巴巴集团安全部-内容安全能力运营及交付-杭州
任职要求
1、3年以上风控领域从业经验，如果有内容安全相关经验优先，有大模型相关新技术运营和应用背景优先 2、基础SQL获取数据能力和数据分析能力，有算法相关…
工作职责
1. 利用AGI新技术构建内容安全防控流程，基于大模型和新范式对现有的风险识别、情报舆情感知、监管指令等流程进行升级，联动算法、产技等团队建设内容安全域的新范式、新能力；风险域内容安全、商品禁限售优先 2. 风控识别能力建设及算法运营。基于监管趋势、外部舆情和其他要求提前储备建设内容安全识别能力，基于能力效果指标等SLA机制触发，做好能力效果监控和数据分析，包括漏防分析、准确率效果调优，常态化联动算法进行能力建设和升级； 3. 需求承接及解决方案输出。完善业务侧内容安全防控链路，及时承接日常业务诉求，给出基于现有风控产品能力的产品解决方案，并协调产品、技术实现需求； 4. 风险识别管控。掌握内容安全相关舆情或法律法规、政策动向，主动识别业务平台相关风险
1、能力设计与建设：基于大模型新技术的发展，从AI-Native的视角出发，结合行业发展和内容安全防控要求，联动算法、产技等团队建设内容安全域的新范式、新能力，包括但不限于资质合规、商品假劣、知识产权、商品禁限售、交互内容安全等识别能力，对识别能力效果负责 2、新技术运营：基于线上风险触发、舆情情报感知等机制，常态化联动算法进行新范式能力迭代升级，包含内外水位评测、业务风险漏防分析、外部风险感知等 3、业务诉求响应及能力整合输出：及时承接日常业务诉求，做好常规分析，基于对业务风险及能力现状的认知，进行相应产品、能力组织并进行输出 4、能力生产及管理效能提升：内外联动各方包含产技、算法等，通过产品化、线上化方式实现能力更好管理及高效输出，保障上述内容的按时按效交付
1. 负责内容安全领域的大模型算法研发与落地，构建面向国际及国内多场景（如商品审核、社区内容、广告等）的智能识别与风险防控体系； 2. 设计并实现基于大模型的自动化审核系统，提升审核效率与准确率，支持高并发、低延迟的在线服务； 3. 负责商品治理领域的风险防控算法研发与落地，面向数十亿级商品库，构建覆盖假货、侵权、山寨、劣质、滥发等核心场景的智能识别体系，通过大模型驱动的内容理解、行为建模与知识推理技术，提升风险识别准确率与自动化处置能力，保障消费者购物体验与权利人平台权益，支撑电商生态健康可持续发展； 4. 探索大模型在内容理解、行为建模、团伙识别、跨语言语义分析等方向的应用，推动从传统规则/小模型向知识驱动AGI范式的演进； 5. 构建可解释、可迭代的知识生产闭环，支撑风险感知、策略生成与防控标准动态更新； 6. 参与大模型训练、微调、推理优化及部署全流程，提升模型在真实业务中的泛化能力与稳定性。
1. 负责内容安全领域的大模型算法研发与落地，构建面向国际及国内多场景（如商品审核、社区内容、广告等）的智能识别与风险防控体系； 2. 设计并实现基于大模型的自动化审核系统，提升审核效率与准确率，支持高并发、低延迟的在线服务； 3. 负责商品治理领域的风险防控算法研发与落地，面向数十亿级商品库，构建覆盖假货、侵权、山寨、劣质、滥发等核心场景的智能识别体系，通过大模型驱动的内容理解、行为建模与知识推理技术，提升风险识别准确率与自动化处置能力，保障消费者购物体验与权利人平台权益，支撑电商生态健康可持续发展； 4. 探索大模型在内容理解、行为建模、团伙识别、跨语言语义分析等方向的应用，推动从传统规则/小模型向知识驱动AGI范式的演进； 5. 构建可解释、可迭代的知识生产闭环，支撑风险感知、策略生成与防控标准动态更新； 6. 参与大模型训练、微调、推理优化及部署全流程，提升模型在真实业务中的泛化能力与稳定性。
1. 负责 AIGC 音频内容安全核心能力的模型研发与迭代，聚焦于生成式语音（TTS/VC）、声纹识别及音频语义合规审查，构建全链路音频风控体系。 2. 构建并优化音频安全大模型能力，结合 ASR（自动语音识别）、SER（说话人情感识别）及 Audio LLM 技术，提升模型对变声、拼接、对抗攻击等新型风险的泛化性与鲁棒性。 3. 端侧音频安全能力建设：针对移动端及 IoT 场景，开展音频模型的轻量化与性能优化（量化、剪枝、蒸馏），实现低时延、低功耗的实时流式音频风险拦截，满足弱网环境下的端云协同推理需求。 4. 数据与评测体系：建设 AIGC 音频风险本体库，涵盖各类合成语音数据集、对抗样本及难例挖掘；搭建自动化离线评测链路平衡召回率、误杀率与推理成本，建立行业领先的音频安全基准。