阿里巴巴淘宝平台事业部-内容安全-杭州
任职要求
职位要求
1. 本科或以上学历，2年或以上工作经验，具有互联网社交产品风控运营、产品运营等相关经验者优先；
2. 工作态度严谨、抗压性强，具备风险识别、分析、研判的技能，并有良…工作职责
职位描述： 1. 负责内容安全策略运营，包括安全评审、安全策略制定、产品链路完善等，保障业务内容合规； 2. 具备较高的风险敏感度，掌握内容安全相关舆情或法律法规动向，及时对新增风险进行识别布控； 3. 协同上下游各职能团队，整合资源、完善和优化社交场景的风控产品链路，有效利用技术和数据手段驱动内容安全管控良性循环； 4. 在对深刻理解业务的基础上，利用数据化运营思维，深入业务数据分析，挖掘风险特征进行有效策略迭代更新。
1、能力设计与建设：基于大模型新技术的发展，从AI-Native的视角出发，结合行业发展和内容安全防控要求，联动算法、产技等团队建设内容安全域的新范式、新能力，包括但不限于资质合规、商品假劣、知识产权、商品禁限售、交互内容安全等识别能力，对识别能力效果负责 2、新技术运营：基于线上风险触发、舆情情报感知等机制，常态化联动算法进行新范式能力迭代升级，包含内外水位评测、业务风险漏防分析、外部风险感知等 3、业务诉求响应及能力整合输出：及时承接日常业务诉求，做好常规分析，基于对业务风险及能力现状的认知，进行相应产品、能力组织并进行输出 4、能力生产及管理效能提升：内外联动各方包含产技、算法等，通过产品化、线上化方式实现能力更好管理及高效输出，保障上述内容的按时按效交付
1. 负责 AIGC 音频内容安全核心能力的模型研发与迭代，聚焦于生成式语音（TTS/VC）、声纹识别及音频语义合规审查，构建全链路音频风控体系。 2. 构建并优化音频安全大模型能力，结合 ASR（自动语音识别）、SER（说话人情感识别）及 Audio LLM 技术，提升模型对变声、拼接、对抗攻击等新型风险的泛化性与鲁棒性。 3. 端侧音频安全能力建设：针对移动端及 IoT 场景，开展音频模型的轻量化与性能优化（量化、剪枝、蒸馏），实现低时延、低功耗的实时流式音频风险拦截，满足弱网环境下的端云协同推理需求。 4. 数据与评测体系：建设 AIGC 音频风险本体库，涵盖各类合成语音数据集、对抗样本及难例挖掘；搭建自动化离线评测链路平衡召回率、误杀率与推理成本，建立行业领先的音频安全基准。
1、基于业务数据和风险线索开展风险评估，设计、部署短视频及直播内容安全策略，确保策略有效运行，保障平台短视频及直播内容的合规性； 2、协同产品、数据、技术等团队，完善和优化内容风控产品链路，利用技术和数据手段驱动全链路风险治理； 3、建立多维度情报与信息收集渠道，挖掘内容安全相关舆情，掌握相关法律法规知识，及时识别布控新增风险； 4、整合资源，协同上下游职能团队，推动重要安全项目落地实施，实现风险控制和商业价值的平衡。
1. 利用AGI新技术构建内容安全防控流程，基于大模型和新范式对现有的风险识别、情报舆情感知、监管指令等流程进行升级，联动算法、产技等团队建设内容安全域的新范式、新能力；风险域内容安全、商品禁限售优先 2. 风控识别能力建设及算法运营。基于监管趋势、外部舆情和其他要求提前储备建设内容安全识别能力，基于能力效果指标等SLA机制触发，做好能力效果监控和数据分析，包括漏防分析、准确率效果调优，常态化联动算法进行能力建设和升级； 3. 需求承接及解决方案输出。完善业务侧内容安全防控链路，及时承接日常业务诉求，给出基于现有风控产品能力的产品解决方案，并协调产品、技术实现需求； 4. 风险识别管控。掌握内容安全相关舆情或法律法规、政策动向，主动识别业务平台相关风险