字节跳动内容安全算法研发工程师-安全与风控

1、为火山引擎信安合规风险负责，构建技术能力支撑业务合规风险治理； 2、负责云网络合规安全产品的设计及开发； 3、负责云上租户合规安全能力建设及风险收敛治理，处理相关安全风险。

工作职责： 1. 负责内容安全算法研发，包括但不限于文本、图像、视频、音频等多模态内容的识别与过滤。 2. 针对违规内容（如涉黄、涉暴、涉政、垃圾广告、诈骗等）构建高效、精准的检测模型，提升平台内容安全水平。 3. 研究前沿AI安全技术，优化现有算法策略。 4. 结合业务场景，设计并优化内容安全体系，包括实时拦截、离线审核、用户行为分析等模块。 5. 与产品、运营、审核团队协作，推动算法落地并持续迭代，提升审核效率和准确率。 任职资格： 1. 学历/专业：计算机、人工智能、数学等相关专业硕士及以上学历，3年以上内容安全相关经验（优秀本科生可放宽）。 2. 熟练掌握机器学习、深度学习算法，熟悉NLP/CV领域常见模型。 3. 熟悉内容安全相关技术。 4. 熟练使用Python/C++，具备大规模数据处理经验。 5. 业务理解：对互联网内容生态和风险场景（如UGC/PGC审核）有深刻认知，能快速定位业务痛点。

1、负责图片、视频内容安全算法研发。 2、针对违规内容（如涉黄、涉暴、涉政、垃圾广告、诈骗等）构建高效、精准的检测模型，提升平台内容安全水平。 3、研究前沿AI安全技术，优化现有算法策略。 4、结合业务场景，设计并优化内容安全体系，包括实时拦截、离线审核、用户行为分析等模块。 5、与产品、运营、审核团队协作，推动算法落地并持续迭代，提升审核效率和准确率。

团队介绍：字节跳动安全与风控-Flow部门，负责Flow业务中大模型和生成式AI应用如豆包、Cici、扣子等的安全保障工作。团队为业务面临的数据安全、用户隐私挑战、新兴大模型攻击方式等安全隐患提供创新的防御能力和解决方案，我们在北京、杭州、深圳、圣何塞均设有安全研发中心，团队和业务正处于快速发展期，成长空间大，欢迎各位同学加入。 1、针对大模型的各种安全问题进行建模，优化模型和产品工程，创新的解决风险； 2、针对有害内容，隐私脱敏，提示词攻击等威胁进行治理，策略运营提升召回精准，实现大模型防火墙的防护效果。