字节跳动内容安全算法研发工程师-安全与风控
任职要求
1、计算机/数学/统计等相关专业优先，本科及以上学历，3年以上算法研发相关工作经验，有安全风控项目经验优先； 2、有扎实的编程能力，熟悉Go/Python等至少一种程序开发语言，熟悉Hive/Spark/Hadoop等大数据处理框架； 3、熟悉常用的NLP、机器学习相关技术，对文本分类、语言模型等常用算法有相关实践经验优先； 4、善于思考，对技术有热情，有良好的沟通表达能力和团队精神。
工作职责
1、结合业务内容安全需求，探索NLP模型技术，负责相关研发和流程建设和代码开发工作，包括模型服务和风险模型； 2、负责内容安全风险运营，跟进解决业务一线内容安全问题，设计综合治理方案并落地，持续优化对抗策略，提升安全治理效果。
1、为火山引擎信安合规风险负责，构建技术能力支撑业务合规风险治理； 2、负责云网络合规安全产品的设计及开发； 3、负责云上租户合规安全能力建设及风险收敛治理，处理相关安全风险。
工作职责： 1. 负责内容安全算法研发，包括但不限于文本、图像、视频、音频等多模态内容的识别与过滤。 2. 针对违规内容（如涉黄、涉暴、涉政、垃圾广告、诈骗等）构建高效、精准的检测模型，提升平台内容安全水平。 3. 研究前沿AI安全技术，优化现有算法策略。 4. 结合业务场景，设计并优化内容安全体系，包括实时拦截、离线审核、用户行为分析等模块。 5. 与产品、运营、审核团队协作，推动算法落地并持续迭代，提升审核效率和准确率。 任职资格： 1. 学历/专业：计算机、人工智能、数学等相关专业硕士及以上学历，3年以上内容安全相关经验（优秀本科生可放宽）。 2. 熟练掌握机器学习、深度学习算法，熟悉NLP/CV领域常见模型。 3. 熟悉内容安全相关技术。 4. 熟练使用Python/C++，具备大规模数据处理经验。 5. 业务理解：对互联网内容生态和风险场景（如UGC/PGC审核）有深刻认知，能快速定位业务痛点。
1、负责图片、视频内容安全算法研发。 2、针对违规内容（如涉黄、涉暴、涉政、垃圾广告、诈骗等）构建高效、精准的检测模型，提升平台内容安全水平。 3、研究前沿AI安全技术，优化现有算法策略。 4、结合业务场景，设计并优化内容安全体系，包括实时拦截、离线审核、用户行为分析等模块。 5、与产品、运营、审核团队协作，推动算法落地并持续迭代，提升审核效率和准确率。
团队介绍：字节跳动安全与风控-Flow部门，负责Flow业务中大模型和生成式AI应用如豆包、Cici、扣子等的安全保障工作。团队为业务面临的数据安全、用户隐私挑战、新兴大模型攻击方式等安全隐患提供创新的防御能力和解决方案，我们在北京、杭州、深圳、圣何塞均设有安全研发中心，团队和业务正处于快速发展期，成长空间大，欢迎各位同学加入。 1、针对大模型的各种安全问题进行建模，优化模型和产品工程，创新的解决风险； 2、针对有害内容，隐私脱敏，提示词攻击等威胁进行治理，策略运营提升召回精准，实现大模型防火墙的防护效果。