字节跳动AI安全研发实习生-Flow安全
任职要求
1、博士学位在读，计算机、人工智能和信息安全等相关专业优先； 2、从事AI安全方向研究，熟练掌握Python/C/C++，熟悉常用的AI开发框架，具有扎实的数据结构、算法设计和机器学习理论基础； 3、拥有AI系统漏洞挖掘、设计AI系统保护方案、AI安全应用，可解释性AI、及AI训练/推理框架设计的一项或多项相关项目经验； 4、拥有AI安全相关顶会论文者优先； 5、逻辑思考能力强，善于发现和解决问题，自我驱动； 6、每周可实习至少4天，可实习4个月以上。
工作职责
日常实习：面向全体在校生，为符合岗位要求的同学提供为期3个月及以上的项目实践机会。 团队介绍：字节跳动安全与风控-flow部门，负责flow业务中大模型和生成式AI应用如豆包、Cici、扣子等的安全保障工作。团队为业务面临的数据安全、用户隐私挑战、新兴大模型攻击方式等安全隐患提供创新的防御能力和解决方案，我们在北京、杭州、深圳、美国均设有安全研发中心，团队和业务正处于快速发展期，成长空间大，欢迎各位同学加入。 1、通过攻防演练评估AI系统的安全性，挖掘和利用AI系统中的漏洞； 2、开发针对AI系统的攻击以及漏洞挖掘工具和技术； 3、设计解决AI系统漏洞的技术和方案； 4、研究针对AI系统的新威胁，包括Prompt注入攻击的原理、实践和防御。
团队介绍：字节跳动安全与风控-Flow部门，负责Flow业务中大模型和生成式AI应用如豆包、Cici、扣子等的安全保障工作。团队为业务面临的数据安全、用户隐私挑战、新兴大模型攻击方式等安全隐患提供创新的防御能力和解决方案，我们在北京、杭州、深圳、美国均设有安全研发中心，团队和业务正处于快速发展期，成长空间大，欢迎各位同学加入。 课题背景： 当前大规模基础模型在自然语言处理、多模态识别、代码生成和自主决策等领域已得到广泛应用，但其在带来技术革新的同时，也暴露出诸多安全与隐私隐患。基础模型可能遭受对抗攻击、Prompt Injection、数据投毒等威胁，并可能在训练过程中无意中记忆敏感信息而导致隐私泄露；与此同时，AI智能体在自动化任务和自主决策中面临动态环境下的安全监控和防御难题；而代码生成模型则因生成的代码可能存在漏洞、隐蔽后门以及敏感信息泄露问题，使得其在软件开发中的应用风险加剧。 课题挑战： 大模型安全和隐私研究面临的主要挑战包括： 1、是基础模型规模巨大、结构复杂且具黑箱特性，使得安全漏洞难以全面识别与修复，并在对抗攻击、数据投毒等情况下防护不足； 2、是AI Agent在不断变化的环境中需要实现实时监控、异常行为检测和自适应防御，其安全保障机制亟待突破； 3、是代码生成模型在自动化编程中缺乏完善的安全评估与漏洞修复工具，容易被对抗性攻击诱导生成恶意代码或泄露敏感数据。
日常实习：面向全体在校生，为符合岗位要求的同学提供为期3个月及以上的项目实践机会。 团队介绍：字节跳动安全与风控-Flow部门，负责Flow业务中大模型和生成式AI应用如豆包、Cici、扣子等的安全保障工作。团队为业务面临的数据安全、用户隐私挑战、新兴大模型攻击方式等安全隐患提供创新的防御能力和解决方案，我们在北京、杭州、深圳、美国均设有安全研发中心，团队和业务正处于快速发展期，成长空间大，欢迎各位同学加入。 1、参与内容安全相关测试和运营工作，通过对现有的文本和图片模型和策略进行运营，提升大模型防火墙的防护效果； 2、参与大模型各种业务场景的安全优化工作，针对有害内容，隐私脱敏，提示词攻击等威胁进行治理，提升召回和降低误报； 3、对接运营、舆情、机审算法，发现业务痛点，有效推进需求和相关标准落地，负责相关流程建设和代码开发工作，对内容安全审核的效率负责。
日常实习：面向全体在校生，为符合岗位要求的同学提供为期3个月及以上的项目实践机会。 团队介绍：字节跳动安全与风控-Flow部门，负责Flow业务中大模型和生成式AI应用如豆包、Cici、扣子等的安全保障工作。团队为业务面临的数据安全、用户隐私挑战、新兴大模型攻击方式等安全隐患提供创新的防御能力和解决方案，我们在北京、杭州、深圳、美国均设有安全研发中心，团队和业务正处于快速发展期，成长空间大，欢迎各位同学加入。 1、负责业务产品上线前的安全漏洞测试工作； 2、负责SDLC在产品线高效的落地，与开发团队合作，在需求分析、架构设计和代码开发中落实安全最佳实践。
日常实习：面向全体在校生，为符合岗位要求的同学提供为期3个月及以上的项目实践机会。 团队介绍：字节跳动安全与风控-Flow部门，负责Flow业务中大模型和生成式AI应用如豆包、Cici、扣子等的安全保障工作。团队为业务面临的数据安全、用户隐私挑战、新兴大模型攻击方式等安全隐患提供创新的防御能力和解决方案，我们在北京、杭州、深圳、美国均设有安全研发中心，团队和业务正处于快速发展期，成长空间大，欢迎各位同学加入。 1、参与大模型应用的隐私安全项目实施，确保大模型应用的隐私保护合规； 2、参与数据匿名化、数据加密、机密计算等安全能力研发，为业务线提供坚实的数据安全底座； 3、数据安全、隐私保护有效性验证：系统性的发掘产品中数据安全、隐私保护风险，并针对性的给出解决方案。