字节跳动大模型应用防火墙算法工程师-Flow安全
任职要求
1、2026届获得本科及以上学历，计算机、通信、安全等相关专业优先； 2、熟悉Go/Python等至少一种程序开发语言，有丰富的机器学习/CV/音频模型/NLP相关经验，包括但不限于：推荐、搜索、广告等机器学习行业经验、CV/NLP等相关比赛、行业经验、相关领域会议论文； 3、扎实的编程技术，熟悉Python/C++等编程语言； 4、较强的自驱力和抗压能力，喜欢接受挑战，追求极致； 5、对技术有热情，有良好的沟通表达能力和团队精神。
工作职责
团队介绍：字节跳动安全与风控-Flow部门，负责Flow业务中大模型和生成式AI应用如豆包、Cici、扣子等的安全保障工作。团队为业务面临的数据安全、用户隐私挑战、新兴大模型攻击方式等安全隐患提供创新的防御能力和解决方案，我们在北京、杭州、深圳、圣何塞均设有安全研发中心，团队和业务正处于快速发展期，成长空间大，欢迎各位同学加入。 1、针对大模型的各种安全问题进行建模，优化模型和产品工程，创新的解决风险； 2、针对有害内容，隐私脱敏，提示词攻击等威胁进行治理，策略运营提升召回精准，实现大模型防火墙的防护效果。
团队介绍：字节跳动安全与风控-Flow部门，负责Flow业务中大模型和生成式AI应用如豆包、Cici、扣子等的安全保障工作。团队为业务面临的数据安全、用户隐私挑战、新兴大模型攻击方式等安全隐患提供创新的防御能力和解决方案，我们在北京、杭州、深圳、圣何塞均设有安全研发中心，团队和业务正处于快速发展期，成长空间大，欢迎各位同学加入。 1、针对大模型的各种安全问题进行建模，优化模型和产品工程，创新的解决风险； 2、针对有害内容，隐私脱敏，提示词攻击等威胁进行治理，策略运营提升召回精准，实现大模型防火墙的防护效果。
方向一：负责大模型测评工作，包括测试集构建、自动化评测等； 方向二：负责 AI 防火墙的指令攻击识别和内容安全算法设计和代码开发； 方向三：负责互联网业务风控领域的数据挖掘、风控策略挖掘、算法建模工作； 方向四：负责将大数据与算法应用于恶意APP、URL识别和检测等安全策略算法领域的工作。
日常实习：面向全体在校生，为符合岗位要求的同学提供为期3个月及以上的项目实践机会。 团队介绍：字节跳动安全与风控-Flow部门，负责Flow业务中大模型和生成式AI应用如豆包、Cici、扣子等的安全保障工作。团队为业务面临的数据安全、用户隐私挑战、新兴大模型攻击方式等安全隐患提供创新的防御能力和解决方案，我们在北京、杭州、深圳、美国均设有安全研发中心，团队和业务正处于快速发展期，成长空间大，欢迎各位同学加入。 1、参与内容安全相关测试和运营工作，通过对现有的文本和图片模型和策略进行运营，提升大模型防火墙的防护效果； 2、参与大模型各种业务场景的安全优化工作，针对有害内容，隐私脱敏，提示词攻击等威胁进行治理，提升召回和降低误报； 3、对接运营、舆情、机审算法，发现业务痛点，有效推进需求和相关标准落地，负责相关流程建设和代码开发工作，对内容安全审核的效率负责。
1、数仓管理：负责云安全数仓的整体技术规划和建设，优化数仓架构，提升性能和降低成本。 2、威胁情报建设：负责内部威胁情报体系的建设与完善，为安全产品提供有力支持。 3、AI工程化：负责云安全大模型工程平台的建设与维护，负责多智能体的系统架构和实现，解决其中的技术难点，优化AI工程流程，提高模型开发、测试、上线全链路的效率与质量。 4、代领团队探索AIGC前沿技术在安全场景中的创新应用，关注和研究业界前沿的AI平台，确保团队的技术先进性和竞争力。