字节跳动隐私计算研究员-安全与风控

团队介绍：字节跳动安全与风控-Flow部门，负责Flow业务中大模型和生成式AI应用如豆包、Cici、扣子等的安全保障工作。团队为业务面临的数据安全、用户隐私挑战、新兴大模型攻击方式等安全隐患提供创新的防御能力和解决方案，我们在北京、杭州、深圳、美国均设有安全研发中心，团队和业务正处于快速发展期，成长空间大，欢迎各位同学加入。 课题背景： 当前大规模基础模型在自然语言处理、多模态识别、代码生成和自主决策等领域已得到广泛应用，但其在带来技术革新的同时，也暴露出诸多安全与隐私隐患。基础模型可能遭受对抗攻击、Prompt Injection、数据投毒等威胁，并可能在训练过程中无意中记忆敏感信息而导致隐私泄露；与此同时，AI智能体在自动化任务和自主决策中面临动态环境下的安全监控和防御难题；而代码生成模型则因生成的代码可能存在漏洞、隐蔽后门以及敏感信息泄露问题，使得其在软件开发中的应用风险加剧。 课题挑战： 大模型安全和隐私研究面临的主要挑战包括：一是基础模型规模巨大、结构复杂且具黑箱特性，使得安全漏洞难以全面识别与修复，并在对抗攻击、数据投毒等情况下防护不足；二是AI Agent在不断变化的环境中需要实现实时监控、异常行为检测和自适应防御，其安全保障机制亟待突破；三是代码生成模型在自动化编程中缺乏完善的安全评估与漏洞修复工具，容易被对抗性攻击诱导生成恶意代码或泄露敏感数据。

团队介绍：字节跳动安全与风控部门，负责公司信息安全的建设、规划和管理工作。致力于为亿万用户的数据安全保驾护航，为字节跳动的每一位用户打造健康自由交流的防护盾。作为企业信息安全的新生力量，以技术为基石，全面提升前瞻性研究和自动化能力。团队积极布局安全人才培养与招募，在北京、上海、深圳、杭州、南京、硅谷、伦敦、新加坡均设有安全研发中心，逐步和信息安全领域的知名高校、研究机构建立深度合作，与安全人才、高校、行业共同努力，建设并反哺互联网安全生态。 课题介绍： 新型可信隐私计算特点在于其融合了软件密码学以及可信硬件技术，能够在数据“可用不可见、可算不可识、可管可计量”的基础上，支持海量数据的计算分析以及大模型的训练和推理，提供透明可信的计算环境，保障用户数据的隐私安全； 但是，在工业级的实际场景中，可信隐私计算技术的应用面临着诸多难题，包括安全计算性能的提升、云原生环境的适配以及信任体系的构建。例如，1）面对十亿甚至百亿规模的海量数据，以及大模型动辄数十B的参数，安全多方计算、同态加密技术由于高昂计算与通信开销，使得其比明文计算慢上百倍甚至千倍；2）作为云原生基础技术的容器，与机密计算结合时面临着可信计算基（TCB）过大、攻击面失控、横向逃逸、可运维性差等问题；3）机密计算虽可有效保护应用的完整性，但是完整性并不等同于安全性，应用仍可能存在漏洞或泄露用户隐私。 1、在百亿至千亿量级的数据查询分析和大模型训练推理场景下，如何从时间、空间、通信等维度，结合可信硬件、专用加速器等手段，设计高性能、可实用的安全多方计算数据分析与机器学习算法、范式以及系统框架； 2、实现机密容器技术体系，从内核、操作系统、根文件系统等维度合理地减少攻击面，同时提高可信性的可证明性、可信容器的可运维性以及可靠的容器隔离性，防御恶意逃逸行为； 3、针对机密计算应用特点，实现可用高效、范化性强（多语言支持）、具备数据泄漏追踪能力的通用可信程序分析框架，提升机密计算环境可信性。

团队介绍：字节跳动安全与风控部门，负责公司信息安全的建设、规划和管理工作。致力于为亿万用户的数据安全保驾护航，为字节跳动的每一位用户打造健康自由交流的防护盾。作为企业信息安全的新生力量，以技术为基石，全面提升前瞻性研究和自动化能力。团队积极布局安全人才培养与招募，在北京、上海、深圳、杭州、南京、硅谷、伦敦、新加坡均设有安全研发中心，逐步和信息安全领域的知名高校、研究机构建立深度合作，与安全人才、高校、行业共同努力，建设并反哺互联网安全生态。 课题介绍： 新型可信隐私计算特点在于其融合了软件密码学以及可信硬件技术，能够在数据“可用不可见、可算不可识、可管可计量”的基础上，支持海量数据的计算分析以及大模型的训练和推理，提供透明可信的计算环境，保障用户数据的隐私安全； 但是，在工业级的实际场景中，可信隐私计算技术的应用面临着诸多难题，包括安全计算性能的提升、云原生环境的适配以及信任体系的构建。例如，1）面对十亿甚至百亿规模的海量数据，以及大模型动辄数十B的参数，安全多方计算、同态加密技术由于高昂计算与通信开销，使得其比明文计算慢上百倍甚至千倍；2）作为云原生基础技术的容器，与机密计算结合时面临着可信计算基（TCB）过大、攻击面失控、横向逃逸、可运维性差等问题；3）机密计算虽可有效保护应用的完整性，但是完整性并不等同于安全性，应用仍可能存在漏洞或泄露用户隐私。 1、在百亿至千亿量级的数据查询分析和大模型训练推理场景下，如何从时间、空间、通信等维度，结合可信硬件、专用加速器等手段，设计高性能、可实用的安全多方计算数据分析与机器学习算法、范式以及系统框架； 2、实现机密容器技术体系，从内核、操作系统、根文件系统等维度合理地减少攻击面，同时提高可信性的可证明性、可信容器的可运维性以及可靠的容器隔离性，防御恶意逃逸行为； 3、针对机密计算应用特点，实现可用高效、范化性强（多语言支持）、具备数据泄漏追踪能力的通用可信程序分析框架，提升机密计算环境可信性。

团队介绍：字节跳动安全与风控部门，负责公司信息安全的建设、规划和管理工作。致力于为亿万用户的数据安全保驾护航，为字节跳动的每一位用户打造健康自由交流的防护盾。作为企业信息安全的新生力量，以技术为基石，全面提升前瞻性研究和自动化能力。团队积极布局安全人才培养与招募，在北京、上海、深圳、杭州、南京、硅谷、伦敦、新加坡均设有安全研发中心，逐步和信息安全领域的知名高校、研究机构建立深度合作，与安全人才、高校、行业共同努力，建设并反哺互联网安全生态。 课题背景： 新型可信隐私计算特点在于其融合了软件密码学以及可信硬件技术，能够在数据“可用不可见、可算不可识、可管可计量”的基础上，支持海量数据的计算分析以及大模型的训练和推理，提供透明可信的计算环境，保障用户数据的隐私安全； 但是，在工业级的实际场景中，可信隐私计算技术的应用面临着诸多难题，包括安全计算性能的提升、云原生环境的适配以及信任体系的构建。例如，1）面对十亿甚至百亿规模的海量数据，以及大模型动辄数十B的参数，安全多方计算、同态加密技术由于高昂计算与通信开销，使得其比明文计算慢上百倍甚至千倍；2）作为云原生基础技术的容器，与机密计算结合时面临着可信计算基（TCB）过大、攻击面失控、横向逃逸、可运维性差等问题；3）机密计算虽可有效保护应用的完整性，但是完整性并不等同于安全性，应用仍可能存在漏洞或泄露用户隐私。 1、在百亿至千亿量级的数据查询分析和大模型训练推理场景下，如何从时间、空间、通信等维度，结合可信硬件、专用加速器等手段，设计高性能、可实用的安全多方计算数据分析与机器学习算法、范式以及系统框架； 2、实现机密容器技术体系，从内核、操作系统、根文件系统等维度合理地减少攻击面，同时提高可信性的可证明性、可信容器的可运维性以及可靠的容器隔离性，防御恶意逃逸行为； 3、针对机密计算应用特点，实现可用高效、范化性强（多语言支持）、具备数据泄漏追踪能力的通用可信程序分析框架，提升机密计算环境可信性。