字节跳动【实习】基于LLM的软件缺陷检测技术的探索和研究-质量技术

团队介绍：字节跳动质量技术团队，我们聚焦质量领域前沿创新，打造稳定、高效、领先的质量技术，深度赋能抖音、今日头条、豆包、电商等亿级用户产品。 当前，我们通过AI来检测代码、架构、产品的缺陷、风险和效果，用AI重构质量保障模式，提升研发效能。聚焦智能缺陷检测、GUI agent、AI评测等前沿方向，希望通过质量技术的突破，用AI改变测试行业。欢迎加入，与我们一起，定义和构建下一代质量技术，推动行业前进。 课题介绍： 随着大模型技术在软件开发领域的广泛应用，代码开发效率显著提升，AI生成代码的质量不确定性，都为软件测试带来了全新挑战。传统静态分析方法在复杂业务逻辑校验、功能一致性验证等场景存在明显局限，而动态GUI测试与API测试则面临执行开销高、测试覆盖度不足等问题。 本课题旨在构建一种基于LLM的智能缺陷检测系统。通过对需求文档和技术方案的语义理解，结合跨端、跨仓的代码调用关系的刻画，产出业务逻辑与代码实现的精准对齐，在此基础上，构建具备对各类缺陷特征有充分感知的缺陷检测智能体，高效、精准的识别业务逻辑、架构性能、程序安全等复杂缺陷。 课题挑战： 1、公司多样化业务场景下，对多模态需求的语义理解和功能逻辑提取； 2、跨端、跨仓、多技术栈的代码链路分析； 3、海量缺陷数据的特征分析和提取； 4、支持大规模应用的Agent系统工程； 课题价值： 1、保证软件质量的要求下，构建一种以静态检测技术为主的软件测试模式，优化测试资源的配置和效率； 2、实现软件缺陷的早期发现，降低缺陷识别和修复的成本，显著提升研发效能。

【团队介绍】 唯品会个性化工程团队，负责公司核心三大业务场景：搜索、推荐和用户增长。团队致力于打造业内领先的搜推效率引擎和用户增长引擎，践行“品牌特卖，就是超值”的业务使命，助力公司业绩和用户规模的持续增长。 通过LLM在搜推场景的意图理解、相关性建模、生成式召回、智能创意的应用，提升搜推系统端到端的体验、匹配效率，构建下一代基于大型语言模型（LLM）的智能搜推系统。 1、用户需求理解体系：结合用户的实时行为数据，研发基于LLM的意图推理引擎，提升搜推结果相关性与用户满意度。 2、生成式召回：研究基于大模型的生成式召回方法，实现以模型参数为载体的候选内容记忆与生成，突破传统召回技术的局限。 3、智能创意：探索搜推场景下的创意素材展示策略，基于多模态内容理解表征建模、在线多目标创意素材排序建模，提升搜推的展示体验与效率。 4、多业务多目标混排机制：参与设计多业务多目标混排机制，实现多业务混合排序架构，融合多业务多目标排序，实现全局最优。 5、引领下一代AI原生搜索系统：深度参与“生成式搜索”从理念到产品的全链路建设，推动大模型与传统搜索架构的深度融合。

在搜索等实际线上业务中，推理速度限定了线上可用的模型大小以及可达效果，当前的基于transformer架构的大模型基座在推理速度上存在系统性瓶颈。本课题探索基于创新框架，如diffusion LLM和linear attention model的大模型基座范式，从数据、模型预训练、后训练、AI Infra、评测等方向探索模型效果极限。

该职位专注于分布式大语言模型 (LLM) 推理系统的底层基础设施研究与探索，包括GPU和RDMA等。主要职责包括： 探索高性能、可扩展的分布式LLM推理引擎，以支持分布式LLM的高效部署； 基于KVCache，对大模型框架进行深入优化； 分析现有推理框架的性能瓶颈，提出并实施创新的优化技术； 参与与大模型相关的开源项目，如mooncake、vllm等。