字节跳动后端开发实习生-基础技术

1. 参与携程旅游前端研发工作，协助完成页面设计与功能实现。 2. 与产品团队协作进行需求讨论，输出技术方案，与后端协作完成接口对接及联调。 3. 参与代码评审，协助维护和优化现有项目代码。

本课题旨在通过优化Transformer模型中的KV缓存机制，解决处理长序列数据时遇到的计算和内存挑战，目标是减少资源消耗、降低延迟并提高效率。 研究方向包括设计高效的KV缓存管理策略、适应不同应用场景的缓存优化以及并行与分布式处理优化。预期将成果应用于自然语言处理、视频分析等领域，为处理超长序列数据提供更加高效和可扩展的解决方案。

本课题聚焦在多模态数据场景下如何高效的组织其向量索引数据，设计并实现配套的混合查询优化技术，能根据用户请求动态选择合理的索引组合，实现耗时、吞吐的合理平衡。 预期成果是能用单一向量数据库产品原生支持异构多模态数据的向量索引构建和混合查询，为多模态大模型场景提供高效的向量支持。

随着公司AI业务的快速增长，单一 Kubernetes 集群往往无法满足大规模 AI 训练和推理任务的需求。业务通常需要管理多个 Kubernetes 集群或者多云的GPU资源，以实现工作负载的统一分发、部署和管理。 云原生多集群AI调度就是在云原生环境下，探索通过多集群管理技术对复杂且多样的AI负载进行高效调度和资源管理，兼顾弹性扩展，实现全局资源效率和任务执行效率的提升。