阿里巴巴研究型实习生 - 向量数据库实际复杂场景下的搜索研究

任职要求

1、实现的原型系统及源码；
2、相关技术方案申请专…

工作职责

随着近些年机器学习与表征学习的发展，非结构化数据的查询和分析变得更加普遍。通过表征学习，我们可以把图片或文本嵌入到高维空间从而用高维向量来代表这些图片或文本。进一步的，通过在高维空间中查找最近邻，我们可以对非结构化数据进行语义搜索。例如，通过检索增强生成技术（RAG），我们可以将外部知识或领域知识进行向量化，利用向量空间中的近邻搜索得到对应的原始知识，对大语言模型的生成结果进行增强，来减少大模型出现幻觉或知识过时的现象。
为了提升数据库产品对AI应用的支持，阿里云瑶池数据库也全面提升了向量检索能力，在PolarDB、RDS、AnalyticDB、Lindorm、Tair等产品中集成了向量功能，实现结构化数据、半结构化数据、多模数据、向量数据的一体化处理。
然而，目前向量索引主要关注查询速度和准确率，对于实际复杂场景下的搜索问题还没有足够的研究。例如，分布式架构下的向量查询索引、结构化与非结构化数据的联合查询，以及数据动态增删场景下的索引优化等问题，都需要进一步探索和研究。