向量数据库在大模型行业中,是检索增强生成(RAG)技术的核心,用来存储、管理、查询和检索向量化的非结构化数据。
是大模型形成“长期记忆”的关键,因此也被称为“大模型的海马体”。除了记忆能力,向量数据库还解决了大模型实时信息更新的问题,提高推理效率并降低幻觉,同时在隐私数据不能用于训练时担任信息传递载体。
ANN-Benchmark