Case7｜千亿级向量索引的秘密武器：一文详解蚂蚁集团的工程实践和开源突破

1. 向量检索技术挑战：面临非结构化数据规模飞速增长和高资源消耗的挑战，需要处理大规模向量索引的算力需求和内存消耗。 2. RAG 范式和向量数据库：结合 RAG 技术可以解决大语言模型的信息更新和溯源问题，对 AI 基础设施中的向量数据库具有重要性。 3. 实践案例挑战：蚂蚁集团内部实际场景中存储成本、高召回率和性能带来的挑战，以及新 CAP 问题中的成本、精度和性能之间的平衡。 4. 向量检索的基础原理和工程实践：包括向量检索的基础原理、蚂蚁集团在向量检索领域的工程实践和具体案例，以及蚂蚁开源向量索引库 VSAG 的最新进展。 5. 蚂蚁自研向量数据库 VectorDB：蚂蚁集团针对性能、成本和精度挑战，自研了一套向量数据库系统，构建在蚂蚁内部的行列混合存储底座上。 6. 成本优化实践：提出采用 HNSW+DiskANN 混合索引方案，实现内存需求、QPS 和延迟的优化，达到整体 TCO 降低的效果。 7. 索引方案选型：调研发现单一的向量索引无法同时满足实时性、成本和召回率，提出采用 HNSW+DiskANN 的混合索引方案来应对成本挑战。 8. VSAG 开源进展：介绍蚂蚁开源向量索引库 VSAG 的性能表现和生态适配，以及未来的开源规划。 9. 稀疏向量的应用：介绍稀疏向量索引的特殊表示形式和其在匹配关键词或短语上的优势，以及将三种索引结合在一起的性能和召回率提升。 10. 性能突破：介绍基于 BSA 剪枝框架的优化方法和内存排布与数据预取的改进，以及实验数据显示的性能提升效果。