LEANN 开源向量索引发布,将 RAG 索引体积压缩至 3%
作者:▲ Marktechpost AI (@Marktechpost)原标题:▲ Meet LEANN: An Open-Source Vector Index that Shrinks a 60M-Chunk RAG Index from 201 GB to 6 GB
78AI 研判分
微软研究院等团队推出开源向量索引 LEANN,通过图搜索与 GPU 批量重嵌入技术,将 6000 万块数据的 RAG 索引从 201 GB 压缩至 6 GB。该方案在保持高召回率的同时显著降低存储成本,但检索延迟较高(约 2.5 秒),适合对内存敏感而非实时性要求极高的场景。
报道正文
▲ Marktechpost AI · 2026-10-27 21
▲ LEANN 亮相:一款开源向量索引,将 6000 万数据块的 RAG 索引从 201 GB 压缩至 6 GB
核心思路很简单:图搜索每次查询仅触及少量节点。因此,LEANN 存储的是经过剪枝的图加上小型 PQ(乘积量化)编码。它仅在 GPU 批次中重新嵌入搜索路径上的节点。
在 76 GB 的维基百科语料库上,LEANN 仅需 4 GB,而 HNSW 需要 188 GB。两者在 90% 召回率下均达到 25.5% 的 NQ(Natural Questions)准确率。但这存在权衡:检索耗时为 2.48 秒,而 HNSW 仅为 0.05 秒;在 M1 Ultra Mac 上运行 HotpotQA 数据集时耗时达 44.80 秒。
采用 MIT 许可证,可通过 pip install leann 安装,并荣获 MLSys 2026 最佳研究论文奖。上述数据均为自报结果……
完整分析:
