Marktechpost (@Marktechpost)T2·78 分
LEANN 开源向量索引发布,将 RAG 索引体积压缩至 3%
原标题:▲ Meet LEANN: An Open-Source Vector Index that Shrinks a 60M-Chunk RAG Index from 201 GB to 6 GB
- LEANN 利用剪枝图和乘积量化代码,仅对搜索路径上的节点进行 GPU 批量重嵌入,实现极致压缩。
- 在 76GB 维基百科语料上,LEANN 仅需 4GB 内存,而传统 HNSW 需 188GB,且两者在 NQ 数据集上准确率相当。
- 主要权衡是检索速度:LEANN 平均耗时 2.48 秒,远高于 HNSW 的 0.05 秒,不适合低延迟实时应用。