Meta FAIR 开源 e-means 聚类提速 45 倍
作者:▲ Marktechpost AI (@Marktechpost)原标题:▲ Meta FAIR just open-sourced e-means, a drop-in replacement for k-means that reaches the same loss ...
78AI 研判分
Meta FAIR 开源了 k-means 的即插即用替代方案 e-means,通过小批量读取与指数移动平均维护簇统计量,并用两条拟合缩放律自动确定批大小与步长,无需额外调参。官方数据显示其仅需 1.4 至 2.6 个 epoch 即可达到 Lloyd 算法 25 个 epoch 的损失水平,GPU 上相对 Flash-KMeans 提速 10 至 45 倍,并成功将 100 亿条 DINO 嵌入聚为 1670 万个簇。代价是结果具有随机性,且大规模质心需分片存储。
报道正文
▲ Marktechpost AI · 2026-11-10 23
▲ Meta FAIR 刚刚开源了 e-means,它是 k-means 的即插即用替代方案,能在约十分之一的 epoch 内达到相同的损失。
核心思想很简单。Lloyd 的 k-means 在每一轮迭代中都会基于完整数据集重新计算每个质心。e-means 则读取小批量数据,并对每个簇的求和与计数维护指数移动平均。两条拟合出的缩放定律会根据 n、k 和 epoch 数选择批量大小和步长,因此除了 k 之外无需调参。
数据如下:e-means 在 1.4 到 2.6 个 epoch 内就超过了 Lloyd 的 25-epoch 损失。相比 Flash-KMeans,GPU 加速达到 10-45 倍;相比 Faiss,CPU 上加速达到 8-15 倍。它还在 2.5 个 epoch 内将 100 亿个 DINO 嵌入聚类为 1670 万个簇。不过这是一种权衡:运行具有随机性,而且 1670 万个质心需要 64 GiB 的 float32 累加器,因此必须进行分片。所有结果均为自行报告。
完整分析:
