术语slug: matryoshka-representation-learning

Matryoshka 表示学习

Matryoshka Representation Learning

允许在同一模型中通过截断向量维度来平衡精度与计算成本的技术

收录情报动态

共 2 篇 · 第 1/1 页
Hugging Face BlogT1·基座大模型
68 分
IBM 开源 Granite R2 多语言嵌入模型:32K 上下文,小参数高性能

IBM 发布基于 ModernBERT 架构的 Granite Embedding Multilingual R2 系列开源模型,包含 97M 和 311M 两个版本。其中 97M 模型在 MTEB 多语言检索基准中取得 60.3 分,成为 1 亿参数以下最佳表现者;311M 模型得分 65.2,支持 Matryoshka 表示学习及 32K 长上下文,覆盖 200+ 种语言。