术语slug: modernbert

现代 BERT

ModernBERT

针对长上下文和效率优化的新一代双向 Transformer 架构

收录情报动态

共 2 篇 · 第 1/1 页
Hugging Face BlogT1·开源与评测
68 分
Ettin Reranker 系列开源:SOTA 重排序模型

Hugging Face 发布基于 ModernBERT 的 Ettin Reranker 系列,包含六个不同参数规模(17M-400M)的交叉编码器。该系列在各自尺寸下达到 SOTA 性能,并完整开源了训练数据与配方,为检索增强生成(RAG)提供高效重排序方案。

Hugging Face BlogT1·基座大模型
68 分
IBM 开源 Granite R2 多语言嵌入模型:32K 上下文,小参数高性能

IBM 发布基于 ModernBERT 架构的 Granite Embedding Multilingual R2 系列开源模型,包含 97M 和 311M 两个版本。其中 97M 模型在 MTEB 多语言检索基准中取得 60.3 分,成为 1 亿参数以下最佳表现者;311M 模型得分 65.2,支持 Matryoshka 表示学习及 32K 长上下文,覆盖 200+ 种语言。