Hugging Face Blog · 2026/10/16 04:34:01
IBM Granite Switch 4.1 发布：单端点集成对话、决策与语音识别，引入 Decision 适配器
IBM 发布 Granite Switch 4.1 模型系列，通过模块化适配器架构在单一端点实现自然语言对话、通用/专用决策及语音转文本功能。该版本新增 Decision 适配器并集成了 OpenASR 榜单最快的 ASR 模型，显著提升了多任务场景下的部署效率与推理速度。
报道全文原始报道全文
本文目录4 个章节
Granite Switch 4.1：单一端点实现对话、决策与语音处理
企业级文章 发布于 2026 年 10 月 15 日 点赞 2
Kate Soule katesoule ibm-granite Subhajit Chaudhury subhajit1412 ibm-granite Hendrik Strobelt hen ibm-granite Luis A Lastras GrizleeBer ibm-granite
去年春季推出的 Granite Switch 项目实现了模型开发的模块化方法。如今，Granite Switch 4.1 模型配备了 Decision 适配器以及 OpenASR 排行榜上速度最快的 ASR 模型，能够在自然语言回复、通用及专用决策和语音转文本任务之间高效切换——所有功能均通过单一托管端点提供。
具体而言，Granite-Switch-4.1-8B 和 -30B 模型的配置包括：
- 用于通用决策（例如 v1/systemone）的新 Decision aLoRA，
- 专用的 Guardian aLoRA，在安全相关决策任务中平均性能优于 Jev 1.13、Microsoft-Decision-1、GPT-Luna-Decisions 和 Clef-Flash，以及
- Granite-Speech-5.0-Turbo-CTC，这是 OpenASR 排行榜 上速度最快的 ASR 模型，已嵌入用于转录任务。
这三项技术（连同底层基础模型）被组合成一个模型，其在 GPU 上占用的显存（VRAM）与单独使用基础模型时大致相同。这意味着可以用更少的 GPU 实现更多的功能。
由于 Switch 适配器是作为缓存高效的 Activated LoRAs 构建的，因此由基础模型生成产生的 KV 缓存可以复用于任何后续的基于适配器的决策。结合我们团队近期对 vLLM 的贡献以加速低秩适配器推理，以及共置的 ASR 编码器，Granite Switch 4.1 模型可以在聊天请求、决策请求和语音请求之间切换，速度极快。
Granite-switch-4.1-8b 能够转录音频、生成摘要、筛查有害内容并测试 15+ 个通用标志——所有这些都在单个端点上实时运行。
Granite Libraries：最初的决策模型
决策模型并非新鲜事物。我们之前发布的 Granite Libraries 包含一个专门“决策模型”适配器和其他专用任务适配器的仓库，这些适配器可以组合成自定义的 Granite Switch 模型。虽然 Jev 和其他封闭式决策模型侧重于通用性，但我们发现，许多专用的 granitelib 适配器在特定分类任务上的表现优于通用模型。
比较 granitelib 适配器 与通用决策模型在特定分类任务评估中的表现。
由于适配器共享基础模型的 KV 缓存，因此在通用决策适配器旁边添加专家模型几乎不产生额外成本。你可以从通用模型获得广泛覆盖，同时在关心的任务上从专家模型获得更高的准确性。
在一场“竞赛”中，Granite-Switch-4.1-30B（冻结的基础 Granite + 4 个专用 aLoRA）与 Jev-27B（冻结的基础 Qwen 模型 + 1 个通用决策 LoRA）相比，前者完成真实世界 5 步 RAG 工作流的速度远快于后者。
组合并扩展你自己的 Granite Switch 模型
Granite-Switch-4.1-8B 和 -30B 以“开箱即用”（batteries included）的形式发布。它们是 Granite Switch 模型，我们已为其预编译了一套实用的适配器组合。但你无需必须使用我们的版本。任何人都可以自行构建 Granite Switch 模型，从 Granite Libraries 中混合搭配适配器，以最佳方式满足自身需求。
展望未来，我们看到社区利用自定义及第三方适配器来构建和扩展 Granite Switch 模型存在巨大机遇。我们计划在 Mellea 中发布用于训练适配器的 Adapter SDK，并配套提供其他教程及 Granite Switch 支持。这些适配器可以是用于增强决策型工作流的专用分类适配器，也可以是针对特定语言任务的适配器。你甚至可以使用自定义适配器，让一个拥有 30 亿参数的 Granite 模型学会玩经典游戏《毁灭战士》（Doom）。
与 Jev 类似，我们定制的 30 亿参数 Granite Switch 模型能够做出瞬时决策以在《毁灭战士》游戏中导航，但其决策速度可达 每秒 60 - 100 次，而 Jev 报告的决策速度为每秒 10 次。1 与 Jev 不同，这款 Granite Switch 模型还能在游戏过程中进行解说并回答你的问题。
我们期待在未来几周内发布更多关于 Granite Switch 的细节和数据，但在此之前，我们鼓励你试用我们最新的 Switch 模型，并利用以下资源快速上手。
入门资源
- Granite Switch 4.1 模型卡片
- 语音转决策演示
- Granite Switch GitHub 仓库
- 原始 Granite Switch 及 Granite Libraries 发布博客
- 在 Colab 上创建你自己的 aLoRA vs LoRA 竞速实验。
脚注
1 https://typesafe.ai/blog/introducing-system-one-models-and-jev