vLLM 开源 d3-ultra:27B 概率决策模型支持多模态单次推理

作者:▲ Marktechpost AI (@Marktechpost)原标题:▲ vLLM Semantic Router just open-sourced d3-ultra, a 27B decision model that answers questions with ...
78AI 研判分

vLLM Semantic Router 团队开源了 d3-ultra,这是一个拥有 260 亿参数的概率决策模型。该模型采用“状态一次”架构,通过单次读取输入即可并行回答选择题、检测框及视频追踪等多类任务,在 AMD MI325X 上实现高效推理。尽管其在文本语义路由基准测试中表现优于竞品,但在边界框定位任务上略逊于同系列轻量版模型,且部分测试集尚未公开。

报道正文

▲ Marktechpost AI · 2026-10-27 05

▲ vLLM Semantic Router 刚刚开源了 d3-ultra,这是一个拥有 27B 参数的决策模型,它通过概率而非文本来回答问题。

其核心理念是“状态仅读取一次”(state once)。该模型只需读取输入一次,即可回答关于该输入的所有问题。这些问题可以是选择题、是非题、评分、图像中的边界框,或是视频中的轨迹跟踪。

在团队自建的 SR-Text 测试中,d3-ultra 得分 87.2,领先于 Fastino 的 GLiDE V1.2(85.1)和 Liquid AI 的 d1-ultra(83.4)。在单张 AMD Instinct MI325X 显卡上,针对一张照片回答 255 个问题耗时 2.16 秒。不过这也存在权衡:在 Box grounding(边界框定位)任务上,它落后于同系列的 d3-turbo,得分为 58.2% vs 60.0%,且两个测试集均为私有数据。

模型权重已在 Hugging Face 上以 Apache-2.0 许可证发布:参数量为 26.09B,每个问题支持 131,072 个 token,输入模态包括文本、JSON、图像和视频……

完整分析:

推文配图