Cloudflare 开源 Clef 决策模型 支持多模态低延迟推理

Cloudflare 推出开源决策模型 Clef，含 9B/27B 两版参数，专为结构化选项分类设计，支持多模态输入与概率化输出。其边缘 GPU 托管架构实现低延迟推理，可嵌入智能体决策链路并与 Workers AI 协同执行后续动作。

决策即分类，输出带概率的类型化结果，免文本生成与解析；支持文本/JSON/图像/视频统一输入接口；API 兼容 Typesafe AI 的 Jev System One。

适合 AI 工程师、智能体系统架构师、SRE（需低延迟决策服务）阅读。

在近期的“生日周”活动中，Cloudflare 发布了 Clef，这是一组开源权重 AI 模型，用于在预设选项之间做出选择，而不是生成文本。Cloudflare 发布了 90 亿参数和 270 亿参数版本的模型，以及一个将它们适配到特定决策任务的平台。

Clef 是一款 270 亿参数的多模态模型，它接收状态和带类型问题的 Schema 作为输入，并输出决策结果。它可以处理文本、JSON、图像或视频，只需一次前向推理就能返回针对每个问题的所有可选项对应的概率，无需生成自由文本或解析输出。

决策模型对输入进行分类，输出附带概率的类型化结果，AI 智能体可以利用这些结果来决定后续动作，例如分配客服工单、升级工单，或是将决策交由人工处理。Cloudflare 的 API 兼容 Typesafe AI 的 Jev System One 模型。

Cloudflare 产品组经理 Michelle Chen、首席机器学习工程师 Alex Reneau 和高级工程经理 Kevin Flansburg 写道：

由于模型托管在 Cloudflare 的基础设施上，我们可以利用边缘 GPU 实现较低的网络延迟和更快的决策。这意味着你可以把 Clef 放在智能体决策的核心路径中，并将其与 Workers AI 上的某个 LLM 结合起来执行后续操作。

Cloudflare 还发布了 Clef-Flash，这是一款更小的 90 亿参数多模态模型，专为对延迟敏感的决策场景而设计。在 Cloudflare 的基准测试中，它的中位延迟为 38.8 毫秒，而 270 亿参数的 Clef 模型为 209.3 毫秒。Chen、Reneau 和 Flansburg 解释了 Clef 与其他决策模型的不同之处：

首先，它有一个视觉编码器，因此能够接收图像并对视觉内容进行分类。这与 Jev 不同，后者目前只做文本分类。其次，我们的模型拥有 64k 的上下文窗口（而 Jev 为 32k），这使用户能够塞入更多输入状态供模型做分类判断。

在 Hacker News 的一个热门讨论帖中，社区围绕决策模型、延迟、开源权重，以及这是否属于全新模型品类展开了讨论。Jacek Złydach 评论道：

这不是什么“新范式”，而是一个多年来摆在那里的易得成果；Typesafe 是第一个愿意停下来摘取它的人，并把它大肆营销了一番。

基准测试结果引发了更多质疑，用户 SebastianSosa 警告说：

公开基准很容易做手脚。如果我是 Typesafe，我同样会发布公开基准，以此转移专业人员的注意力，让大家一味去拟合基准，而不是去做真正有用的东西。

Cloudflare 计划针对客服工单分级、机器人识别等场景对 Clef 进行微调，利用自身历史标注数据提升模型准确率与速度。在 Reddit 上，用户 bugra_sa 留言道：

相比原始准确率分数，我更关心 Clef 是否知道何时该放弃判断。用那些误报代价比漏报高得多的案例对它进行测试，然后对数据进行足够大的改动，观察它的置信度何时崩溃。如果它在这种情况下仍保持高置信度，那基准测试数字就没有太大意义。

Cloudflare 还发布了一项微调服务，客户可以使用自有数据对 Clef 进行适配；初期由 Cloudflare 工程师提供支持，自助服务平台计划后续上线，暂未公布确切日期。

Cloudflare 已通过 Workers AI 提供 Clef 模型，并在 Hugging Face 上提供可下载的权重，邀请开发者进行试验并提供反馈。

查看英文原文：https://www.infoq.com/news/2026/10/clef-decision-models/