OpenRouter (@OpenRouter) · 2026/10/13 20:49:00
Scaledown 团队推出约束解码模型家族：跳过生成循环实现单任务极速推理与结构化输出
Scaledown 团队在 OpenRouter 上线了专为单一任务设计的“约束解码模型”（CDMs）家族，涵盖摘要、提取和分类功能。该架构通过读取输入一次并跳过传统 LLM 的逐 token 生成循环，显著降低了延迟和成本，同时提供带置信度分数的结构化 JSON 输出。目前正值发布期，输入 Token 价格低至 $0.04/M，且前 50 小时提供 50M 免费额度。
报道全文原始报道全文
来自 @scaledown_team 的一系列约束解码模型已上线 OpenRouter，每个模型均专为单一任务打造：
• Summarize（摘要）：将长文本、图像和 PDF 转化为简短且一致的摘要，适用于上下文压缩和转录稿摘要 • Extract（提取）：用自然语言描述所需字段，即可返回干净的 JSON 数据，包含置信度分数和源文本跨度 • Classify-1（分类）：自定义标签，并通过我们的 Decisions API 获取每个标签的校准概率
发布特惠八折：输入 Token 每百万 $0.04，输出免费。
↳ 引用 @neal_k_patel (Neal Patel): 你已经把答案喂给了 LLM，为什么还要让它从头开始生成一遍？
介绍一种全新的 AI 模型架构：约束解码模型（Constrained Decoding Models, CDMs）
LLM 的设计初衷是生成文本。但大多数生产环境的工作负载只需要一个答案：快速、一致且经济实惠。
CDMs 每个模型都专为单一任务构建。它们只需读取一次输入，便跳过了导致 LLM 缓慢且昂贵的逐 Token 生成循环。
这不仅仅是一个决策模型，而是一个现已上线的由 3 个 CDM 组成的家族：
• Classify（分类）：定义你的标签，即可获得每个标签的校准概率 + 理由。用于路由、打标签和意图检测。 • Extract（提取）：用自然语言描述实体，即可获得格式规范的 JSON，包含置信度分数 + 引用来源。用于网页抓取、文档处理和 PII（个人身份信息）脱敏。 • Summarize（摘要）：传入长文本、图像或 PDF，即可获得长度在 1,000 Token 以内的一致摘要。用于上下文压缩、元数据生成和转录稿摘要。
为生产环境而生：
• 支持 100 万 Token 的多模态（文本 + 图像）输入，比 Jev 大 31 倍 • 在 DecisionBench 上得分 77.2%，而 Jev 为 72% • 速度比前沿 LLM API 快 200 倍，成本低 467 倍 • 输入 Token 每百万 $0.05。输出免费（是的，即使是摘要任务也免费）
今日已在您喜爱的平台上上线： @OpenRouter @vercel_dev @LiteLLM @LangChain @TrustedRouter @itsArthurAI @useRouterPlus
点击下方链接，前 50 小时内可免费获取 5000 万输入 Token 👀
