Hacker News AIT2·68 分
vLLM 启用约束解码 将工具调用准确率提至 100%
原标题：Fixing Tool-Call Accuracy in vLLM
- vLLM 0.31 版本新增服务端约束解码（Constrained Decoding）标志位
- 开启该功能可将 Kimi K2.6 等模型的工具调用 Schema 匹配率从 92% 提升至 100%
- 约束解码能有效防止因错误上下文累积导致的智能体多轮对话质量下降
返回热点榜
tools热度 15.3°
AI 聚合热点事件 · 2026/10/26
vLLM 启用约束解码 将工具调用准确率提至 100%
1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/10/26 20:59:48
全景综述与最新动态
1 家信源交叉印证针对开源模型推理中常见的工具调用失败问题，vLLM 在 0.31 版本中正式支持服务端约束解码功能。该特性通过强制模型输出符合预定义 Schema，成功将 Kimi K2.6 等模型的调用准确率从 92% 提升至 100%，显著增强了智能体工作流的稳定性。
最新动向/针对开源模型推理中常见的工具调用失败问题，vLLM 在 0.31 版本中正式支持服务端约束解码功能。该特性通过强制模型输出符合预定义 Schema，成功将 Kimi K2.6 等模型的调用准确率从 92% 提升至 100%，显著增强了智能体工作流的稳定性。
逐小时热度走势
2 个完整观测小时连续完整观测不足 3 个小时，暂不绘制趋势曲线。