机器之心 (微信公众号)T2·78 分
SpanUQ 提出片段级不确定性估计,推理提速 10-20 倍
原标题:NeurIPS 2026 | 从Token到Span:重新思考大语言模型的不确定性估计
- 定义新任务 SLUE:将不确定性估计聚焦于语义片段而非单个 Token 或整段文本
- 性能突破:相比传统多次采样方法,推理速度提升 10-20 倍
- 应用价值:为 Multi-Agent 系统提供可传递、可决策的细粒度置信度信号
AI 聚合热点事件 · 2026/10/22
NeurIPS 2026 论文 SpanUQ 将大模型不确定性估计从 Token 粒度推进至语义片段(Span)级别,旨在精准定位回答中不可靠内容。该方法相比传统多次采样策略,推理速度提升 10 至 20 倍,为下游系统及多智能体协作提供了更细粒度的置信度信号。
曲线只比较全程持续完整观测的同一批信源;缺口小时数据已插值平滑,保持趋势连续。
原标题:NeurIPS 2026 | 从Token到Span:重新思考大语言模型的不确定性估计