量子位 (微信公众号)T2·74 分
中大等提出 V-CAST 长视频推理耗时减半
原标题:长视频推理耗时减半!中大、港理工等提出免训练压缩新方法|NeurIPS'26
- V-CAST 在视觉 Token 进入语言模型前完成筛选剪枝,无需训练、即插即用
- 768 帧音视频实验保留 97.1% 表现,总推理耗时降低 50.0%
- 按相邻帧变化分配帧预算并保留原始时空坐标,避免合并后位置失配
AI 聚合热点事件 · 2026/11/16
中山大学、香港理工大学等团队提出免训练即插即用的视觉 Token 剪枝方法 V-CAST,在视觉 Token 送入语言模型前按帧分配预算并保留原始时空坐标。在 768 帧音视频实验中,它保留未压缩模型 97.1% 的表现,总推理耗时降低 50.0%;在 Qwen3-VL-8B 上仅用 25% 视觉 Token 仍达原模型 98.2% 的平均表现。
原标题:长视频推理耗时减半!中大、港理工等提出免训练压缩新方法|NeurIPS'26