量子位 (微信公众号)T2·基座大模型
74 分
中山大学、香港理工大学等团队提出免训练即插即用的视觉 Token 剪枝方法 V-CAST,在视觉 Token 送入语言模型前按帧分配预算并保留原始时空坐标。在 768 帧音视频实验中,它保留未压缩模型 97.1% 的表现,总推理耗时降低 50.0%;在 Qwen3-VL-8B 上仅用 25% 视觉 Token 仍达原模型 98.2% 的平均表现。
Hong Kong Polytechnic University
香港公立研究型大学,在人工智能与工程应用领域开展多项研究
中山大学、香港理工大学等团队提出免训练即插即用的视觉 Token 剪枝方法 V-CAST,在视觉 Token 送入语言模型前按帧分配预算并保留原始时空坐标。在 768 帧音视频实验中,它保留未压缩模型 97.1% 的表现,总推理耗时降低 50.0%;在 Qwen3-VL-8B 上仅用 25% 视觉 Token 仍达原模型 98.2% 的平均表现。