返回热点榜
llm热度 12.7°

AI 聚合热点事件 · 2026/11/18

研究揭示基准低分可被精确制造

1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/11/18 01:23:58
全景综述与最新动态
1 家信源交叉印证

一篇新论文指出,模型在危险能力探针上的低分可能来自人为压制而非真实能力不足,因此单看分数几乎无法证明安全性。研究者用 LoRA 训练出一个“调节旋钮”,把 Qwen 模型拉向更小的 Qwen 模型,可在 1.9 分以内命中未见过的目标分数,而提示词诱导的偏差高达 42 至 47 分。更关键的是,该旋钮产生的新错误中最多 97% 集中在同一个选项字母上,这种错误分布特征可作为识别人为压分的信号。

最新动向/一篇新论文指出,模型在危险能力探针上的低分可能来自人为压制而非真实能力不足,因此单看分数几乎无法证明安全性。研究者用 LoRA 训练出一个“调节旋钮”,把 Qwen 模型拉向更小的 Qwen 模型,可在 1.9 分以内命中未见过的目标分数,而提示词诱导的偏差高达 42 至 47 分。更关键的是,该旋钮产生的新错误中最多 97% 集中在同一个选项字母上,这种错误分布特征可作为识别人为压分的信号。

逐小时热度走势

5 个完整观测小时
当前
12.7
峰值
14.102:00
近 24h 变化
–

曲线只比较全程持续完整观测的同一批信源;缺口小时数据已插值平滑,保持趋势连续。

报道时间线

共 1 篇 · 最新优先
  1. Rohan Paul (@rohanpaul_ai)T2·78 分

    研究揭示基准低分可被精确制造

    原标题:This paper finds that a low benchmark score can be manufactured precisely, so a low score alone says...

    • 低分可能源于模型被刻意压制,单看分数无法区分能力不足与人为压分
    • LoRA 调节旋钮可在 1.9 分内命中目标分数,远优于提示词诱导的 42 至 47 分偏差
    • 人为压分会产生异常集中的错误分布,最多 97% 新错误落在同一选项字母上