Rohan Paul (@rohanpaul_ai)T2·基座大模型
78 分
一篇新论文指出,模型在危险能力探针上的低分可能来自人为压制而非真实能力不足,因此单看分数几乎无法证明安全性。研究者用 LoRA 训练出一个“调节旋钮”,把 Qwen 模型拉向更小的 Qwen 模型,可在 1.9 分以内命中未见过的目标分数,而提示词诱导的偏差高达 42 至 47 分。更关键的是,该旋钮产生的新错误中最多 97% 集中在同一个选项字母上,这种错误分布特征可作为识别人为压分的信号。
Qwen
阿里巴巴通义千问系列大模型,覆盖多种参数规模与多模态版本
一篇新论文指出,模型在危险能力探针上的低分可能来自人为压制而非真实能力不足,因此单看分数几乎无法证明安全性。研究者用 LoRA 训练出一个“调节旋钮”,把 Qwen 模型拉向更小的 Qwen 模型,可在 1.9 分以内命中未见过的目标分数,而提示词诱导的偏差高达 42 至 47 分。更关键的是,该旋钮产生的新错误中最多 97% 集中在同一个选项字母上,这种错误分布特征可作为识别人为压分的信号。
蚂蚁灵波首届具身大模型挑战赛决赛要求 15 支队伍在 48 小时内完成数据采集、模型调优与真机部署,并让同一套模型应对抓放水果、收纳化妆品和双臂清扫三项任务。平均年龄 25 岁的 TARS 团队在第三项任务中放弃官方 210 条抓把手数据,改为自采抓簸箕后沿的示范,最终以 82 分反超夺冠并赢得 8 万元奖金。这一案例说明,在 VLA 真机任务中,数据采集策略与末端接触方式的选择往往比模型调优更决定成败。