Rohan Paul (@rohanpaul_ai)T2·基座大模型
58 分
Meta 新论文指出,用似然概率判断大模型输出真伪存在根本缺陷:模型学到的是文本中的常见表述,而非事实本身,被反复提及的谬误反而更“可信”。论文借鉴物理与哲学思路,提出事实应在视角变换下保持不变,即让模型从多个视角(如三位医学专家)作答,只保留各答案的共识部分,若无共识则弃答。该论文未开展实验,仅以构造示例论证,例如在单个二分类例子上,损失 0.67 对应 100% 准确率,而损失 0.71 却对应 0% 准确率。
Viewpoint Invariance
以事实在不同视角、人格或语言下保持一致作为真实性判据的方法
Meta 新论文指出,用似然概率判断大模型输出真伪存在根本缺陷:模型学到的是文本中的常见表述,而非事实本身,被反复提及的谬误反而更“可信”。论文借鉴物理与哲学思路,提出事实应在视角变换下保持不变,即让模型从多个视角(如三位医学专家)作答,只保留各答案的共识部分,若无共识则弃答。该论文未开展实验,仅以构造示例论证,例如在单个二分类例子上,损失 0.67 对应 100% 准确率,而损失 0.71 却对应 0% 准确率。