返回热点榜
llm热度 10.1°

AI 聚合热点事件 · 2026/11/19

微软新研究揭示大模型遭错误质疑时放弃正确答案

1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/11/19 00:24:22
全景综述与最新动态
1 家信源交叉印证

微软最新论文发现,当用户或其他智能体以错误论据质疑模型答案时,大模型往往会放弃原本正确的回答,且单纯提升准确率的训练无法解决这一问题。研究提出 Self-Disagreement 训练法,让模型先作答、再写出最强反驳、最后裁决并重新作答,使 Qwen3-8B 与 Gemma-2 9B 在错误质疑下保持正确答案的比例从 53.3% 和 25.1% 提升至约 89%。

最新动向/微软最新论文发现,当用户或其他智能体以错误论据质疑模型答案时,大模型往往会放弃原本正确的回答,且单纯提升准确率的训练无法解决这一问题。研究提出 Self-Disagreement 训练法,让模型先作答、再写出最强反驳、最后裁决并重新作答,使 Qwen3-8B 与 Gemma-2 9B 在错误质疑下保持正确答案的比例从 53.3% 和 25.1% 提升至约 89%。

逐小时热度走势

26 个完整观测小时
当前
10.1
峰值
17.901:00
近 24h 变化
-42%

曲线只比较全程持续完整观测的同一批信源;缺口小时数据已插值平滑,保持趋势连续。

报道时间线

共 1 篇 · 最新优先
  1. Rohan Paul (@rohanpaul_ai)T2·78 分

    微软新研究揭示大模型遭错误质疑时放弃正确答案

    原标题:New Microsoft paper finds that LLMs give up correct answers when challenged with wrong arguments, an...

    • 大模型在遭遇错误质疑时倾向放弃正确答案,提升准确率、增加采样或自我反思均无法缓解
    • Self-Disagreement 训练通过自写作答、自我反驳与裁决三阶段显著提升抗质疑能力
    • 部署面向用户或多智能体的系统时,应单独测试模型在压力下的答案稳定性,而非只看准确率分数