Rohan Paul (@rohanpaul_ai)T2·78 分
微软新研究揭示大模型遭错误质疑时放弃正确答案
原标题:New Microsoft paper finds that LLMs give up correct answers when challenged with wrong arguments, an...
- 大模型在遭遇错误质疑时倾向放弃正确答案,提升准确率、增加采样或自我反思均无法缓解
- Self-Disagreement 训练通过自写作答、自我反驳与裁决三阶段显著提升抗质疑能力
- 部署面向用户或多智能体的系统时,应单独测试模型在压力下的答案稳定性,而非只看准确率分数