Rohan Paul (@rohanpaul_ai)T2·基座大模型
78 分
微软最新论文发现,当用户或其他智能体以错误论据质疑模型答案时,大模型往往会放弃原本正确的回答,且单纯提升准确率的训练无法解决这一问题。研究提出 Self-Disagreement 训练法,让模型先作答、再写出最强反驳、最后裁决并重新作答,使 Qwen3-8B 与 Gemma-2 9B 在错误质疑下保持正确答案的比例从 53.3% 和 25.1% 提升至约 89%。
Self-Disagreement
让模型先作答、再写出最强反驳、最后裁决并重新作答的训练方法,用于提升抗质疑能力
微软最新论文发现,当用户或其他智能体以错误论据质疑模型答案时,大模型往往会放弃原本正确的回答,且单纯提升准确率的训练无法解决这一问题。研究提出 Self-Disagreement 训练法,让模型先作答、再写出最强反驳、最后裁决并重新作答,使 Qwen3-8B 与 Gemma-2 9B 在错误质疑下保持正确答案的比例从 53.3% 和 25.1% 提升至约 89%。