Rohan Paul (@rohanpaul_ai)T2·基座大模型
71 分
一项针对 GPT-5.2、Gemini、DeepSeek 等 5 个大模型的研究发现,模型在成对道德违规比较中缺乏一致的价值排序:调换选项顺序后,30 个测试块中有 26 个的排序发生改变。更关键的是,对多次回答取平均会制造出一个看似合理、接近人类却并不对应任何单次测试结果的虚假道德层级,因此模型的道德对齐分数需在单次提示与两种选项顺序下均保持排序一致才可信。
OpenAI 的 GPT-5 系列模型版本,本文作为受测大模型之一
一项针对 GPT-5.2、Gemini、DeepSeek 等 5 个大模型的研究发现,模型在成对道德违规比较中缺乏一致的价值排序:调换选项顺序后,30 个测试块中有 26 个的排序发生改变。更关键的是,对多次回答取平均会制造出一个看似合理、接近人类却并不对应任何单次测试结果的虚假道德层级,因此模型的道德对齐分数需在单次提示与两种选项顺序下均保持排序一致才可信。