术语slug: value-ranking-consistency

价值排序一致性

Value Ranking Consistency

模型在成对比较中对相互竞争价值的偏好是否构成稳定可传递排序的性质

收录情报动态

共 1 篇 · 第 1/1 页
Rohan Paul (@rohanpaul_ai)T2·基座大模型
71 分
研究发现大模型道德选择缺乏稳定价值排序

一项针对 GPT-5.2、Gemini、DeepSeek 等 5 个大模型的研究发现,模型在成对道德违规比较中缺乏一致的价值排序:调换选项顺序后,30 个测试块中有 26 个的排序发生改变。更关键的是,对多次回答取平均会制造出一个看似合理、接近人类却并不对应任何单次测试结果的虚假道德层级,因此模型的道德对齐分数需在单次提示与两种选项顺序下均保持排序一致才可信。