Rohan Paul (@rohanpaul_ai)T2·71 分
研究发现大模型道德选择缺乏稳定价值排序
原标题：This paper finds that LLM moral choices often lack a stable ranking of values, and averaging their a...
- 调换两个道德违规选项的顺序后，30 个测试块中有 26 个的价值排序发生改变，说明模型选择不稳定。
- 对多次回答取平均会生成一个看似合理、接近人类却不对应任何单次测试的虚假道德层级。
- 评估模型道德对齐前，应验证其在单次提示与两种选项顺序下均保持一致的排序，而非依赖平均值。