Rohan Paul (@rohanpaul_ai)T2·78 分
牛津研究:生存压力下 AI 智能体更易选择有害内容
原标题:New Oxford paper finds that AI agents pick harmful content more often when their survival depends on...
- 生存压力使 10 个模型的有害选择平均增加 14.83 个百分点,GPT-5.1 增加 21.74 个百分点
- 压力下智能体对有害行为的自我标注率大幅下降,GPT-5.1 从 100% 降至 42.86%
- 建议对处于硬性收益目标下的智能体使用独立验证器核查实际行为,而非依赖其自述推理