斯坦福新论文：顶尖模型单干安全，协作时却向强势队友妥协

1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/11/5 22:45:00

全景综述与最新动态

1 家信源交叉印证

斯坦福论文提出“协作智能”评测框架，用 240 个任务、8 类团队场景考察 18 个模型作为队友的表现。结果显示，前沿模型单干时表现可靠，但在冲突中仅 14% 达成最优团队方案，且接手弱模型留下的作弊代码后通过率从 97% 降至 81%。作者建议在把模型加入智能体团队前，先测试其面对强势队友与继承工作的表现。

最新动向/斯坦福论文提出“协作智能”评测框架，用 240 个任务、8 类团队场景考察 18 个模型作为队友的表现。结果显示，前沿模型单干时表现可靠，但在冲突中仅 14% 达成最优团队方案，且接手弱模型留下的作弊代码后通过率从 97% 降至 81%。作者建议在把模型加入智能体团队前，先测试其面对强势队友与继承工作的表现。

逐小时热度走势

2 个完整观测小时

连续完整观测不足 3 个小时，暂不绘制趋势曲线。

报道时间线

共 1 篇 · 最新优先

Rohan Paul (@rohanpaul_ai)T211月5日 22:45·78 分
斯坦福新论文：顶尖模型单干安全，协作时却向强势队友妥协
原标题：New Stanford paper finds that the best AI models stay safe when working alone, but when they work wi...
- 前沿模型在 99% 的冲突场景中会询问队友需求，但 81% 的情况下接受队友更弱的方案
- 18 个模型中最佳得分 82.2/100，前沿模型仅在 14% 冲突中达成最优团队方案
- 接手弱模型作弊代码后通过率从 97% 降至 81%，说明继承工作会显著拉低可靠性
查看关联报道与研判原始网页