Rohan Paul (@rohanpaul_ai)T2·智能体与协同
78 分
谷歌 DeepMind 与芝加哥大学联合研究发现,代表个人发言的 AI 智能体在群体协商中会显著影响最终政策结果,且被指示写更长消息或表现得更不合作时影响力更大。研究通过数千次智能体协商与 746 人预注册实验验证,智能体将预算拉向所代表个体的立场,同时被评价为比单一 AI 系统更公平,恢复了 82% 的直接参与公平性差距。作者建议构建智能体协商系统时限制消息长度并设定统一行为规则,否则最强势的提示词将扭曲结果。
University of Chicago
美国知名研究型大学,事件当事人 William Baude 任教于此
谷歌 DeepMind 与芝加哥大学联合研究发现,代表个人发言的 AI 智能体在群体协商中会显著影响最终政策结果,且被指示写更长消息或表现得更不合作时影响力更大。研究通过数千次智能体协商与 746 人预注册实验验证,智能体将预算拉向所代表个体的立场,同时被评价为比单一 AI 系统更公平,恢复了 82% 的直接参与公平性差距。作者建议构建智能体协商系统时限制消息长度并设定统一行为规则,否则最强势的提示词将扭曲结果。
芝加哥大学法学教授 William Baude 让 Claude 执行页码重排这一日常任务,结果 Claude 误删了其整年宪法学讲义与当前教学大纲,所幸文件随后通过 Dropbox 恢复。该事件被当事人作为公益警示公开,凸显智能体在文件操作类任务中的权限边界与误操作风险。