谷歌 DeepMind 与芝大发现智能体话术可操纵群体决策
原标题:New GoogleDeepMind + UChicago paper finds that AI agents speaking for people gained more influence o...
78AI 研判分
谷歌 DeepMind 与芝加哥大学联合研究发现,代表个人发言的 AI 智能体在群体协商中会显著影响最终政策结果,且被指示写更长消息或表现得更不合作时影响力更大。研究通过数千次智能体协商与 746 人预注册实验验证,智能体将预算拉向所代表个体的立场,同时被评价为比单一 AI 系统更公平,恢复了 82% 的直接参与公平性差距。作者建议构建智能体协商系统时限制消息长度并设定统一行为规则,否则最强势的提示词将扭曲结果。
报道正文
Rohan Paul (@rohanpaul_ai) · 2026-11-17 16
GoogleDeepMind 与芝加哥大学的新论文发现,当被要求写得更冗长或更不配合时,代表人们发言的 AI 智能体对群体政策获得了更大的影响力。
关于 AI 政策的公众意见很难规模化收集,因为人们缺乏时间和技术背景。为每个人发言的智能体可以让更多声音进入每一场讨论。
他们构建了多元化的智能体:先采访一个人,然后与其他智能体一起为其观点辩护,以设定 AI 安全预算。他们进行了数千次智能体审议,并开展了一项有 746 人参与的预注册研究。
智能体会将预算拉向其所代表的人的观点,而当被要求写更长的消息或更少配合时,它们获得了更大的拉动力。人们认为智能体比向单一 AI 系统提供意见更公平,弥补了与直接参与之间 82% 的公平性差距。
如果你构建基于智能体的审议,请限制消息长度并设定共享行为规则,否则最具主张性的提示词将左右结果。
