SemiAnalysis 发布 GDPx 基准,最强 AI 智能体真实工作任务得分仅 12%

作者:Manuel Uth原标题:No AI agent scores above 12 percent on SemiAnalysis' new real-world work benchmark
78AI 研判分

SemiAnalysis 推出 GDPx 基准,让 AI 智能体在模拟真实办公环境与专业软件中连续数小时完成 206 项知识工作任务,结果最高分仅 12%。Claude Opus 5.5 以 12% 领先,Gemini 4 Carbon 与 GPT-6 Astra 分别为 10.9% 和 9.6%。批评者指出安全过滤、任务保密及各厂商自带的智能体工具差异会扭曲结果,子领域任务量偏少也导致分数波动。

报道正文

本文目录5 个章节

没有任何 AI agent 在 SemiAnalysis 的新真实工作基准测试中得分超过 12%

文本
  [Manuel Uth](https://the-decoder.com/author/manuel-uth/)   2026年11月5日      

图片描述

由 THE DECODER 提示生成的 Nano Banana Pro

要点

  • 分析公司 SemiAnalysis 发布了 GDPx,这是一个在真实工作环境和专业软件中、历时数小时对 AI agent 进行 206 项任务测试的基准。

  • 得分很低。Claude Opus 5.5 以仅 12% 的成绩领跑,紧随其后的是谷歌价格低得多的 Gemini 4 Carbon(10.9%)和 GPT-6 Astra(9.6%)。

  • 批评者指出,安全过滤器造成了失真,测试任务缺乏透明度,而且各提供商自家的 agent 软件造成了不平等的条件。

    文本
    询问关于本文…   搜索        

SemiAnalysis 的新 GDPx 基准将 AI agent 置于模拟的知识工作中。没有任何模型得分超过 12%。一些批评者质疑该测试究竟有多大意义。

分析公司 SemiAnalysis 发布了 GDPx,这个基准并不考查 AI agent 的知识,而是将它们放入模拟的工作环境。在那里,它们要花最多八个小时操作 Siemens NX 等专业软件、在包含数千个文件的数据室中搜索,或攻击真实的企业系统。SemiAnalysis 有意与 OpenAI 的 GDPval 保持距离,称后者在提示中提供了所有上下文,缺乏真实的工作环境。

这 206 项任务横跨十一个领域,包括芯片设计、生物学、量化交易、网络安全和法律。SemiAnalysis 有意排除了行政和保险领域。该团队认为,AI 收入的第一万亿美元将来自前沿 AI 能带来最大回报的行业。

GDPx 总排名对十一个等权重领域的结果取平均值。没有模型突破 12%。 | 图片:SemiAnalysis

Opus 5.5 以微弱优势领先,Gemini 4 Carbon 价格仅为其零头

根据 SemiAnalysis 的数据,Claude Opus 5.5 以 12% 的成绩位居榜首。Gemini 4 Carbon 以 10.9% 紧随其后,但每项任务成本仅为 16.29 美元,约为前者的三分之一。GPT-6 Astra 的成绩为 9.6%。没有任何模型能完全解决金融和法律任务。电子表格中只要有一个数值出错,整个输出在实际应用中就毫无用处。按照这一严格标准,没有任何模型能完成哪怕一项任务,因此 SemiAnalysis 改为统计各项单独要求的满足比例。

Gemini 4 Carbon 的表现接近 Opus 5.5,但成本仅约为其三分之一。在低端,GPT-6 Luna 和 DeepSeek 4.1 Flash 的成绩约为 5%,每项任务成本约一美元。Muse Wonder Full 因没有公开定价而未列入。 | 图片:SemiAnalysis

详细结果揭示了智能体在哪些方面失败。在对齐测试中,200 次网络运行里有 98% 至少违反了一条行为规则。在模拟医疗实践中,有一个模型以医生的名义签署了临床记录。在量化交易中,111 次运行中有 70 次的表现不如给定的参考策略。

安全过滤器重塑排名

一项经过过滤的分析显示了提供商安全机制对结果的影响程度。剔除网络、生物和对齐三个领域后,GPT-6 Astra 以 11.8% 的成绩略超 Opus 5.5。在网络领域,GPT-6 Astra 和 GPT 6.1 Sol 的得分为零,而 Meta 的 Muse Wonder Full 达到 35.2%。

剔除安全过滤器介入的三个领域后,GPT-6 Astra 占据榜首。Meta 的 Muse Wonder Full 从第四名降至第七名。 | 图片:SemiAnalysis

封闭基准测试引发审视

这些任务来自14家专业合作伙伴,它们同时也向AI实验室出售训练和评估数据。SemiAnalysis表示,它并不在每个领域都拥有内部专业知识。通常每家合作伙伴只有一个示例任务公开,其余的都保密。在包括法律和硬件设计在内的若干领域,语言模型使用评分标准来给结果打分,而不是由人类专家评分。外部人士无法完全验证任务的难度或评分质量。

不过,这种保密性在方法论上确实有一个好处。由于任务不公开,AI实验室无法针对具体的测试题目来优化其模型。Artificial Analysis在其最新版智能指数中也采取了类似的做法。

开发者Josh Purtell仍然称GDPx“噪声多于信号”。他指出,每个模型都在各自提供商的智能体软件中运行,例如Opus在Claude Code中运行。工具较弱的提供商会处于劣势。各个子领域通常也只包含大约十个任务,这使得结果波动较大。

SemiAnalysis计划每三到六个月更新一次该基准测试。