形式化验证成为对抗 AI 低质代码的新武器

作者:Richard MacManus原标题:The War Against Slop and an Emerging Weapon to Fight it: Formal Verification
62AI 研判分

随着 AI 生成代码激增,低质量输出(slop)成为工程团队的日常困扰。Harmonic、Theorem、Axiom Math 等公司正将基于数学证明的形式化验证系统推向实用,用于校验 AI 智能体交付代码的正确性。AI 数学能力的提升使这一原本高门槛的方法具备了落地条件。

报道正文

本文目录5 个章节

2026 年 AI 行业的年度词汇是 “slop”——意指大语言模型产出的低质量内容。如今有如此多的代码由 AI 生成,避免 slop 已成为软件工程师日常关注的问题。那么该如何做到呢?一种方法是使用形式化验证系统,它利用数学证明与逻辑来验证软件或硬件的正确性。

随着 AI 在解决数学问题上的能力日益增强,如今已有多家 AI 公司提供形式化验证系统。它们包括 Harmonic、Theorem、Axiom Math,以及一家名为 &Truth(读作“and truth”)的新入局者。本文将介绍这些公司所采用的一些方法。

当今形式化验证在软件与 AI 中的应用

为了更好地了解形式化验证系统的格局,我们采访了该领域的一位主要倡导者:Clark Barrett,他是 &Truth 的联合创始人兼联合 CEO。他同时也是斯坦福大学计算机科学 Corbel 讲席教授(研究型),并且是 cvc5 的联合创造者——这是一个广泛用于形式化验证的自动推理引擎。

简单来说,cvc5 是一种所谓的可满足性模理论(SMT)求解器,Barrett 表示,这类工具在亚马逊等公司中被广泛使用。例如,cvc5 被用于亚马逊的智能体开发环境 Kiro 中的规范分析与测试生成。

“看着我的工具从实验室里的一个好想法,变成如今在亚马逊的生产流水线中每天被调用数十亿次,这真的很有趣,”Barrett 告诉我们。

图片来自一篇 2022 年关于 cvc5 的论文,Clark Barrett 是共同作者之一。

当 AI 编程智能体公司谈论“验证”自己的工作时,通常指的是智能体运行测试、对自己的输出进行批判,或者让另一个 AI 模型来评判。 因此我问 Barrett,这种做法距离真正的验证还差多远?

“主要的区别其实就在于,你怎么知道什么时候算完成了,”他回答说。“所以如果你是在做测试、打补丁、扫描——使用所有这些现有工具——它们相当不错。我的意思是,它们能发现大量问题,并把这些问题提出来。但你永远无法完全确定,我是不是把所有问题都找出来了,还是说还有一个问题潜伏在那里,而我的工具找不到它?”

&Atlas,&Truth 的第一款工具;它是“一张全球开源代码的地图,首先从用 C 编程语言编写的代码开始”。

Lean 在形式化验证中的作用

&Truth 构建于 Lean 之上,Lean 是一个开源编程语言和证明助手。该公司将 AI 与自动推理技术相结合,来构造 Lean 能够检查的证明。

Lean 是前沿模型用来解决各种极其困难的数学问题的语言。例如,就在本周,GPT-6.2 Astra 产出了 Vals 认为 是“Smoktunowicz 间隙定理的首个 Lean 证明”的成果。Vals 还补充说,Anthropic 也曾使用 Lean 来形式化费马大定理,这是一个 1300 万行的项目。

最新的重大数学新闻是一则报道,称 Anthropic 数学家 Levent Alpöge 声称他使用 Claude 证明了有 167 年历史的黎曼猜想——而且他用 Lean 发布了该证明。

Lean 代码示例;来自 Lean 项目网站

&Truth 正在 Lean 框架之上构建其所谓的**“验证机器”**,其目标是读取“任何语言”的代码,证明其是否满足精确陈述的要求,并让人类无需理解每一行代码就能信任它。

“Lean 所做的就是检查你有没有犯错,”Barrett 解释道。“所以你可以把它看作一个非常复杂的数学检查器。”

这对模型训练也有影响。Axiom Math 使用形式化验证为其数学推理系统的训练提供正确性反馈,证明尝试有助于改进未来的模型。

在六月接受 Latent Space 采访时,Axiom CEO Carina Hong 指出,形式化验证——以及 Lean 所赋能的能力——不仅仅是一种防御措施。

“形式化验证,或者说经过验证的 AI,对我们来说不仅仅是处理或剔除那些糟糕的东西、幻觉和错误。它关乎扩展卓越。它关乎超级智能。”

Axiom 开发了 AxiomProver,这是一个生成 Lean 证明的 AI 系统,同时还推出了 AXLE,这是用于探索、验证和操作这些证明的工具包。

Harmonic 的Aristotle 是一个“自动定理证明器”,在其产品中大量使用 Lean。“在 Aristotle 内部,AI 编写证明,Lean 检查每一步,因此结果从不依赖于 AI 是否正确,”该公司在其网站上表示。

Harmonic 的工作流程

网络安全与 LLM 规模化的形式化验证

鉴于如今人们对网络安全的担忧日益加剧——有人可能会说,在 AGI 到来前的日子里更是如此——形式化验证系统似乎比以往任何时候都更加必要。Barrett 确认,网络安全是 &Truth 的重点关注领域。

“我们技术的一个非常强大的用例是检查世界上所有的 C 代码,无论是开源还是闭源,并努力确保其内存安全。如果它不安全,我们可以指出:这段代码存在这个问题,你需要修复它以确保安全。”

安全也是Theorem 的关注重点,它是 &Truth 的竞争对手之一。“验证是唯一能在对手规模化时依然有效的防御手段,”Theorem 在其主页上表示。

Theorem 的证明效率评估:“在我们的证明效率评估中,按模型发布日期排列的每小时验证的机器代码 KB 数,附 95% 置信区间。”

文章中最令人鼓舞的一点是,形式化验证虽然目前 token 开销较大,但已经开始变得更加 token 高效。 在一组 36 个小型验证任务上,Anthropic 报告称,Opus 5.5 在比 Opus 5 少用约 40% token 的情况下达到了 50% 的解决率。随着更多模型“在长验证任务上接受训练”,这一趋势预计将持续下去。

Theorem 和 Anthropic 将“LLM 规模化的形式化验证”描述为一种有前景的方法,能够以前所未有的规模提供安全保障。

Anthropic 示意图:“从代码到机器可检验的保证”;在此例中使用的是 Rocq 而非 Lean。

面向开发者的“veri-coding”体验

最后,形式化验证如何融入开发者的工作流?在其网站上,&Truth 表示,开发者将从 vibe-coding 转向**“veri-coding”**——这意味着验证层是工作流的一部分。

“如果你的验证机器连接到了你的 agent,你仍然可以说,‘嘿,我想让你构建这个,’”Barrett 说。“也许需要花一点功夫与 agent 一起真正确定你想要构建的东西的规格说明。但之后 agent 可以在底层与形式化[验证]工具协作,而本质上你会看到几乎没有区别——除了你的代码第一次就能正常工作。”

那么,这个理念是:开发者更多的时间将花在编写规格说明和审查上,而不是编写代码或审查代码。

验证所有结果

在我完成这篇文章时,我看到了 Cognition 开发者关系负责人 Nader Dabit 的这条推文:

无论“结果工程”这个说法能否流行起来,他对当前编程所处的阶段确实有独到见解。当你只是告诉智能体团队你想要什么,它们便着手构建时,你(人类开发者)需要一种方式来检查智能体交付成果的正确性。

如果 &Truth、Harmonic、Theorem 和 Axiom Math 等公司如愿以偿,形式化验证可能会成为一种越来越实用的结果检查方式。