Karpathy 剖析 AI 能力认知鸿沟:免费模型滞后与 RLVR 导致技术峰值效应
Andrej Karpathy 指出公众对 AI 能力的误解源于使用过时免费模型及非核心场景。他强调当前 SOTA 智能体在编码等可验证奖励领域呈现“峰值”能力,而通用咨询类任务进步相对平缓。这一观点揭示了强化学习机制如何导致不同垂直领域的性能分化。
关联知识实体
报道正文
Andrej Karpathy (@karpathy) · 2026-04-09 20
从我的时间线来看,大众对 AI 能力的理解存在日益扩大的鸿沟。
我认为第一个问题在于“时效性”和“使用层级”。很多人去年试用过 ChatGPT 的免费版本,并让这一体验过度影响了他们对 AI 的看法。这类反应往往嘲笑模型的各种怪癖、幻觉等问题。是的,我也看到了那些疯传的视频,展示 OpenAI 的高级语音模式在处理诸如“我是该开车还是步行去洗车店”这样简单查询时的笨拙表现。但关键在于,这些免费版或已弃用的旧模型,并不能反映今年最新一代前沿 agentic(智能体)模型的能力水平,尤其是 OpenAI Codex 和 Claude Code。
这就引出了第二个问题。即使人们每月支付 200 美元使用最顶尖的模型,许多能力在高度技术化的领域呈现出明显的“尖峰状”分布。典型的搜索、写作、建议等查询场景,并非近期能力取得最显著、最戏剧性进步的领域。部分原因在于强化学习的技术细节及其对可验证奖励的使用;另一部分原因则是,由于这些用例无法带来同等规模的商业价值,公司在其“爬坡式”优化过程中并未给予足够优先级的关注。真正的金矿在其他地方,资源自然随之倾斜。
因此,这便涉及第二类人群:他们既 1) 付费并使用最前沿的 agentic 模型(如 OpenAI Codex / Claude Code),又 2) 在编程、数学和研究等技术领域专业地应用它们。这群人最容易陷入所谓的“AI 精神病态”(AI Psychosis),因为今年以来这些领域的进步堪称惊人。当你将计算机终端交给这些模型时,你可以看着它们瞬间解决那些原本预计需要数天甚至数周工作量的编程难题。正是这第二群人,赋予了 AI 能力、其发展斜率以及各类网络安全相关后果以更高的权重和紧迫感。
TLDR:这两拨人其实是在各说各话。事实确实如此,OpenAI 那个免费且略显“被遗忘”(?)的“高级语音模式”,会在 Instagram Reels 里那些最愚蠢的问题上翻车;与此同时,OpenAI 最高层级、付费的 Codex 模型却能连续运行一小时,连贯地重构整个代码库,或者在计算机系统中寻找并利用漏洞。这一部分确实行之有效,并取得了显著进展,这得益于两个特性:1)这些领域提供了可验证的显式奖励函数,使其易于通过强化学习进行训练(例如单元测试是否通过,这与写作形成对比,后者很难进行明确的评判);2)它们在 B2B 场景中价值更高,这意味着团队中最大比例的精力都集中在改进这些能力上。所以,现状就是如此。
↳ 引用 @staysaasy (staysaasy): 你对 AI 感到惊叹的程度,与你使用 AI 编写代码的频率完全正相关。