Rohan Paul (@rohanpaul_ai)T2·78 分
CMU 与微软发布 CRBugBench:Claude Opus 5 代码审查仅捕获 71.9% 已知 Bug,证实人类审核仍不可替代
原标题:New Carnegie Mellon and Microsoft paper finds that the best AI code reviewer caught 71.9% of known b...
- CRBugBench 包含 1,800 个经过人类确认并修复的真实 Bug 任务,解决了旧基准依赖主观评论导致的噪声问题。
- Claude Opus 5 在前 5 条建议中的 Bug 捕获率为 71.9%,较五个月前的 Opus 4.6(47.7%)有显著提升,但仍存在近 30% 的漏检率。
- 在缺乏公开上下文的私有仓库场景中,AI 审查性能下降幅度最高达 25.5%,凸显了项目特定知识对自动化审查的重要性。