Hacker News AIT2·基座大模型
78 分
Cartesia Research 发布关于“分层网络”(Hierarchical Networks)的研究,旨在解决当前大模型依赖手工编码步骤的问题。该研究主张回归“苦涩教训”,通过直接处理原始字节数据实现更通用的端到端学习,以应对科学、机器人等数据稀缺领域的挑战。
Bitter Lesson
指通用方法结合算力最终胜过人工设计特定规则的现象
Cartesia Research 发布关于“分层网络”(Hierarchical Networks)的研究,旨在解决当前大模型依赖手工编码步骤的问题。该研究主张回归“苦涩教训”,通过直接处理原始字节数据实现更通用的端到端学习,以应对科学、机器人等数据稀缺领域的挑战。
OpenAI 前研究员 Nick Cammarata 指出,借助现代智能体工具,万亿参数级大模型的绝大多数神经元已变得清晰可读,推翻了早期“神经网络是任意纠缠结”的悲观观点。他认为随着自动化科学家能力的提升,机械可解释性问题可能在近期得到解决,这被视为该领域的一个“苦涩教训”:简单方法在极大尺度下依然有效。Sam Altman 对此表示高度认可。
资深 AI 观察者承认此前对多智能体系统的预判失误,认为“苦涩教训”再次应验。文章指出,通过暴力计算和更强大的模型能力,智能体群体可自发涌现出高效协作,无需人类构建复杂的组织规则或提示链。这一观点挑战了当前流行的“像经理一样管理 AI”的范式,强调底层模型能力的提升才是解决协作问题的关键。
Epoch 与 METR 联合发布新基准 MirrorCode,专门评估 AI 在长周期、复杂编程任务中的表现。测试显示,Claude Opus 4.7 仅用 14 小时和 251 美元成本便完成了预计需人类耗时 2-17 周的软件重构任务,且模型能力正以每年约 30% 的速度快速提升。该结果印证了“苦涩教训”在机器人及自主代理领域的适用性,即通用智能体通过黑盒交互即可习得并复现复杂工业能力。