Hacker News AIT2·78 分
Open Athena 指出后训练数据缺乏公共基础设施
原标题:There is no posttraining data commons
- 预训练数据的“公地”是历史偶然产物,而后训练数据目前完全由闭源商业实体垄断。
- 缺乏公开的后训练数据集导致社区无法独立复现或验证前沿模型的对齐效果。
- 行业急需构建专门针对指令微调和对齐阶段的开放数据基础设施。
AI 聚合热点事件 · 2026/11/3
David Hall 在 Open Athena 博客中指出,虽然预训练受益于互联网自然形成的数字知识公地,但后训练阶段(如 RLHF、SFT)严重依赖私有、昂贵且不可复现的数据。文章呼吁建立类似 Common Crawl 的后训练数据公共基础设施,以解决当前 AI 对齐研究中的资源不对称与可验证性危机。
原标题:There is no posttraining data commons