Fields Medalist Deng Yu Criticizes AI Firms for Withholding Chain of Thought Under Anti-Distillation Pretext
Fields Medalist Deng Yu criticized major AI companies for refusing to disclose chain-of-thought reasoning in mathematical proofs under the pretext of anti-distillation. He argued this constitutes a double standard and advocated for open-source mathematical models to ensure academic autonomy and adherence to transparency norms.
Full Report
10 月 27 日消息，据潮新闻 10 月 26 日报道，菲尔兹奖得主、芝加哥大学数学系教授邓煜在上周末的“知识分子”“赛先生”论坛上发表主旨演讲，系统阐述了他对 AI 时代数学研究的思考。
邓煜表示，AI 相对于人的优势，一方面是 AI 具有无限知识面，另一方面是 AI 具有极低的尝试成本 / 试错成本。但我们要坚持一点，在数学研究中也好，在任何事情中也好，人总是作为主体；AI 是作为一个工具，是我们人利用来进行研究的工具。
邓煜认为，如果把 AI 作为研究者，就应遵守学术规范。如果 AI 证明了一个非常重大的问题，一个非常合理的要求，是公布 AI 的思维链。然而 AI 公司拒绝公布，很明显是不符合学术界的惯例的。“这家 AI 公司并不愿意这样做。在他们公布的所有证明中，只有极少数真正公布了思维链，大多数情况下，他们都以所谓的防蒸馏为借口，拒绝公布思维链及相关的信息。”
邓煜表示，对 AI 公司来讲，你不能在只有你蒸馏全人类的网络文献、全人类的知识的时候，就大大方方地去蒸馏；事实上没有人想要蒸馏你，大家只是想要了解一下思维链，然后你觉得别人想要蒸馏你，就开始说这个不行，那个不行。
邓煜提议，可以通过开源数学模型，保证数学界有属于自己的模型掌握在自己手里，不需要去依赖于这样一些 AI 公司。其次，模型的使用也遵循学术界规范，包括数据使用、思维链的公布、可追溯性等。