MIT 提出权重空间编程 GPT-6 Astra 免训练提升模型性能
MIT 研究人员展示了“权重空间编程”新范式，利用前沿大模型 GPT-6 Astra 直接编辑其他 AI 模型的权重参数。该方法无需梯度下降或传统训练，仅修改 0.016% 的权重即可修复 Qwen3.5-0.8B 的推理循环缺陷，使其在 MATH-500 基准上的准确率从 7.9% 飙升至 48.1%，实现了近 6 倍的性能跃升。
报道正文
Rohan Paul (@rohanpaul_ai) · 2026-11-02 20
重磅消息。MIT 研究人员展示，GPT-6 Astra 能够直接修改另一个 AI 模型的权重，从而提升其性能，且无需进行训练。
在此案例中，GPT-6 Astra 仅编辑了 Qwen3.5-0.8B 模型 0.016% 的权重，就在 MATH-500 基准测试上将其准确率从 7.9% 提升至 48.1%，全程无需训练。
Astra 在 Python notebook 中获取了 Qwen 的权重，并获得了在练习数学题上进行 50 次测试运行的预算。它发现该模型会不断重复自身内容直至达到长度限制，进而将这一习惯追溯至由其中两层写入的一个内部信号，并从权重中减去了该信号。
随着循环问题的消除，模型得以完成那些它原本就有能力解答的问题。
这一单次针对性编辑仅改变了 0.016% 的权重，却将数学准确率从 7.9% 提升至 48.1%。
↳ 引用 @rikiyatakehi (Rikiya Takehi): 我们要求 GPT-6 Astra 编辑 Qwen3.5-0.8B 的权重以提升其数学能力。 它直接仅更改了 0.016% 的权重，修复了 0.8B 模型的推理循环问题，并将数学能力提升最高达 6 倍，指令遵循能力提升 3 倍，且无需梯度或训练。
我们将此称为“权重空间编程”（Weight-Space Programming）：前沿 LLM 现在可以原生地读写神经网络权重！🧵 博客链接：
