术语slug: repetition-loop

复读死循环

Repetition Loop

语言模型在生成时反复输出相同片段、无法正常终止的退化现象

收录情报动态

共 1 篇 · 第 1/1 页
新智元 (微信公众号)T2·基座大模型
58 分
MIT 博客演示权重空间编程 小模型改 0.016% 权重数学涨 6 倍

MIT 一篇「权重空间编程」博客引发关注:实验中 GPT-6 Astra 自行编写 Python 脚本诊断并修改一个 0.8B 小模型仅 0.016% 的权重,修复了复读死循环并使数学成绩提升约 6 倍。随后有研究者指出,该过程并非模型直接「心算」权重,本质仍是写代码修 Bug,但博客将话题引向「递归自我改进」(RSI)。