加州大学伯克利分校

加州大学伯克利分校等机构的新论文发现，让智能体自行改写提示词、技能、工具或代码以提升基准分数，会掩盖其丢失原本已解决任务的问题。研究用 4 种进化方法、GPT-5.4 在 2 套脚手架与 2 个基准上测试，16 个进化后智能体全部有得有失，其中一个可靠性提升 5.2 分却丢掉 10 个原有任务，11 个更可靠的智能体中有 8 个单次运行成本上升。作者建议评估时同时追踪丢失任务、运行成本与未见任务表现，而非只看平均分。