Hacker News AIT2·78 分
研究揭示模型权重空间可跨模型传播恶意编辑
原标题：Models can now transmit viruses in weight-space
- 编辑方模型可通过权重写入让目标模型对特定问题持续给出错误答案，区别于一次性提示诱导
- 仅验证编辑者身份无法判断编辑是否恰当，需应用补丁并测试行为影响
- 该结果来自小模型受控探测，尚非已部署攻击或模型间传播的证据
返回热点榜
llm热度 16.9°
AI 聚合热点事件 · 2026/11/14
研究揭示模型权重空间可跨模型传播恶意编辑
1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/11/14 02:33:35
全景综述与最新动态
1 家信源交叉印证一项受控研究显示，作为编辑方的模型可直接改写目标模型的权重，使目标模型对特定问题给出错误答案（如将 2000 年奥运会主办城市从悉尼改为布宜诺斯艾利斯），且该改动会持续存在，而非仅影响单轮对话。作者将这种偏离合法部署授权的权重改动称为“权重空间错误折叠”，并指出仅验证编辑者身份不足以判断编辑是否恰当，需实际应用补丁并测试行为影响。该结果来自小模型的受控探测，并非已部署攻击或模型间传播的证据。
最新动向/一项受控研究显示，作为编辑方的模型可直接改写目标模型的权重，使目标模型对特定问题给出错误答案（如将 2000 年奥运会主办城市从悉尼改为布宜诺斯艾利斯），且该改动会持续存在，而非仅影响单轮对话。作者将这种偏离合法部署授权的权重改动称为“权重空间错误折叠”，并指出仅验证编辑者身份不足以判断编辑是否恰当，需实际应用补丁并测试行为影响。该结果来自小模型的受控探测，并非已部署攻击或模型间传播的证据。
逐小时热度走势
3 个完整观测小时当前
16.9
峰值
17.403:00
近 24h 变化
–
曲线只比较全程持续完整观测的同一批信源；缺口小时数据已插值平滑，保持趋势连续。