返回热点榜
llm热度 9.8°

AI 聚合热点事件 · 2026/10/25

DeepMind 曝 Softmax 与交叉熵隐藏 Bug,Gemini 辅助修复

1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/10/25 13:28:00
全景综述与最新动态
1 家信源交叉印证

Google DeepMind 研究指出 PyTorch、JAX 等主流框架中 Softmax 和交叉熵的标准实现存在数值精度 Bug,可能导致训练不稳定。团队提出无需提高浮点精度的计算调整方案即可修复,且 Gemini 在发现该问题及实验验证中发挥了关键作用。

最新动向/Google DeepMind 研究指出 PyTorch、JAX 等主流框架中 Softmax 和交叉熵的标准实现存在数值精度 Bug,可能导致训练不稳定。团队提出无需提高浮点精度的计算调整方案即可修复,且 Gemini 在发现该问题及实验验证中发挥了关键作用。

逐小时热度走势

10 个完整观测小时
当前
9.8
峰值
11.914:00
近 24h 变化
–

曲线只比较全程持续完整观测的同一批信源;缺口小时数据已插值平滑,保持趋势连续。

报道时间线

共 1 篇 · 最新优先
  1. 机器之心 (微信公众号)T2·85 分

    DeepMind 曝 Softmax 与交叉熵隐藏 Bug,Gemini 辅助修复

    原标题:PyTorch、JAX都被点名!Softmax曝出隐藏Bug,Gemini立功

    • PyTorch、JAX、TensorFlow 等主流框架的 Softmax 和交叉熵实现存在隐蔽的数值精度 Bug
    • Bug 可能在特定训练阶段改变梯度,导致损失飙升或模型能力退化
    • 通过调整计算方式即可修复,无需提高浮点精度或重新设计损失函数
    • Gemini 模型在发现该 Bug 及执行大量验证实验中起到了关键作用