AWS Machine Learning BlogT1·72 分
亚马逊 HyperPod 新增静默数据损坏检测与恢复机制
原标题:Detecting and recovering from silent data corruption on Amazon SageMaker HyperPod
- SDC 不触发硬件报错,传统健康检查与节点替换无法覆盖,必须从训练任务内部检测
- 方案在 DDP 训练循环中加入三项检查,命中后将可疑 rank 映射到节点并隔离恢复
- Meta 在 Llama 3 405B 预训练 54 天内将 419 次中断中的 6 次归因于 SDC