术语slug: distributed-training

分布式训练

Distributed Training

利用多台机器或 GPU 并行处理大规模数据的技术

收录情报动态

共 16 篇 · 第 1/2 页
InfoQ 中文T2·算力与基建
68 分
Karmada 毕业 CNCF,强化 AI 跨集群调度

多集群 Kubernetes 编排项目 Karmada 正式从 CNCF 毕业,成为首个达到生产级成熟度的同类项目。其 v1.19 版本重点增强了分布式 AI 训练场景下的跨集群 GPU 资源协同调度能力,并默认启用基于优先级的调度功能。

Hugging Face BlogT1·算力与基建
38 分
Ai2 披露 GPU 集群调度策略:在保障高占用率前提下优先分配算力给高影响力研究任务

Ai2 基础设施团队提出了一种基于“可用性-占用率-影响力”金字塔模型的 GPU 集群调度方法,旨在解决大规模分布式训练中的资源分配难题。该策略通过优化调度算法,确保高价值研究任务获得优先权,同时最大化硬件利用率以减少闲置浪费。

GitHub Trending AIT2·开发与工程
25 分
PyTorch Lightning 项目 README 更新

Lightning-AI 更新了 PyTorch Lightning 项目的 README,重申其作为深度学习框架的核心价值。内容主要介绍如何通过该框架自动化处理混合精度、多 GPU 及分布式训练等工程细节,让开发者专注于模型逻辑本身。

Hugging Face BlogT1·算力与基建
42 分
AWS 发布基础模型训练与推理构建模块指南

AWS 联合 Hugging Face 发布关于基础模型训练与推理的架构指南,重点阐述从单纯算力堆叠向高效分布式基础设施优化的转变。文章回顾了 Kaplan 缩放定律,并介绍了在 AWS 上优化大规模加速器利用率及分布式训练的具体技术组件。该资料主要面向企业级用户,提供云原生 AI 基础设施的最佳实践参考。

Hugging Face BlogT1·开发与工程
15 分
Accelerate 发布 1.0.0 版本

Hugging Face Accelerate 库正式发布 1.0.0 版本。由于提供的正文内容仅包含标题,缺乏具体的更新日志、新特性或性能改进细节,无法评估其技术实质影响。