NVIDIA 发布 Minerva 平台 实现 AI 工厂端到端可观测性

今日发布，NVIDIA Minerva 是一款 AIOps 平台，旨在帮助团队更早发现问题并保持 AI 工厂的高效运转。它整合了基础设施和 AI 工作负载的遥测数据，随后应用专门构建的 AI 模型，将这些数据转化为及时、可操作的洞察。

AI 工厂是全球最复杂的运营环境之一，拥有海量 GPU 在高速网络上协同工作，以训练模型并提供 AI 应用服务。在这种规模下，单个组件的性能退化可能会拖慢整个任务。预警信号往往容易被忽视，例如某个 GPU 的温度高于同类设备，或者 NVMe 驱动器在负载下性能下降。

该平台专注于“AI 工厂产出率”（AI factory yield），即通过 GPU 小时数、有效吞吐量（goodput）、集群正常运行时间和令牌生成量来衡量基础设施产生的有效工作量。

阅读所有 NVIDIA 在欧洲发布的公告

提供 AI 工厂的动态视图

传统监控工具通常将数据中心划分为独立的视图。网络、计算、站点可靠性工程和机器学习团队各自只能看到运营的一部分。Minerva 连接了 NVIDIA GPU、网络、存储、调度器和工作负载之间的这些信号。

基于这些信号，Minerva 构建了一个动态知识图谱，对基础设施——包括 GPU、SuperNIC、交换机和线缆——以及在其上运行的任务进行逻辑映射。这种上下文信息有助于运维人员追踪导致训练任务变慢的具体组件，即使是在拥有数十万 GPU 的大型工厂中也是如此。

它利用监督学习和无监督学习每小时分析数十亿个数据点。它能够学习正常行为，检测以前未见过的异常，预测即将发生的故障，并基于工厂拓扑结构关联相关事件。它不会将所有症状都发送给运维人员，而是可以将事件风暴归类为一个具有可能根本原因的聚焦事件。

Minerva 内置原生 AI 助手，并可连接外部代理式 AI 工具。这增加了一个基于实时遥测数据的自然语言界面。运维人员可以通过对话调查集群健康状况并接收推荐的修复方案。团队可以保留人工介入环节以手动实施修复，也可以通过基础设施应用程序编程接口（API）和外部系统将 Minerva 连接到自动化流程。

最大化 AI 工厂产出率的成果

借助关联工作负载与基础设施问题的能力，以及其智能体 AI 功能，Minerva 简化了 AI 工厂的运营。Minerva 不再让团队面对铺天盖地的警报，而是将相关问题聚合为单一的可执行项。这使得 AIOps 团队能够从被动响应转向主动维护。所有这些都有助于 AI 工厂最大化 GPU 正常运行时间。

Minerva 在 AI 工厂关注的关键指标上创造了价值：

• 更长的中断间隔：Minerva 能在故障发生前发现隐患，从而让作业运行更长时间而不出现事故。
• 更快的修复速度：当事故发生时，Minerva 能精准定位问题，显著加快解决速度。
• 更深入的洞察：现代 AI 基础设施会产生海量数据；Minerva 对其进行过滤，仅保留真正重要的少数警报。

IREN 是众多使用 Minerva 优化其 AI 工厂的 NVIDIA 合作伙伴之一。

“随着我们扩展 AI 工厂规模，为客户提供最佳服务的关键在于最大化 GPU 的生产力，”IREN 首席技术官 Denis Skrinnikoff 表示。“NVIDIA Minerva 为我们的运营团队提供了涵盖网络、GPU 及其上运行作业的统一视图，使我们能够更多地专注于主动维护，而非故障排查。这种可见性强化了我们正在构建的下一代基础设施的运营模式。”

除了 IREN，Aolani、Bitdeer AI、IBM、Jio、Lambda、Quake AI 和 Tesla 也计划部署 Minerva。

除 Dell Technologies 外，Lenovo 和 Supermicro 也将把 Minerva 纳入其 AI 工厂运营产品组合中。

了解更多关于NVIDIA Minerva的信息。

请参阅有关软件产品信息的相关 声明。