英伟达与微软将加速计算扩展至 Windows PC
英伟达与微软在 Microsoft Ignite 上宣布将全栈合作从 Azure 数据中心延伸至工业系统与 Windows PC。Azure 已上线基于 Vera Rubin NVL72 的虚拟机,微软 Foundry 引入英伟达开放模型与定制能力,微软自身还用 Dynamo 推理软件和 RTX PRO 6000 Blackwell GPU 加速 Bing 搜索模型。
报道正文
本文目录5 个章节
NVIDIA 与 Microsoft 正在扩展其全栈协作,帮助组织构建、定制和部署智能应用——从 Azure 上的下一代基础设施到工业系统和 Windows PC。
在 Microsoft Ignite 大会上,两家公司正在扩大对由 NVIDIA Vera Rubin NVL72 系统驱动的 Azure 虚拟机的访问,同时通过 Microsoft Foundry 增加 NVIDIA 开放模型和定制能力的客户可用性,并提供在边缘运行 AI 的新选项——边缘正是企业生成和使用其数据的地方。
Microsoft 还在使用 NVIDIA 技术来加速其自身的模型和服务,包括用于后训练的 NVIDIA Dynamo 推理软件,以及用于 Bing 搜索模型的 NVIDIA RTX PRO 6000 Blackwell GPU。
NVIDIA Vera Rubin NVL72 在 Azure 中运行
NVIDIA Vera Rubin NVL72 系统正在 Azure 数据中心运行,提供专为高要求的推理、智能体应用以及大规模模型训练和推理而设计的基础设施。
Microsoft 和 NVIDIA 还在合作将机密计算扩展到裸金属和机架级 AI 基础设施。这项工作将有助于在处理过程中保护敏感模型和数据,支持需要处理专有或受监管信息的组织。
NVIDIA 机密计算和远程证明可帮助客户在释放敏感模型、数据或密钥之前验证计算环境。随着 AI 工作负载跨越更多互连加速器,两家公司正在努力将这些保护扩展到整个 AI 工厂基础设施。
为帮助数据中心从可用电力中获得更高性能,NVIDIA 和 Microsoft 还在利用 NVIDIA MaxLPS 在能效方面开展合作。
Azure 的 Vera Rubin 预览版建立在 NVIDIA 与 Microsoft 的协同设计与性能优化基础之上,这一点在最新的基于 NVIDIA Blackwell 的 MLPerf 结果中得到了突出体现。在 MLPerf Training v6.1 中,Azure 在 DeepSeek-V3 模型上使用 GB200 NVL72 系统扩展至 10,240 块 NVIDIA GPU,是本轮中规模最大的一次。在 MLPerf Inference v6.1 中,据 Signal65 称,Azure 的 NVIDIA GB300 NVL72 系统在 DeepSeek-R1 交互式吞吐量上以超过 10% 的优势领先于各云厂商提交的结果。
帮助企业定制和部署开放模型
企业 AI 智能体需要能够对复杂任务进行推理、查找相关公司信息并理解业务文档。NVIDIA 与 Microsoft 正在扩展通过 Microsoft Foundry 提供的模型和服务,帮助开发者将这些能力引入业务应用。
Microsoft 的无服务器 Programmed Training 产品让开发者能够控制后训练工作流,同时由 Foundry 管理底层基础设施。企业可以专注于自己的业务数据,评估模型响应并改进模型行为。
Foundry Managed Compute 新增了对部署自定义模型权重的支持,帮助通过 Microsoft 的托管服务将模型定制与部署连接起来。
EY 使用 Microsoft Foundry 中的 Programmed Training 对 NVIDIA Nemotron 开放模型进行调整,用于对企业采购记录进行分类,使其评估数据集上的准确率提升了 55%,与专有前沿模型相比成本降低了 15 倍。这项工作展示了企业如何针对专门的业务任务定制开放模型。
Foundry Managed Compute 上扩展后的 NVIDIA Nemotron 3.5 系列支持企业应用中的不同需求。Nemotron 3.5 Super 专为跨编码、研究和业务工作流运行的长时间运行智能体而设计,而 Lightning 则支持需要快速响应和工具使用的应用。
配套模型帮助智能体通过 Nemotron Embed 和 Rerank 查找相关信息,通过 Nemotron Parse 从文档中提取结构化信息,并通过 Nemotron Content Safety 检测有害内容。专为高吞吐量、低延迟推理设计的 Nemotron 3.5 Bolt,以及用于语音识别的 Transcribe,即将推出。
让 AI 更贴近企业数据
NVIDIA 与 Microsoft 正在将部署选项扩展至云端之外,帮助企业在靠近其数据的位置运行模型和智能体,同时保持对其基础设施和运营的控制。
Foundry Local 对 Nemotron 3.5 的支持范围扩大,将推理、编码和工具调用智能体的能力引入 Azure Local 环境。检索模型可帮助应用在文本、文档图像、图表和表格中查找证据。
Azure Local 还将支持来自硬件合作伙伴的 NVIDIA RTX PRO 6000 Blackwell GPU,为企业本地部署 AI 提供更多选择。
Azure Local 正扩展至 NVIDIA Jetson Thor 和 Jetson Orin 边缘 AI 平台,以支持机器视觉、机器人和自主运营等工业应用。包括 Cosmos 在内的 NVIDIA 物理 AI 模型也正在被引入 Foundry Local。
在搭载 NVIDIA RTX Spark 的 Windows PC 上,NVIDIA 与 Microsoft 将在 Ignite 上展示本地大语言模型体验,演示开发者如何直接在设备上运行 AI 应用。
对于使用 Cloud PC 的企业,两家公司正在为 GPU 加速的 Windows 365 Cloud PC 引入 Direct Stream 能力。这些能力可支持高要求的图形应用,即使在网络条件不佳的情况下,也能实现最高两路 4K 流、60 帧/秒和低延迟。有限预览现已开放报名,公开预览计划于 2027 年初推出。
将科学 AI 与 Microsoft Discovery 相连接
在科学研究领域,NVIDIA BioNemo Agent Toolkit 和 NVIDIA ALCHEMI Toolkit 正在扩展至 Microsoft Discovery 目录,将面向生命科学、药物发现以及材料与化学科学的模型引入 Microsoft 的智能体研究平台。
BioNeMo Agent Toolkit 帮助科学家使用自然语言在 Microsoft Discovery 中运行计算生物学工作流,由智能体协调完成工作所需的工具和模型调用。
一项初步的集成使用了 RFD4-Proteina 模型,该模型与华盛顿大学蛋白质设计研究所合作开发,用于生成候选蛋白质结构和氨基酸序列,以供进一步评估和实验室验证。
加速微软的模型与服务
除了扩大客户对 NVIDIA 技术的访问之外,微软还在自身的 AI 开发和服务中使用 NVIDIA 软件和加速计算。
微软 AI 使用 NVIDIA Dynamo 来支持后训练期间的强化学习 rollout 推理。这一计算密集型过程会生成用于改进模型的经验数据。
Dynamo 可在一大批 GPU 集群中协调推理,优化性能,并帮助管理请求、模型更新和故障恢复。该部署建立在微软 AI 与 NVIDIA 的联合工程基础之上。
访问NVIDIA 在 Ignite,观看涵盖企业应用、机器人技术、加速数据处理和本地计算的演示,硬件包括 NVIDIA GB300 NVL72 机架和 RTX Spark 设备。查看NVIDIA 会议、动手实验室和展台剧场演示。