Nvidia 发布 Nemotron 3.5 系列开源模型 赋能企业级与端侧智能体

Nvidia 于周四发布了专为“始终在线”（always-on）智能体和边缘计算设计的新开源权重模型。

Nemotron 3.5 Super VL 是一款拥有 1200 亿参数的大型模型，面向企业级智能体应用。虽然其参数量少于 Nemotron 3 Ultra 模型，但 Nvidia 表示，它在指令遵循和工具使用任务上能提供相当的准确率。

在另一端，该公司还推出了两款轻量级的 Bolt 模型。这些模型旨在本地运行于搭载 Nvidia RTX Spark 芯片的新型 AI PC 以及运行 DGX Spark 的工作站上。这类面向消费者、程序员和企业知识工作者的 PC，目前正通过 Microsoft 和 Dell 等合作伙伴推向市场。

Nvidia 开放模型与软件副总裁 Kari Briski 在宣布这些模型的博文中写道：“任何希望在 Nvidia 基础设施上运行智能体的组织，现在都拥有了针对其层级优化的开放模型，无需在能力与可部署性之间做出取舍。”

Nvidia 声称，在经过特定智能体任务的后训练后，Super VL 完成任务的速度快于 Anthropic 和 OpenAI 的竞争对手模型（Opus 5, GPT 6.1 Sol, Luna, Astra）。这些任务包括文档智能、财务会计、科学实验、医疗保险理赔以及安全攻击防御。

尽管大型科技公司发布新模型时通常会提出此类声明，但 Nvidia 列举了一批正在使用 Super VL 的重量级公司作为佐证。其中包括 Skydance、EY、Ramp、Crowdstrike、Perplexity 和 Salesforce。

当然，这并非 Nvidia 首次发布能与专有前沿实验室——那些既是其客户又是其投资对象的公司——相竞争的开源权重模型。这家 GPU 巨头拥有一个完整的 Nemotron 模型家族，涵盖从多模态人工智能到推理、编程、数学及企业自动化等各种功能。

然而，这些快速成长的专有 AI 实验室如今正将目光投向 Nvidia 之外的众多其他芯片和 AI 系统制造商，以满足其算力需求（例如 AWS 的 Trainium、Cerebras，以及自研芯片）。

因此，Nvidia 正大力顺应企业希望在自有数据中心运行开源模型的趋势。“与封闭的前沿模型不同，组织可以在自己的数据上对 Super VL 进行后训练，将其部署在自己的基础设施上，并真正拥有其所构建的成果，”Briski 写道。

但随着更小、本地化 PC 模型的发布，Nvidia 也在试图推动尚处于萌芽阶段的消费级 AI 助手趋势。尽管似乎每天都有初创公司和科技巨头推出新的 AI 助手，但注重隐私的消费者可能并不愿意让此类智能体如此深入地介入他们的生活，获取关于家庭、健康、财务等敏感信息。

因此，Nvidia 希望开辟一个新市场：通过销售搭载其芯片的 PC，提供能够本地运行模型和智能体的机器，从而让用户“可以将日常项目委托给本地设备……而无需将这些工作负载发送到云端，”Briski 写道。

在两款 Bolt 模型中，Nemotron 3.5 Bolt 74B-A9B 24GB 是一款专为本地智能体任务设计的 740 亿参数模型。它旨在平衡速度与推理能力，以处理多步推理、工具调用和网页浏览。最小的 Bolt E4B 则面向对话型智能体。

Nvidia 表示，Super VL 和 Bolt 74B-A9B 现已可用，而 Bolt E4B 将于本月晚些时候发布。