电信运营商转向开源模型构建 AI 战略

作者:Kanika Atri原标题:Why Telecom Operators Are Building Their AI Strategy on Open Models
42AI 研判分

NVIDIA 报告显示,89% 的电信运营商将开源模型视为其 AI 战略的核心。这一趋势不仅源于成本考量,更在于运营商对关键业务(如自主网络、客服)中 AI 的可控性、信任度及定制化能力的追求。

报道正文

本文目录3 个章节

电信运营商正日益将 AI 战略建立在开放模型之上——其背后的原因远不止成本考量。

开放模型赋予电信运营商在其最关键的工作负载中信任、控制和定制 AI 的能力——从自主网络到客户服务。

NVIDIA 最新的《电信行业 AI 现状报告》反映了这一转变,89% 的受访者表示开源模型和软件对其公司的 AI 战略至关重要。

对于运营商而言,开放模型的战略价值体现在以下五个方面:

  1. 它们以更低成本扩展了对前沿级智能的访问权限,使运营商能够将封闭模型保留给那些能创造最大价值的工作负载。诸如 Artificial Analysis Intelligence Index v4.3.2 等独立基准测试表明,领先的开放模型在要求严苛的推理、编码、科学及代理(agentic)工作负载中正变得更具竞争力。
  2. 它们支持电信特定的定制化,提供开放权重和训练配方,运营商可以利用网络、客户和行业数据针对自身运营进行微调。
  3. 它们通过让电信运营商对模型构件和行为拥有更高的可见性和控制权,从而实现可信 AI,确保模型能够根据法规和业务政策进行评估、调整和治理。
  4. 它们实现了灵活且安全的部署:团队可以对开放模型进行规模调整和优化,使其能够在公有云、私有基础设施和边缘环境中运行。
  5. 它们为电信运营商带来了机遇,即通过托管和微调开放模型,向企业和政府客户提供本地化适配的 AI 服务。

面向电信运营优化的开放基础

NVIDIA Nemotron 开放模型家族提供了针对代理工作流优化的前沿级推理性能,以及用于语音应用的语音功能,并包含开放权重、训练数据和配方。

软银集团(SoftBank Corp.)展示了运营商如何以开源模型为基础,开发并持续演进其电信专属的 AI 能力。

“开源模型使软银集团能够在全球基础模型快速进步的基础上,结合我们多年积累的网络知识和运营专长进行构建,”软银集团首席研究员、SB Telecom America 高级副总裁 Rajeev Koodli 表示。“我们在开发‘软银大型电信模型’(SoftBank Large Telecom Model)时广泛使用了开源基础模型,包括 NVIDIA Nemotron 系列及其他模型,并针对网络运维、设计及整体管理等电信特定用例对其进行持续优化。”

此外,NVIDIA 正与合作伙伴携手,助力将开源模型转化为电信 AI 的实用构建模块。

NVIDIA 宣布推出拥有 300 亿参数的 Nemotron 3 Large Telco Model (LTM),该模型由 AdaptKey 基于开源电信数据集进行微调,从而在电信特定任务上实现精度提升。这为运营商提供了一个开源基线,使其能够理解电信行业术语,并在网络配置和客户故障工单分诊等电信运营工作流中进行有效推理。

为了帮助运营商利用自身运营数据对 Nemotron 3 LTM 及其他开源模型进行定制,NVIDIA 发布了完整指南,详细演示了如何使用 NVIDIA NeMo 开源库,通过端到端的微调流程,将开源模型适配至运营商特定的网络、客户及操作流程。

将开源模型规模化应用于生产工作流

开源模型是关键的基础构件,但要将自主电信运营安全地投入生产环境,仅靠模型是不够的。

对于 AT&T 而言,模型选择的价值在于将其灵活性转化为符合业务优先级的实际运营能力。

“在 AT&T,我们相信 AI 的未来不在于选择单一模型,而在于智能地将每个工作负载与性能、成本和控制的正确组合相匹配,”AT&T 首席数据与 AI 官 Andy Markus 表示。“开放模型对于这种方法至关重要,借助 NVIDIA,我们可以将这种模型选择策略带入生产环境,并满足我们业务所需的规模、可靠性和治理要求。”

运营商需要构建数据管道,通过对敏感记录进行匿名化处理并生成保护隐私的合成数据集,从而为模型微调准备和保护其数据。他们还需要一个平台,能够将开放模型转化为受治理的自主代理式(agentic)工作流。

NVIDIA 提供了这一 端到端平台,该平台由 NVIDIA AI Enterprise 软件和 NVIDIA Agent Toolkit 提供支持,涵盖数据管道、开放模型、代理编排、安全运行时和仿真。

结合在该平台每一层构建的强大 合作伙伴生态系统,电信运营商拥有清晰的路径,可将开放模型的优势转化为可投入生产的 AI 工作流。

打造本地 AI 创新平台

随着电信运营商根据 国家 AI 战略 构建 AI 基础设施,开放模型为他们提供基础,以交付针对当地语言、行业、法规和数据治理要求量身定制的 AI 服务。

各国的运营商可以针对本地语言和特定行业需求对开放模型进行微调,并在其可信平台上托管开放模型,供客户直接消费或利用自己的数据和应用程序在其基础上进行开发。

对于印度尼西亚最大的电信运营商之一 Indosat Ooredoo Hutchison 而言,这意味着通过其 Sahabat-AI 开源模型系列,构建反映该国自身语言和文化特色的 AI。

“对于印度尼西亚这样的国家而言,开放模型的价值不仅在于获取强大的 AI 能力,更在于将这些智能适配到我们的语言、文化、数据以及现实需求中。”Indosat Ooredoo Hutchison 首席数据与人工智能官 Chirag Sukhadia 表示,“Sahabat-AI 将这一理念付诸实践,以开放模型为基础,构建真正理解印度尼西亚的 AI,并支持本地化应用的开发。这不仅让我们能够采用 AI,更能围绕 AI 建立自身能力,让更多印尼人能够按照自己的方式利用 AI 进行创造。”

了解更多关于NVIDIA 面向电信行业的技术的信息。