Microsoft and 40+ Organizations Launch Open AI Transparency Standards Push
At Ignite, Microsoft launched an AI Transparency Initiative with more than 40 organizations including Accenture, Adobe, KPMG, Mastercard and Volvo, aiming to build open safety and governance standards that span both closed and open-weight models. The framework centers on observe, verify and control, stressing that agents cannot be the sole source of evidence about their own behavior and that records must be cross-checked against independent systems, with results folded into Microsoft AI, Foundry and Copilot.
Related Entities
Full Report
IT之家 11 月 18 日消息,微软今日在 Ignite 大会上宣布启动 AI 透明度计划(AI Transparency Initiative),与埃森哲、Adobe、毕马威、万事达卡、沃尔沃汽车等 40 多家组织合作,共同推动制定适用于不同 AI 模型和服务提供商的开放标准,以加强 AI 系统的透明度、安全性和治理能力。
微软董事长兼 CEO 萨提亚・纳德拉宣布,公司将与客户及合作伙伴展开合作,推动建立一套开放、通用的 AI 安全与治理框架。
微软表示,随着企业将 AI 模型接入内部数据、工具、凭据和基础设施,AI 智能体(Agent)已经能够在不需要人类逐步审批的情况下自主执行任务。但现有安全管理机制通常只能观察 AI 活动的部分信息,难以还原模型从接收请求到产生结果之间的完整过程,也无法独立验证模型对自身行为的描述。这给企业的安全管理、合规审计和责任追溯带来了新的挑战。
此次计划主要包含三个方面。首先,微软将扩大对美国国家标准与技术研究院(NIST)AI Agent Standards Initiative(AI 智能体标准计划)的参与,并利用相关研究推动制定覆盖 AI 透明度、安全性和治理的行业开放标准。
其次,微软将与 40 多家组织合作,推动建立适用于不同模型和服务提供商的开放标准,使 AI 系统具备可问责性、独立验证能力,并在设计阶段纳入安全机制。微软强调,这套标准将同时适用于闭源模型和开放权重模型,企业更换或升级底层模型时,也能够继续使用现有 IT 安全管理和合规审计机制。
第三,微软计划将相关成果整合到 Microsoft AI、Microsoft Foundry 和 Microsoft Copilot 产品及服务中,让企业客户能够将 AI 活动产生的证据接入微软或其他供应商提供的安全与合规工具。
在具体实施方面,微软将计划概括为三个环节:观察、验证和控制。IT之家总结如下:
- 观察环节要求企业能够了解 AI 接收了什么指令、获得了哪些授权、使用了什么模型和运行环境、访问了哪些数据与工具,以及实际执行了哪些操作,同时持续监控智能体活动和风险信号。
- 验证环节强调,AI 智能体不能成为证明自身行为的唯一信息来源。企业需要结合模型、运行环境以及身份认证和策略管理等独立系统提供的记录,对 AI 的身份、授权意图和实际操作进行交叉验证,而不能仅依赖模型服务提供商对其行为的描述。
- 控制环节则要求企业保留对 AI 权限的管理能力,包括限制智能体可以访问的数据、执行的操作以及获得的授权。当发生安全事件时,企业还应能够利用相关记录还原事件经过,并用于调查、风险控制、恢复和审计。
微软安全业务执行副总裁 Hayete Gallot 表示,为了让安全控制真正发挥作用,企业需要提高对模型内部运行情况的透明度。
Adobe 首席安全官 Aanchal Gupta 和毕马威国际全球首席信息安全官 John Israel 也分别表示,企业需要更清晰地了解 AI 智能体访问了哪些资源、执行了哪些操作,以及如何独立验证这些行为。
微软称,随着 AI 智能体进一步融入企业运营,组织必须继续对其行为承担责任,不能将 AI 本身作为规避责任的理由。