LangChain 推出 LangSmith 工具网关公测

原标题:LangSmith Tool Gateway: Secure, governed tool use for agents
62AI 研判分

LangChain 在 LangSmith Agent Platform 上发布 Tool Gateway 公测版,为智能体工具调用提供统一的凭证、身份与权限托管层。该网关让工程团队以受控方式为智能体接入新工具,免去自建鉴权,并支持对每次工具调用进行追踪与审计。

报道正文

本文目录19 个章节

LangSmith

LangSmith Tool Gateway:为智能体提供安全、可治理的工具使用

智能体正在走出聊天窗口,承担更具主动性和环境感知的工作。它们不再等待提示,而是按计划运行或由事件触发,并且能够处理更长的任务,无需有人逐步检查。这让它们变得更加有用,但也意味着团队需要控制每个智能体可以调用哪些工具、以谁的身份行事,并记录其采取的每一个操作。

今天,我们在 LangSmith Agent Platform 上推出 LangSmith Tool Gateway 公测版。Tool Gateway 是一个托管工具层,为每次智能体工具调用处理凭证、身份和访问权限,让治理智能体所采取的操作变得简单。Tool Gateway 让工程团队能够更轻松、更快速地以受控方式授予智能体访问新工具的权限,而无需每次都手动实现认证。安全和合规团队可以使用 LangSmith 追踪和审计工具调用,作为智能体监控的一部分。

工具治理是智能体治理的核心

当智能体投入生产时,平台团队需要了解每个智能体做了什么、控制其可以使用哪些工具和模型,以及制定限制支出和风险的使用策略。借助 LangSmith,开发者可以在单一平台中构建、运行和改进智能体。

LLM Gateway 治理智能体发起的模型调用。通过它,你可以设置支出限制和模型回退、添加速率限制、脱敏个人数据和密钥,并在智能体追踪中提供可见性,包含模型调用的丰富信息,如延迟、回退、失败、触发的护栏等。Tool Gateway 与 LLM Gateway 一同位于 LangSmith 中,在整个生命周期中提供治理。

Tool Gateway 为智能体简化工具列表,实施使用策略,管理工具使用的身份,并且与 LLM Gateway 一样,通过工具调用的丰富信息(如服务器、用户、结果、延迟等)在智能体追踪中提供可见性。

Tool Gateway 和 LLM Gateway 共同为智能体的操作和支出提供全面的可见性和治理。

智能体工具使用如何成为治理问题

生产环境中的 Agent 需要服务数百甚至数千名用户,而每个用户都拥有自己的一套权限。这意味着需要管理和刷新大量 token,并为满足安全与审计要求而仔细管理和记录访问行为。大规模管理身份与可见性,其难度比本地开发高出几个数量级。为每个 Agent 单独构建这套底层管道,会拖慢产品交付速度,并将更大、更多样的攻击面暴露于安全风险之中。

在生产环境中为 Agent 提供工具访问权限,有三项要求:

  • 访问(Access): 定义该 Agent 可以调用哪些工具,以及使用哪些凭证。
  • 控制(Control): 设定每个用户可以用它做什么,并在必要时建立审核机制。
  • 可见性(Visibility): 跟踪哪些工具正在被调用,并确认 Agent 使用了正确的凭证。

最省事的做法是为一个 Agent 把这三项全部硬编码。工程师为每个提供商编写一套 OAuth 流程,将 token 存储在 Agent 旁边,并为每个新工具添加路由。当目标是在有限环境中快速构建时,这种做法是可行的。然而,随着使用量、工具数量和用户数量的增长,这种做法就会失效。

Agent 应如何使用工具?

让我们结合具体场景来看这个问题。我们合作的一家美国大型零售商正在为门店运营和库存管理构建 Agent。其中两个 Agent 很好地说明了这一挑战。

第一个是门店助手,负责回答员工的提问。它使用每位员工的个人凭证运行,可访问库存系统、排班系统和电子邮件。第二个是库存 Agent,每天凌晨 3 点运行,使用自己的服务凭证来核对库存。

该工程团队已经构建了 50 多个 MCP 服务器,总共暴露了一千多个工具。然而,每个 Agent 只应使用其中一小部分经过批准的工具,并且每个 Agent 都应针对特定上下文调用正确的凭证。当团队将凭证硬编码到 Agent 中,或提供一个完整的工具服务器时,就没有确定性的检查来阻止 Agent 使用错误的凭证,或使用工具服务器中未经批准的工具。而且,由于无法端到端地了解 Agent 如何使用工具,安全团队也无从审计或验证这一切。

工具网关为每次工具调用管理访问、身份与策略

智能体与客户端调用 LangSmith Tool Gateway 的示意图:该网关识别调用方、附加令牌、应用策略,并将每次调用转发至你的工具并记录日志

图 1. 智能体、编码智能体和后端均调用同一个工具包 URL,而 Tool Gateway 在每次调用时负责处理访问、身份与策略。

Tool Gateway 是一个托管式工具层,允许调用方通过单一 URL 路由工具请求。对于每个调用方,Tool Gateway 都会解析身份、管理访问权限,并记录工具调用链路。

以下是它在实践中的工作方式。

访问:定义智能体可以使用哪些工具,以及以何种身份使用

Tool Gateway 是发现和访问工具的唯一入口。新智能体能够更快启动运行,因为工具配置无需为每个智能体重复进行,安全团队也能清晰掌握每个智能体可以访问哪些资源。

一次性注册你的工具

通过 URL 添加任意 MCP 服务器,为 Google、Salesforce 或 GitHub 等常用应用启用内置服务器。每个团队都能轻松找到现有工具,并确保遵循使用策略。

将每个智能体的范围限定为其所需内容

工具包是一组精选工具,发布在单一 URL 上。用户可以根据自身需求构建工具包,并将其提供给整个工作区使用,或限定为个人使用。当智能体连接到特定工具包时,它只能看到该工具包中捆绑的工具。

通过搜索模式让大型工具包保持快速与准确

当智能体拥有数百或数千个工具时,一次性加载所有工具会增加延迟,并使选择正确工具变得更加繁琐。借助搜索模式,智能体可以查询其工具包,仅加载与当前任务相关的工具。

图 2. 在 LangSmith UI 中设置工具包和 MCP 服务器

Tool Gateway 会为工具调用解析身份,使工程团队无需手动实现认证即可加快工作进度。对于通过网关的每次工具调用,调用方都会映射到两种身份之一:

  • 以用户身份执行会使用用户自己的凭据。你的身份提供商(Okta、Entra ID)负责识别用户身份,用户只需连接一次自己的账户。此后,Tool Gateway 在每次调用时都会使用该用户的访问权限。如果用户尚未连接,调用会返回一个登录链接,等待用户完成身份验证,然后自动继续。这样一来,工程师无需额外编写代码,就能以代表用户(on-behalf-of-user)的方式添加工具使用能力。
  • 以智能体身份执行使用与智能体本身绑定的凭据,可以通过在 LangSmith 中配置的 agent auth,或通过 profile 来实现。Profile 使用共享凭据,由工作区管理员为智能体一次性连接。工作区管理员可以设置包含一组共享凭据的 profile,这些凭据可在能够于后台自主运行的多个智能体之间复用。

控制:为工具使用和审批设置策略

管理员可以通过多种方式设置策略来控制工具使用:

  • 拒绝策略可在不同粒度上阻止工具使用:可针对特定用户、服务密钥或二者的组合。拒绝策略也可以适用于所有人,并列出例外情况。管理员可以在组织或工作区级别设置这些策略。
  • 审批策略要求用户在 MCP 客户端中确认敏感的工具调用,然后才会执行。例如,在开放一个允许写入数据仓库的工具之前,管理员可以配置人工介入(human-in-the-loop)审批要求。这样可确保每次智能体尝试写入数据仓库时,都有人员进行审核。

图 3. 管理员可以为工作区关闭服务器,并针对特定用户拒绝特定的服务器或工具。

可见性:在智能体追踪中监控工具调用

每次工具调用都会在 LangSmith 中追踪,并附带智能体对话的上下文,因此你可以监控使用情况并处理工具调用的审计问题,而无需从多个平台汇总追踪记录和日志。虽然工具调用始终会显示在 LangSmith 追踪中,但借助 Tool Gateway,我们可以获得丰富的信息,包括使用了谁的凭据、使用了哪个服务器、延迟和结果。因此,调试更快,安全审查也有清晰的记录可供依据。

查看每一次工具调用

为 Tool Gateway 启用工具调用追踪,以记录每次调用的工具、服务器、用户、结果和耗时。敏感数据不会进入记录,因为发送给工具或由工具发送的数据不会被存储。

在上下文中调试

工具调用会出现在智能体自身的追踪记录中。你可以在同一个已用于调试的视图中,看到智能体选择工具的步骤、所使用的身份,以及调用是否成功。

为安全团队提供单一记录

在 Enterprise 计划中,审计日志会捕获整个组织中运行了哪个工具以及以谁的身份运行。这让需要收集日志并进行监控的安全与合规团队能够通过单一统一平台轻松完成工作。诸如“这个智能体昨晚 3 点使用了哪些工具,以及使用了哪些凭据”之类的问题,变得更容易回答。

图 4. 每次工具调用都会获得丰富的追踪记录,记录每次调用的工具、服务器、用户、结果和延迟。

内置工具让常见工具无需服务器和 OAuth 设置

几分钟内即可连接常见工具,无需自行构建或维护任何服务器。

常见工具,开箱即用

Tool Gateway 包含由 LangSmith 托管的内置服务器,覆盖大多数智能体所需的应用:Google、Microsoft、Salesforce、GitHub 和 Linear。对于内置工具,无需运行服务器,也无需注册 OAuth 应用。

一次连接,随处使用

开启内置服务器,连接你的账户或添加 API 密钥,然后将其工具添加到任意套件中。

登录方式你需要做什么内置集成
由 LangSmith 管理点击 Connect 并登录。LangSmith 负责运行 OAuth 应用。Google、Microsoft、Salesforce、GitHub、Linear、LinkedIn
API 密钥或公开访问开启该方式,并在需要时添加 API 密钥Parallel search、Exa、Tavily、Apollo、Ashby、Pylon、网页阅读

LangSmith Tool Gateway 中可用的内置工具服务器

图 5. Tool Gateway 内置了丰富的预构建工具,可连接并打包成工具包。

五步实现智能体安全、可治理的工具访问

LangSmith Tool Gateway 提供了一条简单、流畅的路径,用于添加新的工具服务器,并让多个智能体访问其中的工具。添加后,该工具服务器及其中的工具即可供整个工作区内的智能体使用,而 LangSmith 会在平台上处理身份与认证。具体步骤如下:

  1. 获取访问权限。 在 LangSmith 中打开 Tools。
  2. 添加服务器。 注册 MCP 服务器 URL,或启用一个内置服务器。
  3. 为每个工具连接你的账户。 登录一次,或保存 API 密钥。
  4. 构建工具包。 挑选智能体所需的工具。你会获得一个 MCP URL。
  5. 将客户端指向工具包 URL。 Tool Gateway 可与任何 MCP 客户端配合使用,包括 LangChain、Deep Agents、Managed Deep Agents、Claude Code 和 Cursor。

使用此快速入门立即开始

部署值得信赖的持久化智能体

持久化智能体最有价值的时候,是你可以信任它们在无人监督的情况下于后台工作。默认提供安全的工具访问和端到端可见性,是确保这种信任的关键。Tool Gateway 为智能体提供它们所需的访问权限,并附带认证、你设置的防护措施以及每次调用的记录,让你的团队可以专注于构建智能体,而不是维护连接。

🛠️ 在 LangSmith 中打开 Tools,今天就添加你的第一个服务器!

阅读文档,或联系我们的团队以获取拒绝策略和审计日志的访问权限。