返回全部资讯
AWS Machine Learning BlogT1·智能体与协同

AWS 推出新一代 AgentCore 运行时,实现安全隔离与降本

作者:Madhu Parthasarathy原标题:Run agents securely and efficiently with the next generation AgentCore runtime
62AI 研判分

AWS 发布新一代 Amazon Bedrock AgentCore 运行时,针对长时间自主运行的 AI 智能体提供安全隔离的执行环境,在性能、成本与效率之间取得平衡。该运行时已在北美、南美、欧洲和亚太多个区域上线,开发者可通过 Bedrock 控制台直接使用。

报道正文

本文目录6 个章节

AI agent 已经不再局限于一次性提示词。它们现在可以连续数小时运行多步骤工作负载。前沿 agent 能够独立完成的任务时长大约每四个月翻一番(METR),并且有 40% 的大型企业正在扩大 AI agent 的规模化部署,高于一年前的 27%(McKinsey)。随着 agent 运行时间更长、自主性更强,关注点正从 agent 能做什么,转向它们如何在大规模下安全、可靠且经济地运行。Agent 所做的不仅仅是传统软件:它们执行代码、浏览网页、访问敏感数据,并代表用户采取行动。这些能力带来了新的安全和基础设施需求,使得强隔离成为生产部署的关键。

每个 agent 会话都需要一个安全、隔离的环境。但大规模提供这种隔离带来了一个根本性挑战:平衡性能、成本和效率。预配置环境即使在空闲时也会消耗资源,从而推高成本。按需环境减少了容量浪费,但会引入冷启动延迟,拖慢 agent 执行。若不做出权衡,这两种方法都无法高效扩展。随着组织从部署少量 agent 转向运行数千个并发会话,构建和管理自定义沙箱变得越来越复杂、昂贵且不可预测。

挑战显而易见。只有 15% 的组织扩展了编排式多 agent 系统,而 70% 的组织表示他们尚不能信任和治理其 agent(Deloitte)。扩展 agent 不应意味着要在安全、速度和成本之间做选择。下一代 agent 基础设施必须提供强隔离,同时具备快速启动时间、弹性伸缩和基于用量的经济性。因为随着 AI agent 进入生产环境,安全执行不应成为瓶颈。它应当成为使规模化成为可能的基础。通往生产的最快路径也应当是最安全的路径。

下一代 AgentCore 运行时

我们构建 Amazon Bedrock AgentCore 的初衷,是帮助开发者安全地大规模构建、连接和优化智能体。AgentCore runtime 是 Amazon Bedrock AgentCore 的一项能力,也是托管计算层。它为开发者提供了一个完全托管的运行环境,无需构建或维护基础设施即可部署和运行智能体。自发布以来,我们的客户不断将智能体推向日益复杂的工作负载。随着这些工作负载的增长,对执行环境的要求也随之提高:更多计算资源、更灵活的计费方式,以及不仅覆盖计算、还延伸至数据的信任边界。只有当底层基础设施同时为规模和速度而构建时,智能体才能大规模进入生产环境。

今天,我们宣布 AgentCore runtime 的更新,以满足这些需求。核心保证依然不变:每个会话都在其独立的硬件隔离 Firecracker 微虚拟机(MicroVM)中运行,拥有自己的身份、策略和审计追踪。这些更新在这一保证之内拓展了可能性。会话启动速度现在最高提升 15 倍,计算规模扩展至 4 倍,运行效率最高提升 68%,而隔离边界完全保持不变。

以下是新增内容。

运行更大的工作负载,而无需等待更长的启动时间

构建日益先进智能体的团队要求更大的灵活性:能够在隔离会话内扩展内存和计算资源,以匹配其工作负载的需求。从大型代码库编译到浏览器驱动的工作流,再到本地模型推理,执行环境都需要跟上节奏。

会话现在的扩展能力相比上一版本提升 4 倍,最高可达 8 个 vCPU 和 32 GB 内存,并支持最大 10 GB 的容器镜像。会话启动时间不到 2 秒,且不受镜像大小和并发量的影响。你不再需要热池和预配置集群来管理冷启动。

“迁移到下一代 AgentCore runtime 后,我们的智能体会话冷启动时间从近一分钟缩短到五秒以内,即使在流量高峰期也是如此。它还消除了超过 30 秒的启动延迟,同时我们的每周智能体调用量增长了一倍以上。” — Siwei Shen,Coinbase 工程副总裁

“Mission 正在使用 Amazon Bedrock AgentCore 运行时来驱动一个自然语言查询智能体,帮助用户获取房产和销售洞察,而无需在复杂的数据系统中导航。在我们对两个运行时版本的初步对比中,相同工作负载下,推理请求的冷启动速度提升了 35%,健康检查的启动速度提升了 77%,同时每次调用的实测运行时成本降低了 17%。新的 AgentCore 运行时为我们带来了更快的智能体体验和更高效的资源利用这一极具吸引力的组合,助力我们将企业级智能体投入生产。” — Dr. Ryan Ries,Mission Cloud 首席 AI 与数据科学家

“我们的方法是在 Zuora 的云环境中尽可能广泛地运用自动化和 AI 智能体,而这只有在运行时高效且可靠的前提下才能实现。下一代 AgentCore 运行时在许多用例中将我们每次调用的内存占用降低了约 60%,同时在稳定延迟下处理更多流量。随着我们在平台上扩展智能体工作负载,这为我们带来了更强的成本优势。” — Brad Ruppert,Zuora 云与安全副总裁

“Rescale 平台帮助研发和工程团队通过智能体化数字工程加速产品开发。我们针对工程领域的专用智能体可以验证仿真输入、排查作业问题、选择硬件并生成报告,而工程师始终掌握控制权。Amazon Bedrock AgentCore 运行时使我们能够在生产环境中部署和扩展这些智能体,而无需构建或运维底层智能体基础设施,从而更快地向客户交付新的智能体。” — Mark Whitney,Rescale 工程副总裁

不再为闲置的智能体付费

随着团队将智能体推向生产环境,他们要求计费方式能够反映智能体的实际工作方式。智能体的大部分时间都花在等待模型响应、工具调用或人工决策上。智能体应当为其所做的工作付费,而不是为其等待的时间付费。

运行时现在会在智能体释放内存后的几分钟内回收内存,空闲智能体会缩减至零。对于交互之间存在自然停顿的多轮智能体,这意味着每个会话消耗的内存最多可减少 68%。对于常驻智能体,承诺基线定价为每个会话设定内存基线,按最低用量计费,并可按需突发至该基线的四倍。这为稳定工作负载提供了可预测的费率,与 AWS Lambda MicroVM 费率一致。运行时更高效地利用计算资源,因此相同工作量的费用更低。这让常常阻碍生产部署的财务讨论更容易达成一致。

“下一代 Amazon Bedrock AgentCore 运行时通过更快启动智能体和更高效地使用内存,帮助我们交付响应更迅速的 AI 体验。将消耗与实际使用量对齐,让我们的客户有充足信心扩展智能体解决方案,同时使成本与实际需求保持关联。” — Ashwin Patil,Deloitte Consulting LLP 董事总经理、AI 与数据负责人

“AgentCore 运行时为我们提供了一个托管基础,用于围绕客户的数据、工具和业务流程构建智能体产品和平台。下一代 AgentCore 运行时通过恢复已初始化的环境并回收未使用的内存,使这一基础更具响应性且资源效率更高。我们已开始基于最新版本进行构建,因为成本和延迟的降低会显著影响客户业务的运营方式。” — Randall Hunt,Caylent 首席技术官

隔离现在延伸至你的数据

许多企业在智能体安全模型中都面临一个持续存在的缺口。智能体在隔离会话内运行,但它所需的数据却位于该边界之外。长时间运行的智能体会在使用过程中不断获取上下文:文件、凭证、工具输出等。团队最终不得不自行制定数据进出规则,每新增一个智能体都会增加复杂性和风险。

仅止步于计算层的隔离只是半个边界。下一代 AgentCore 运行时弥合了这一缺口。每个会话仍在各自硬件隔离的环境中运行,拥有自己的身份、访问策略和审计跟踪。智能体现在可以动态挂载工作内容并将其保存到文件系统,例如支持 FUSE 的 Amazon Simple Storage Service(Amazon S3)存储桶。你的数据在整个任务期间都留在信任边界内,由你一次性定义的单一控制集进行治理。

“在 Okta,AgentCore 运行时与 Lambda MicroVM 的组合提供了我们的智能体所需的隔离执行环境和上下文记忆,使其能够在临时沙箱中检查代码、运行测试套件并提交拉取请求。结合我们由身份治理的策略控制,AgentCore Runtime 和 Lambda MicroVM 展示了我们如何安全地扩展自主工程智能体,而不会冒工作区泄漏或权限提升的风险。” — Monica Bajaj,Okta 工程高级副总裁

“从帮助购车者评估置换价值,到帮助经销商预约服务并构建交易方案,Amazon Bedrock AgentCore 为 Cox Automotive 旗下各品牌提供了数十种智能体解决方案。拥有一个统一的、受治理的智能体平台,使我们各业务团队能够自信地从试点走向生产。” — Chris Dillon,Cox Automotive 产品与工程副总裁

我们的承诺

真正投入生产的智能体,是那些你信任其能代表你行事的智能体——它们处理真实数据、承担真实风险、负有真实责任。信任不是事后添加的功能,而是你所构建于其上的运行时。本次发布是迈向这一未来的一步:更大的会话、高效的资源利用,以及位于信任边界内的存储,同时不放松使工作值得信赖的隔离性。到 re 大会时,按会话作用域将把每个会话通过带会话标签的凭证绑定到其专属存储文件夹,我们将在此基础上持续构建。

开始使用

下一代 AgentCore 运行时现已在北美、南美、欧洲和亚太地区的 AWS 区域推出。访问 Amazon Bedrock AgentCore 在其上构建,或打开 Amazon Bedrock 控制台 开始探索。