AWS Machine Learning BlogT1·算力与基建
62 分
亚马逊 SageMaker AI 正式推出跨区域推理路由功能,通过新增的 inference router 资源,让应用以单一调用路径覆盖多个区域和账户中的端点与推理组件。当本地 GPU 容量不足时,路由器自动将新请求切换至其他已注册目的地,并在恢复后逐步回切流量。该功能填补了此前需用户自建的跨区域高可用推理能力空白。
Inference Router
SageMaker AI 新增资源,为应用提供跨端点与跨区域的统一调用入口
亚马逊 SageMaker AI 正式推出跨区域推理路由功能,通过新增的 inference router 资源,让应用以单一调用路径覆盖多个区域和账户中的端点与推理组件。当本地 GPU 容量不足时,路由器自动将新请求切换至其他已注册目的地,并在恢复后逐步回切流量。该功能填补了此前需用户自建的跨区域高可用推理能力空白。
DigitalOcean 发布 Agent Learning Services 与 Agent Data Services 公开预览版,让开发者在其 AI 原生云平台上记录智能体活动、识别失败短板、通过模拟对话验证改进,并基于企业自有数据持续迭代智能体。两项服务与 Inference Engine、Managed Agents 及增强版 Inference Router 协同,构成从推理、执行到持续改进的闭环。