返回热点榜
compute热度 19.6°

AI 聚合热点事件 · 2026/11/19

亚马逊 SageMaker AI 推出跨区域推理路由

2 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/11/20 02:20:54
全景综述与最新动态
1 家信源交叉印证

亚马逊 SageMaker AI 正式推出跨区域推理路由功能,通过新增的 inference router 资源,让应用以单一调用路径覆盖多个区域和账户中的端点与推理组件。当本地 GPU 容量不足时,路由器自动将新请求切换至其他已注册目的地,并在恢复后逐步回切流量。该功能填补了此前需用户自建的跨区域高可用推理能力空白。

最新动向/亚马逊 SageMaker AI 正式推出跨区域推理路由功能,通过新增的 inference router 资源,让应用以单一调用路径覆盖多个区域和账户中的端点与推理组件。当本地 GPU 容量不足时,路由器自动将新请求切换至其他已注册目的地,并在恢复后逐步回切流量。该功能填补了此前需用户自建的跨区域高可用推理能力空白。

逐小时热度走势

24 个完整观测小时
当前
19.6
峰值
19.605:00
近 24h 变化
–

曲线只比较全程持续完整观测的同一批信源;缺口小时数据已插值平滑,保持趋势连续。

报道时间线

共 2 篇 · 最新优先
  1. AWS Machine Learning BlogT1·62 分

    亚马逊 SageMaker AI 推出跨区域推理路由

    原标题:Keep inference running through regional capacity shortfalls with cross-Region inference routing in Amazon SageMaker AI

    • 新增 inference router 资源,应用调用路由器而非具体端点,统一跨区域与跨账户的推理入口
    • 本地目的地健康时请求留在本区域,故障时新请求切换至其他注册目的地,恢复后渐进回切
    • 此前跨区域路由需用户自行搭建,现由 SageMaker AI 托管端点原生提供
  2. AWS Machine Learning BlogT1·62 分

    Salesforce 用 SageMaker 跨区推理路由支撑 30 个区域模型服务

    原标题:How Salesforce is advancing global-scale model serving with cross-Region inference routing in Amazon SageMaker AI

    • 跨区域推理路由把多区域、多账号的 SageMaker 端点统一为单一调用路径,按可服务性分发请求
    • 该方案在扩容的同时保留数据驻留约束,并支持追踪每个请求的实际服务区域与路由原因
    • Salesforce 在 30 多个区域同时服务自研模型与开源模型,容量割裂是其主要痛点