AWS Machine Learning BlogT1·62 分
亚马逊 SageMaker AI 推出跨区域推理路由
原标题:Keep inference running through regional capacity shortfalls with cross-Region inference routing in Amazon SageMaker AI
- 新增 inference router 资源,应用调用路由器而非具体端点,统一跨区域与跨账户的推理入口
- 本地目的地健康时请求留在本区域,故障时新请求切换至其他注册目的地,恢复后渐进回切
- 此前跨区域路由需用户自行搭建,现由 SageMaker AI 托管端点原生提供