AWS Machine Learning BlogT1·算力与基建
58 分
AWS 回顾了 SageMaker Inference 在 2026 年的多项更新,核心包括 HyperPod Inference 新增路由策略、支持更多模型服务框架与多区域网络,Inference Gateway 负责请求路由,并引入托管版 NVIDIA Dynamo 作为新的服务框架。托管端点方面,推理推荐已可在 SageMaker AI Studio、Python SDK 及编码智能体中运行,端点支持跨区域与跨账户路由,帮助团队在流量变化后重新选型、在已付费 GPU 上部署更多模型并解决区域间算力闲置问题。