术语slug: cross-region-inference-routing

跨区域推理路由

Cross-Region Inference Routing

将推理请求经单一调用路径分发至多区域、多账号下可服务端点的路由机制

收录情报动态

共 1 篇 · 第 1/1 页
AWS Machine Learning BlogT1·算力与基建
62 分
Salesforce 用 SageMaker 跨区推理路由支撑 30 个区域模型服务

Salesforce 的 Agentforce Foundation 团队在 30 多个全球区域部署自研与开源模型,此前各区域独立托管导致容量割裂、流量高峰易演变为可用性问题。借助 Amazon SageMaker AI 的跨区域推理路由,Salesforce 以单一调用路径将请求分发至多区域、多账号下可服务的自有端点,在满足数据驻留承诺的同时弹性扩容,并可追踪每个请求的落地区域与原因。

跨区域推理路由 | Today for AI