AWS Machine Learning BlogT1·算力与基建
62 分
Salesforce 的 Agentforce Foundation 团队在 30 多个全球区域部署自研与开源模型,此前各区域独立托管导致容量割裂、流量高峰易演变为可用性问题。借助 Amazon SageMaker AI 的跨区域推理路由,Salesforce 以单一调用路径将请求分发至多区域、多账号下可服务的自有端点,在满足数据驻留承诺的同时弹性扩容,并可追踪每个请求的落地区域与原因。
Cross-Region Inference Routing
将推理请求经单一调用路径分发至多区域、多账号下可服务端点的路由机制
Salesforce 的 Agentforce Foundation 团队在 30 多个全球区域部署自研与开源模型,此前各区域独立托管导致容量割裂、流量高峰易演变为可用性问题。借助 Amazon SageMaker AI 的跨区域推理路由,Salesforce 以单一调用路径将请求分发至多区域、多账号下可服务的自有端点,在满足数据驻留承诺的同时弹性扩容,并可追踪每个请求的落地区域与原因。