AWS Machine Learning BlogT1·算力与基建
42 分
AWS 宣布为 Amazon SageMaker AI 双向流式推理引入按用量计量能力,使模型提供商可在 AWS Marketplace 上按实时流中的实际消耗收费,端点基础设施费用仍单独计收。Deepgram 作为首个合作伙伴,将按用量计费的语音转文字与文字转语音服务带上 Marketplace。
Bidirectional Streaming
客户端与服务端在同一连接上持续双向传输数据的实时推理模式
AWS 宣布为 Amazon SageMaker AI 双向流式推理引入按用量计量能力,使模型提供商可在 AWS Marketplace 上按实时流中的实际消耗收费,端点基础设施费用仍单独计收。Deepgram 作为首个合作伙伴,将按用量计费的语音转文字与文字转语音服务带上 Marketplace。