术语slug: bidirectional-streaming

双向流式推理

Bidirectional Streaming

客户端与服务端在同一连接上持续双向传输数据的实时推理模式

收录情报动态

共 1 篇 · 第 1/1 页
AWS Machine Learning BlogT1·算力与基建
42 分
AWS 为 SageMaker 双向流式推理推出按用量计费

AWS 宣布为 Amazon SageMaker AI 双向流式推理引入按用量计量能力,使模型提供商可在 AWS Marketplace 上按实时流中的实际消耗收费,端点基础设施费用仍单独计收。Deepgram 作为首个合作伙伴,将按用量计费的语音转文字与文字转语音服务带上 Marketplace。