工具slug: amazon-ec2-spot-instances

Amazon EC2 Spot 实例

Amazon EC2 Spot Instances

AWS 的闲置算力竞价实例,价格显著低于按需实例,但可能在 2 分钟预警后被回收

收录情报动态

共 1 篇 · 第 1/1 页
AWS Machine Learning BlogT1·算力与基建
58 分
AssemblyAI 用 EC2 Spot 降低语音转写推理成本

AssemblyAI 在 AWS 上重构了其 GPU 推理架构,以 Amazon EC2 Spot 实例承载语音转写负载,在保留 2 分钟中断预警机制的前提下满足 SLA 与延迟要求,同时通过欧洲区域部署满足医疗、金融、法律等受监管客户的数据驻留需求。这是一份面向大规模 GPU 推理降本的工程实践,核心在于用架构设计吸收 Spot 回收带来的抖动。