ALL INTELLIGENCE
IT之家 · 智能时代T2·Infra

Qualcomm Opens Cloud Evaluation of AI200 Inference Accelerator with Cirrascale

Original title: 高通携手 Cirrascale,启动自家推理加速器 AI200 客户评估
58AI Score

Qualcomm, together with AI private-cloud provider Cirrascale, has opened cloud-based evaluation of its first rack-scale inference solution, Dragonfly AI200, to select customers. Each card carries 768GB of LPDDR5X memory, and a 140kW liquid-cooled rack packs 56 cards with 43TB total memory and 0.414 PB/s bandwidth, targeting 10T-parameter-class inference in a single rack at lower total cost of ownership.

Full Report

IT之家 11 月 20 日消息,Qualcomm(高通)当地时间本月 17 日宣布,其携手 AI 私有云企业 Cirrascale,向部分客户开放 Dragonfly(飞龙)AI200 推理加速器的评估。客户可通过云环境探索其 AI 工作负载在该芯片上的表现。

高通携手 Cirrascale,启动自家推理加速器 AI200 客户评估

Dragonfly AI200 是高通的第一款机架级人工智能解决方案,单卡配备 768GB LPDDR5X 内存,支持 PCIe Gen6 纵向扩展、RoCE 横向扩展。

其每个 140kW 液冷 ORv3 机架由 56 卡组成,总内存达 43TB,提供 0.414 PB/s 内存带宽,可在单一机架中运行 10T 级超大模型的推理,提供更低的总持有成本。