英国 AI 芯片初创公司 Fractile 完成超 7.2 亿美元 C 轮融资,估值达 70 亿美元,英国政府主权 AI 基金与英国商业银行参投,谷歌风投、贝莱德等亦在列。该公司主攻不牺牲吞吐、模型尺寸与上下文长度的推理硬件,其“模拟内存计算”芯片据称获 Anthropic 关注,后者有意于 2027 年部署。
AI 推理
AI Inference
模型完成训练后响应用户请求执行前向计算的过程,是当前算力消耗的主要来源
收录情报动态
AWS CEO Matt Garman 在访谈中表示,当前 AI 推理市场的规模甚至不到其最终形态的 1%,远未触及天花板,仍有巨大的增长空间。该判断来自全球最大云厂商的一线算力与客户需求视角,指向推理侧算力投入将持续扩张。
高通推出新款数据中心 AI 推理加速卡 Cloud AI 100 Ultra,专为生成式 AI 和大语言模型设计。该卡配备 128GB 内存和高达 548GB/s 的带宽,旨在通过高性能与低功耗平衡来支持大规模 AI 推理部署。
韩国 AI 芯片初创公司 FuriosaAI 宣布完成 6.2 亿美元 D 轮融资,估值飙升至 29 亿美元。该公司主打高能效推理芯片 RNGD,旨在通过减少数据传输功耗来挑战英伟达在数据中心市场的主导地位。目前其芯片已获三星 SDS、LG 等客户采用,并计划与博通合作开发下一代加速器。
甲骨文宣布扩大与英伟达的云端 AI 芯片合作,将大规模部署 Vera Rubin 服务器。同时,为应对不同 AI 工作负载需求,甲骨文推进供应多元化,首次向客户提供谷歌 TPU 及 Cerebras、SambaNova 等推理芯片,预计 2027 年逐步上线。
AMD CEO 苏姿丰在 OCP 峰会宣布 2026 年为“真正的 AI 推理之年”,指出智能体工作负载爆发将推动 CPU 市场规模以约 50% 的年复合增长率扩张,预计 2030 年突破 2000 亿美元。同时,她透露 AMD Helios 量产系统已于 9 月向 OpenAI、Meta 等头部客户交付,推理算力占比预计将达 60%。
微软正式公布第三代自研 AI 芯片 Maia 300,旨在成为其云服务的核心推理引擎。该芯片针对长上下文推理和智能体任务优化,宣称每兆瓦 Token 产出比主流 GPU 系统高 40%,计划于 2027 年投入生产环境。
OpenAI 公布其首款自研 AI 推理芯片 Jalapeño 的初步结果,宣称在速度、能效、吞吐量及延迟方面达到行业领先水平。目前仅披露定性优势,未提供具体基准测试数据或架构细节。