术语slug: ai-inference

AI 推理

AI Inference

模型完成训练后响应用户请求执行前向计算的过程,是当前算力消耗的主要来源

收录情报动态

共 8 篇 · 第 1/1 页
IT之家 · 智能时代T2·算力与基建
72 分
英国芯片新锐 Fractile 融资 7.2 亿美元 估值达 70 亿美元

英国 AI 芯片初创公司 Fractile 完成超 7.2 亿美元 C 轮融资,估值达 70 亿美元,英国政府主权 AI 基金与英国商业银行参投,谷歌风投、贝莱德等亦在列。该公司主攻不牺牲吞吐、模型尺寸与上下文长度的推理硬件,其“模拟内存计算”芯片据称获 Anthropic 关注,后者有意于 2027 年部署。

Rohan Paul (@rohanpaul_ai)T2·算力与基建
38 分
AWS CEO 称 AI 推理规模尚不足最终 1%

AWS CEO Matt Garman 在访谈中表示,当前 AI 推理市场的规模甚至不到其最终形态的 1%,远未触及天花板,仍有巨大的增长空间。该判断来自全球最大云厂商的一线算力与客户需求视角,指向推理侧算力投入将持续扩张。

IT之家 · 智能时代T2·算力与基建
78 分
FuriosaAI 完成 D 轮融资,估值达 29 亿美元挑战英伟达

韩国 AI 芯片初创公司 FuriosaAI 宣布完成 6.2 亿美元 D 轮融资,估值飙升至 29 亿美元。该公司主打高能效推理芯片 RNGD,旨在通过减少数据传输功耗来挑战英伟达在数据中心市场的主导地位。目前其芯片已获三星 SDS、LG 等客户采用,并计划与博通合作开发下一代加速器。

IT之家 · 智能时代T2·商业与生态
68 分
AMD CEO 苏姿丰:2026 为 AI 推理元年,智能体驱动 CPU 市场年复合增速达 50%

AMD CEO 苏姿丰在 OCP 峰会宣布 2026 年为“真正的 AI 推理之年”,指出智能体工作负载爆发将推动 CPU 市场规模以约 50% 的年复合增长率扩张,预计 2030 年突破 2000 亿美元。同时,她透露 AMD Helios 量产系统已于 9 月向 OpenAI、Meta 等头部客户交付,推理算力占比预计将达 60%。