术语slug: inference-cost

推理成本

Inference Cost

单次模型调用所消耗的算力与费用,其下降通常带动使用量显著增长

收录情报动态

共 10 篇 · 第 1/1 页
IT之家 · 智能时代T2·算力与基建
62 分
AWS 掌门人:太空 AI 算力 10 至 20 年难具商业可行性

AWS CEO 马特·加曼在播客中判断,太空数据中心在未来 10 至 20 年内难以达到商业可行,核心障碍是发射运力与频率、真空环境下的散热面积与成本、以及轨道设备维护和辐射防护。他同时透露 AWS 正以每 14 秒一块 GPU 的速度部署硬件,需求仍远超供给,未来两年算力容量将持续紧张,AI 推理成本每降 50% 使用量即出现数量级增长。

TechCrunch AIT2·商业与生态
58 分
苹果削减内部 AI 预算 工程师每日额度降至 200 美元

苹果正在压缩内部 AI 使用开支:工程团队的每日额度已从 300 美元下调至 200 美元,部分 allowances 拟降至 100 美元,非工程部门甚至考虑 25 美元/天的上限。这一转向与今年早些时候鼓励大量消耗 token 的风潮形成反差,反映出企业对 AI 投入产出比的重新审视。消息源自彭博社的单一报道,苹果尚未置评。

宝玉 (@dotey)T2·商业与生态
68 分
Anthropic S-1 披露 Opus 5.5 推理成本低至 $0.6/$3.0

根据 Anthropic 向 SEC 提交的 S-1 招股书数据,分析师推算其毛利率约为 85%,这意味着旗舰模型 Opus 5.5 的内部推理成本仅为每百万 token $0.6(输入)和 $3.0(输出)。这一极低的边际成本显著低于当前市场主流模型的定价,揭示了头部实验室在大规模推理效率上的巨大优势。

IT之家 · 智能时代T2·算力与基建
78 分
亚马逊 CEO:AI 推理成本需降十倍方能普及企业软件

亚马逊 CEO 安迪·贾西指出,当前 AI 推理成本高出一个数量级,阻碍了其在企业软件中的广泛应用。他透露亚马逊算力供应已排至 2028 年,并强调自研 Trainium 芯片旨在通过降低 30%-40% 的成本来打破英伟达主导的市场格局,以释放中间市场的巨大需求。

IT之家 · IT业界T2·基座大模型
78 分
MiniMax M3.1 Flash 发布:推理提速三倍,成本降七成

MiniMax 正式推出新一代轻量级模型 M3.1 Flash,在保持 Agentic、编程及 Computer Use 能力达到顶尖水平的同时,实现推理速度提升近 3 倍且使用成本降低 70%。该模型已在多项基准测试中取得领先成绩,并计划后续开放权重,旨在为开发者提供高性价比的复杂任务执行方案。

The DecoderT2·商业与生态
78 分
Anthropic Q3 营收达 16.8B 美元但增速放缓至 45%,IPO 前面临 OpenAI Astra 与价格战双重挤压

Anthropic 第三季度营收达到 16.8B 美元,环比增长约 45%,虽远超 2025 年全年总和,但较第二季度的 140% 爆发式增长显著回落。这一减速主要归因于夏季自然需求波动及 OpenAI 发布竞品 Astra 带来的市场压力,尽管 Anthropic 随后推出 Opus 5.5 进行反击。在计划于 11 月上市的关键节点,公司正通过展示推理盈利性来稳定投资者信心,以应对日益激烈的价格战和开源模型的性能追赶。

Berkeley AI Research (BAIR)T1·智能体与协同
78 分
伯克利 BAIR:智能趋近免费,重构代理数据系统

伯克利 BAIR 团队指出 AI 推理成本正以每年数十倍的速度下降,即将进入“近乎免费智能”时代。文章主张当智能本身不再稀缺时,核心瓶颈将转移至为智能体(Agents)构建专用、高效的数据基础设施。该观点呼吁从传统的“为人设计”转向“由代理生成、为代理服务、被代理管理”的新型数据系统架构。