Today for AI
返回热点榜
llm热度 11.6°

AI 聚合热点事件 · 2026/10/26

EdgeRock-4B 开源：KV Cache 降 99%，长推理吞吐提升 6 倍

1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/10/26 14:45:25
全景综述与最新动态
1 家信源交叉印证

岩山科技联合港科大、CMU 发布并开源 EdgeRock-4B 模型，通过固定内存占用机制将 KV Cache 减少 99.1%。该模型在 256K 上下文下显存恒定，单卡吞吐达源模型 6.42 倍，且保持高推理准确率，显著降低长文本与 Agent 场景的部署成本。

最新动向/岩山科技联合港科大、CMU 发布并开源 EdgeRock-4B 模型，通过固定内存占用机制将 KV Cache 减少 99.1%。该模型在 256K 上下文下显存恒定，单卡吞吐达源模型 6.42 倍，且保持高推理准确率，显著降低长文本与 Agent 场景的部署成本。

逐小时热度走势

3 个完整观测小时
当前
11.6
峰值
11.915:00
近 24h 变化
–

曲线只比较全程持续完整观测的同一批信源；缺口小时数据已插值平滑，保持趋势连续。

报道时间线

共 1 篇 · 最新优先
  1. 量子位官网T2·88 分

    EdgeRock-4B 开源：KV Cache 降 99%，长推理吞吐提升 6 倍

    原标题：KV Cache砍掉99%，单卡吞吐飙6倍，港科CMU联手岩山科技开源新模型

    • KV Cache 占用随上下文长度从 4K 到 256K 保持恒定（72MiB），相比传统模型减少 99.1%
    • 单张 80GB 显卡支持 512 路并发长推理，输出吞吐量达到 12124 tokens/s，是源模型的 6.42 倍
    • 在 AIME 2024-2026 基准测试中平均一次通过率达 82.9%，远超同类有界状态模型