返回热点榜
opensource热度 15.3°

AI 聚合热点事件 · 2026/11/22

开源量化编译器将 Qwen3.5-4B 压至 1.2 GB

1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/11/22 02:02:19
全景综述与最新动态
1 家信源交叉印证

开源项目 LookAtMyQuant 提出一种基于 Fisher 信息与 trellis 编码的后训练量化编译器,按存储单元对输出损伤分配比特预算。其第二版将 Qwen3.5-4B 压缩至 1.23 GB(约 2.3 bit/权重),在 540 道精确答案数学题上解出 330 道,优于同尺寸的 Bonsai 2 Ternary 4B(328 道),KL 散度 0.45 nats 亦低于对方的 0.59。完整配方与约 34 美元 GPU 成本已公开,代码采用 MIT 许可。

最新动向/开源项目 LookAtMyQuant 提出一种基于 Fisher 信息与 trellis 编码的后训练量化编译器,按存储单元对输出损伤分配比特预算。其第二版将 Qwen3.5-4B 压缩至 1.23 GB(约 2.3 bit/权重),在 540 道精确答案数学题上解出 330 道,优于同尺寸的 Bonsai 2 Ternary 4B(328 道),KL 散度 0.45 nats 亦低于对方的 0.59。完整配方与约 34 美元 GPU 成本已公开,代码采用 MIT 许可。

逐小时热度走势

5 个完整观测小时
当前
15.3
峰值
17.003:00
近 24h 变化
–

曲线只比较全程持续完整观测的同一批信源;缺口小时数据已插值平滑,保持趋势连续。

报道时间线

共 1 篇 · 最新优先
  1. Hacker News AIT2·71 分

    开源量化编译器将 Qwen3.5-4B 压至 1.2 GB

    原标题:Inkling-2-Mini in 5.4 GB Memory

    • 按 Fisher 信息逐行分配比特,并用 trellis 编码做后训练量化,可在 2.3 bit/权重下保持数学推理能力
    • 1.23 GB 的 Qwen3.5-4B 在 540 道精确答案数学题上解出 330 道,超过同尺寸 Bonsai 2 Ternary 4B 的 328 道
    • 完整配方、KL 评测与约 34 美元 GPU 成本公开,代码为 MIT 许可