Today for AI
返回热点榜
tools热度 13.7°

AI 聚合热点事件 · 2026/11/12

华为开源 MACaQ 量化器 122B 模型 64 分钟搞定

1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/11/12 04:23:57
全景综述与最新动态
1 家信源交叉印证

华为开源了内部量化工具 MACaQ，这是一种模型无关的校准量化方案，可覆盖文本、图像、视频与音频模型，并适配 llama.cpp、vLLM、Diffusers 与 PyTorch 四大后端。官方数据显示，仅用 32.5 GB 显存即可在 64 分钟内完成 122B 参数模型的量化，在 Llama-3-8B 上达到同等困惑度时量化耗时减少 11 倍。

最新动向/华为开源了内部量化工具 MACaQ，这是一种模型无关的校准量化方案，可覆盖文本、图像、视频与音频模型，并适配 llama.cpp、vLLM、Diffusers 与 PyTorch 四大后端。官方数据显示，仅用 32.5 GB 显存即可在 64 分钟内完成 122B 参数模型的量化，在 Llama-3-8B 上达到同等困惑度时量化耗时减少 11 倍。

逐小时热度走势

2 个完整观测小时
连续完整观测不足 3 个小时，暂不绘制趋势曲线。

报道时间线

共 1 篇 · 最新优先
  1. Hacker News AIT2·78 分

    华为开源 MACaQ 量化器 122B 模型 64 分钟搞定

    原标题：Huawei releases MACaQ, its internal quantizer for local inference

    • 模型无关的校准量化，统一覆盖文本、图像、视频与音频四类模型
    • 122B 参数模型量化仅需 32.5 GB 显存与 64 分钟
    • Llama-3-8B 同等困惑度下量化耗时比 MR-GPTQ、DuQuant++ 少 11 倍
    • 同时提供 llama.cpp、vLLM、Diffusers、PyTorch 四套后端实现