Today for AI
ALL INTELLIGENCE
Video Rebirth Compresses 31B Video-Audio Diffusion Model to 14B with INT8Hacker News AIT2·Open Source

Video Rebirth Compresses 31B Video-Audio Diffusion Model to 14B with INT8

Original title: Show HN: We compressed a 31B video+audio diffusion model to 14B, 6 steps, INT8
78AI Score

Video Rebirth released HyperFlow H3 Flash, a compressed few-step variant of MiniMax-H3 that shrinks a 31B joint video-audio diffusion model to 13.7B while supporting 4/6/8-step sampling without CFG. Weights, ComfyUI nodes and GGUF deployment are open-sourced; a 5.2s clip renders in ~92s on one RTX 5090 and 8.7s on 4×B200, with real-time inference on 4 Blackwell GPUs via SOL-H3.

Full Report

Contents3 sections

HyperFlow H3 Flash

HyperFlow H3 Flash 是 Video Rebirth 推出的 MiniMax-H3 压缩少步版本。它可同时生成视频与同步立体声音频。

展示页 · 权重（Hugging Face） · ComfyUI 节点 · GGUF 配置指南 · 面向完整尺寸 MiniMax-H3 的 8 步 LoRA

  • 输出： 5.2–15 秒、24 fps 的视频（默认 1344×768），并附带 32 kHz 立体声音轨。
  • 采样： 4、6（默认）或 8 步，无需无分类器引导（CFG）。
  • 速度（5.2 秒片段，6 步）： 4× B200 上为 8.7 秒，1× H200 上为 36 秒，1× RTX 5090 上为 92 秒。
  • 4× Blackwell GPU 上的实时运行： NVIDIA SOL-H3 可在 4× B 系列 GPU 上实时运行 HyperFlow H3 Flash。SOL-H3 是我们的推理加速合作伙伴，并从第 0 天起支持该模型。
  • 模型规模： 13.7B（fl2va）或 13.9B（ref2va）参数，不到约 31B 的 MiniMax-H3 transformer 的一半。
  • 最低占用： Q4_K_M 为 9.1 GB（Q8_0 为 14.9 GB）。它可在配备 16 GB 系统内存 的 PC 中的 24 GB 和 32 GB GPU 上运行。16 GB GPU 尚未测量。

支持的任务

任务输入ComfyUI 模板GGUFPython INT8
t2va文本提示词hyperflow_t2v是是
fl2va提示词 + 首个关键帧，或首尾关键帧hyperflow_i2v、hyperflow_flf2v是是
ref2va提示词 + 最多 12 个参考素材hyperflow_ref2v仅图像图像、视频和音频

选择运行时

决策规则： 在系统内存不超过 64 GB 的 PC 上使用 GGUF。在数据中心 GPU 上，或在系统内存至少 69 GiB 的 24 GB+ RTX GPU 上，使用 INT8 convrot。

所有模型权重均位于 VideoRebirthAI/hyperflow-h3-flash。

| | GGUF | INT8 convrot | |---|---|---| | 运行时 | ComfyUI、Unsloth Studio、stable-diffusion.cpp（安装指南） | 本 Python 包（hyperflow-h3-flash CLI 和 diffusers） | | 精度与大小 | Q3_K_M 至 Q8_0（7.2–15.2 GB） | W8A8 INT8 + 低秩（约 16 GB） | | Hub 文件夹 | fl2va_gguf/、ref2va_gguf/ | fl2va_int8_convrot/、ref2va_int8_convrot/ | | ref2va 输入 | 图像 | 图像、视频和音频 | | 目标 GPU | 消费级 RTX GPU（在 24 GB 和 32 GB 上实测） | H100 / H200 / B200 / B300（1–8 块 GPU），或 24 GB+ RTX GPU | | 系统内存 | 16 GB+ | 不启用 offload 时约 16 GiB；启用 offload 时 ≥ 69 GiB（fp8 文本编码器）或 ≥ 91 GiB（bf16） |

<a id="comfyui-unsloth-studio--stable-diffusioncpp-gguf"></a>

GGUF 运行时（ComfyUI、Unsloth Studio、stable-diffusion.cpp）

量化版本fl2va_gguf/ref2va_gguf/适用场景
Q4_K_M9.1 GB9.2 GB24 GB GPU 的推荐默认选择
Q8_014.9 GB15.2 GB在显存和系统内存都足够时，最接近完整精度
Q3_K_M7.2 GB7.4 GB占用空间最小（也提供 Q4_K_S、Q5_K_M 和 Q6_K）

完整安装指南：integrations/README.md。 快速开始：

  • ComfyUI（Video-Rebirth/ComfyUI-HyperFlow-Flash）：
    1. 将 ComfyUI-GGUF 和 ComfyUI-HyperFlow-Flash 克隆到 ComfyUI/custom_nodes/ 目录下。
    2. 下载 15.7 GB 的 qwen3vl_32b_minimax_h3_nvfp4_awq 文本编码器。
    3. 在 16 GB 或 32 GB 内存的电脑上，使用 python main.py --fast-disk 启动 ComfyUI。
    4. 打开 Workflow > Browse Templates > ComfyUI-HyperFlow-Flash，然后选择 hyperflow_t2v、hyperflow_i2v、hyperflow_flf2v 或 hyperflow_ref2v。
  • Unsloth Studio（安装指南）：
    1. 将 SD_CLI_PATH 指向已打补丁的 sd-cli 二进制文件，然后运行 unsloth studio。
    2. 加载 VideoRebirthAI/hyperflow-h3-flash（fl2va_gguf/ 或 ref2va_gguf/）。
    3. Studio 会自动下载配套的文本编码器和 VAE。它会在 CFG = 1 下运行内置的 6 步调度。
  • stable-diffusion.cpp（integrations/stable-diffusion.cpp/）： 将 hyperflow-two-time.patch 应用到上游提交 3be2378。该补丁添加了 two-time (t, r) 嵌入器、低秩线性层、来自 GGUF 元数据的默认 6 步调度，以及针对长视频片段的 32 位 matmul token 拆分。

<a id="python-package-int8-convrot"></a>

（注：更多技术实现细节与完整 API 文档请查阅原项目 README）