MiniMax H3-Image 在 Vera Rubin 上实现 4K 图像 0.87 秒生成

作者:vLLM-Omni team原标题:H3-Image Day-0 Support: 4K in 0.87s with Vera Rubin
78AI 研判分

vLLM-Omni 将 MiniMax 开源权重模型 H3-Image 适配至 NVIDIA Vera Rubin 平台,四卡配置下原生 4096×4096 生成中位延迟仅 0.87 秒,吞吐配置可达每小时 6115 张。单一 checkpoint 在六步采样内同时支持文生图与图像编辑,无需超分即可输出原生高分辨率,并支持最多 16 张参考图。

报道正文

本文目录14 个章节

H3-Image Day-0 支持:Vera Rubin 上 0.87 秒生成 4K 图像

vLLM-Omni 与 MiniMax H3-Image。

vLLM-Omni 与 MiniMax H3-Image。

我们借助 vLLM-Omni,将 MiniMax H3-Image 带到了 NVIDIA Vera Rubin 平台。在四块 GPU 上,原生 4096×4096 生成在我们的短提示词服务基准测试中达到 0.87 秒中位数。另一套吞吐量配置可实现 6,115 张图像/小时,推算为 146,755 张图像/天。

按 每张图像 0.06879 美元计算,以 MiniMax 官方 Standard 4K API 定价示例(发布折扣前)作为假设售价,峰值吞吐量在完全可计费利用率下推算为 每 GPU 每小时 105.16 美元毛收入,在 75% 利用率下为 每 GPU 每小时 78.87 美元。这些估算未计入运营成本;每日容量是基于实测速率的推算。

H3-Image 是一个用于文本到图像生成和图像编辑的开放权重模型。单个检查点通过六步采样即可处理这两类任务,无需放大器即可生成原生高分辨率图像,并支持最多 16 张参考图像。

我们将 H3-Image 带到了消费级和数据中心 GPU,覆盖 NVIDIA、AMD、Intel 和摩尔线程(MUSA),以及华为昇腾 NPU。

  • 单 GPU 和多 GPU 服务。 可在单块 RTX GPU 上运行,也可将生成任务分布到多块数据中心 GPU 上,并提供适配不同显存容量的配置。
  • 在 10 种 NVIDIA 硬件上完成实测。 比较不同输出分辨率和参考图像数量下文本到图像生成与编辑的延迟。

质量

油画笔触、多视角相机绘图、日文海报字体以及米粒上的微小文字,揭示了较小图像可能丢失的细节。一个游戏环境场景则增加了风化石头和反射光。每项均使用一张由 H3-Image 生成的 4K 图像,在保持宽高比的前提下缩放至 1K 和 2K,因此构图保持不变。

性能

两种 API 模式都很直接:文本到图像接收一个提示词;图像编辑接收一个提示词和一张或多张参考图像。我们的主要比较使用 2K(2048×2048) 和 4K(4096×4096) 输出,每次请求返回一张图像。提示词和参考文件在各机器间保持不变。请求参数请参阅 MiniMax 的 API 指南。

在下方选择 文生图 或 图像编辑。进行编辑时,请选择 1、2、4、8 或 16 张参考图像;输出尺寸反映的是实测用例。

对于 4K 文生图,四块 GB300 GPU 平均耗时 1.48 秒。使用一张参考图的 4K 图像编辑平均耗时 1.77 秒。单块 RTX 5090 配合 CPU 逐层卸载,处理相同请求分别需要 52.29 秒和 61.45 秒。每次计时都包含完整的 PNG 响应。

对于 2K 文生图,单块 H200 在 BF16 和常驻权重下平均耗时 1.49 秒。

对于此处使用的详细咖啡产品提示词,Rubin 在 4K 下平均耗时 1.09 秒。0.87 秒的标题数字来自 Rubin Bringup 中另一项短提示词服务基准测试,而非此请求。两者都使用四块 GPU、SP4 和 MXFP8;但请求语料、HTTP 客户端和汇总统计量不同。

每项结果都显示其 GPU 数量。测试设置列出了确切的 GPU 型号、每块 GPU 的 CUDA 可见显存、互连、功耗限制和服务配置。GPU 数量、精度和内存放置各不相同,因此这些数字比较的是已部署系统,而非孤立地比较 GPU 架构。1K 检查返回 1024×1024 图像;由于本地模型的默认最小画布,它们以 2048×2048 生成后再缩放。因此它们不代表原生 1K 扩散计算。部分 1K 和 2K 运行还使用了不同的分配器设置,详见测试设置。

基准测试数据。柱状图显示预热后三次种子运行的平均值,并附最小–最大范围。配置、计时范围和 10 分钟请求限制记录在测试设置中。

推理优化

H3-Image 将 Qwen3-VL 编码器与 33.1B 稠密 DiT 以及图像 VAE 配对。原生 4096×4096 输出在 VAE 解码之前,跨六个去噪步骤贡献 16,384 个目标图像 token。参考图会增加编码工作和条件 token。这为我们提供了三个实际目标:DiT 计算、解码开销和模型内存。参见模型架构。

更快的 DiT

在 Blackwell 和 Rubin 上,MXFP8 GEMM 可加速符合条件的 DiT 线性层,同时减少其权重占用。Ulysses SP4 将序列工作分布到四个 GPU 上;DiT TP1 则保持权重复制。AdaLN 缓存在其输入和权重匹配时复用精确的条件投影。全部六个去噪步骤仍会运行。编码器和 VAE 保持其配置的精度;Hopper 和 Ampere 使用 BF16。

更快的解码

VAE 解码独立的图像分块。我们将这些分块分布到多个 GPU 上,然后在每个 GPU 上结合 CUDA Graph 重放与多个 CUDA 流:重放减少了重复的启动开销,而流则允许分块重叠执行。

在四个 GB300 GPU 上进行的独立 BF16 对照实验说明了这一点为何重要。VAE 解码从 2.635 秒降至 0.213 秒,使端到端延迟从约 4.0 秒降至 1.6 秒,即提速 2.5 倍。两条路径都已将分块分布到四个 GPU 上;这是图与流结合带来的增益。对照测量数据。

适配更小的 GPU

逐层 CPU 卸载以权重传输时间换取 GPU 内存。RTX 5090 和 RTX 5080 卸载 DiT 和文本编码器,并以 eager 模式解码 VAE。RTX 6000D 和 RTX PRO 6000 保持 DiT 常驻,卸载编码器并使用 VAE CUDA Graph。这实现了单 GPU 部署,同时解释了与常驻式数据中心配置之间部分延迟差距的原因。

Rubin 启动

我们的起点是 vLLM-Omni 的 H3-Image 实现和 vLLM 的 Rubin 支持,使用 CUDA 13.4 运行时。H3-Image 在该基础上增加了密集扩散工作负载:原生 4096×4096 图像在六个去噪步骤中贡献 16,384 个目标图像 token,随后进行 VAE 解码。我们测试了这条路径如何将 Rubin 的能力转化为交互式延迟和服务吞吐量。

我们为这些运行做了两处更改:

  • MXFP8 集成。 我们将 Omni 的扩散线性层接入 vLLM 的在线 MXFP8 加载与内核选择。在 Rubin 上,符合条件的 DiT 线性层使用 FlashInfer CuTe-DSL MXFP8 GEMM;注意力使用 TRTLLM_ATTN。这些都是现有的库内核。文本编码器和 VAE 保持原生精度。
  • 可靠的 4K 输出。 反复的 4K 请求暴露出输出传输路径中的一处停滞。我们将最终的图像布局转换移至 CPU,放在传输解码后的 uint8 张量之后。回归检查确认重复请求均能完成,且解码后的像素保持不变。

随后,我们使用现有的 VAE CUDA Graph 和 AdaLN 缓存路径,对比了 SP4、SP2×DP2 和 SP1×DP4。四块 GPU 在 SP4 下达到 0.87 秒响应,或在四个副本下达到 6,115 张图像/小时。以下扫描固定为原生 4K 文生图、无参考图、六步和 MXFP8 DiT 线性层,并在每个并发点使用单独的 160 请求提示词–种子语料库:20 个短提示词,每个 122–160 个字符,覆盖八个种子。上文跨硬件的咖啡产品请求使用 1,292 个字符的提示词,并报告三种子的均值。

延迟

在并发为 1 的 SP4 下,中位延迟为 0.866 秒(p95 0.944 秒):比 GB200 快 2.21 倍,比 GB300 快 1.64 倍。三种延迟配置均使用四块 GPU、SP4 和 MXFP8。

吞吐量

四个单 GPU 副本(SP1×DP4)在并发为 8 时达到 6,115 张图像/小时,中位延迟为 4.411 秒。SP4 在并发为 2 时达到 4,407 张图像/小时,中位延迟为 1.421 秒。副本带来 38.7% 的吞吐量提升;亚秒级和峰值吞吐量是各自独立的运行点。

在跨平台固定 SP4 的情况下,Rubin 的峰值吞吐量达到 GB200 的 2.20 倍和 GB300 的 1.60 倍。每个绘制点包含 160 个预热请求;副本独立提供图像服务,不会将它们合并为一个 DiT 批次。

经济性

6,115 张图像/小时 折算为每套四 GPU Rubin 系统每天 146,755 张 4K 图像。我们采用 每张图像 0.06879 美元,即 MiniMax 官方 API 定价示例中 无参考图的标准 4K 文生图、发布折扣前的价格。按该假定售价,在 100% 可计费利用率下,预计毛收入为 每 GPU 每小时 105.16 美元,在 75% 利用率下为 每 GPU 每小时 78.87 美元。

收入 = 图像数/小时 × 每张图像价格 × 可计费利用率 ÷ 4 块 GPU。实际托管 API 费用随文本 token 用量而变化。收入数字为运营成本之前的数值;每日容量是对实测速率的推算,而非 24 小时负载测试的结果。

其他硬件

H3-Image 还通过以下实现和配方支持 AMD Instinct、Intel Arc Pro、华为昇腾和摩尔线程 硬件。这些社区验证使用各自的工作负载和配置;上文的匹配性能数据仅涵盖我们的 NVIDIA 运行结果。

AMD Instinct。 AMD 配方 包含在 MI325X 和 MI350X 上的文生图和编辑测量结果,覆盖 1 到 8 块 GPU,使用 BF16 和 FLASH_ATTN。它涵盖 Ulysses 序列并行和张量并行。ROCm 使用单个 VAE 图副本,以避免并发图重放时观察到的挂起问题。

Intel Arc Pro B70。 XPU 配方 记录了实测的单卡、双卡和四卡部署。其推荐的四卡布局使用 DiT TP4 加文本编码器逐层卸载,以适配 32 GB 显卡。较小的布局也会卸载 DiT 权重;VAE 解码在 XPU 上以 eager 模式运行。

华为昇腾。 NPU 配方 涵盖 Atlas 800I A2、Atlas 800T A3 和 Atlas 350 (A5)。实测的 A2 和 A5 配置使用 1、2 或 4 个 NPU,采用 BF16 和 eager 执行。四 NPU 配置在 A2 上使用 DiT TP4,在 A5 上使用 Ulysses SP4 加文本编码器 TP4;较小的配置使用逐层卸载。

摩尔线程 MTT S5000。 H3-Image 通过 MUSA 实现 获得支持,该实现启用了 VAE 图解码,并包含一份模型专用配方,其中记录了在 80 GB S5000 显卡上实测的 TP2 和 TP4 布局。图测试会检查与 eager 解码的逐位一致性。

OpenDirector

OpenDirector 是一个面向创作者的智能体驱动平台,由 vLLM-Omni 提交者发起,旨在让 vLLM-Omni 在创意工作流中更易于使用。

其 Day-0 H3-Image 集成目前使用 MiniMax 的托管图像 API。创作者可以通过画布或 agent 生成和编辑图像,然后将输出用作下一次编辑的参考。我们计划扩展对由 vLLM-Omni 驱动的本地部署 H3-Image 工作流的支持。

致谢

我们感谢 MiniMax 发布 H3-Image 及其模型权重;感谢 NVIDIA 团队和 vLLM 社区在 Vera Rubin 支持方面所做的工作;感谢 vLLM-Omni 和 FlashInfer 贡献者为这项工作提供的 serving 和 kernel 基础设施。

我们同样感谢 OpenDirector 贡献者在创意工作流中 H3-Image 集成方面所做的工作。