工具slug: vllm-omni

vLLM-Omni

vLLM 面向多模态生成模型的推理服务栈,支持图像与视频模型的高吞吐部署

收录情报动态

共 1 篇 · 第 1/1 页
vLLM 官方博客T1·算力与基建
78 分
MiniMax H3-Image 在 Vera Rubin 上实现 4K 图像 0.87 秒生成

vLLM-Omni 将 MiniMax 开源权重模型 H3-Image 适配至 NVIDIA Vera Rubin 平台,四卡配置下原生 4096×4096 生成中位延迟仅 0.87 秒,吞吐配置可达每小时 6115 张。单一 checkpoint 在六步采样内同时支持文生图与图像编辑,无需超分即可输出原生高分辨率,并支持最多 16 张参考图。