IT之家 · 智能时代 · 2026/10/6 07:45:52
Strata 引擎开源：12GB 显存跑 Qwen3.8-125B
出处作者 / 发布主体：IT之家
68AI 研判分
核心综述
开发者 Niko1221 开源 Strata 推理引擎，支持在 12GB 及以上显存的消费级显卡（如 RTX 5070）上运行量化的 Qwen3.8-Flash-Next 模型。该方案实现了 1250 亿参数大模型在低显存设备上的高效部署，实测生成速度达 94 词元/秒。
报道全文原始报道全文
科技媒体 gigazine 今天（10 月 6 日）报道，报道称开发者 Niko1221 开源推出 Strata 引擎，可以在 12GB 及以上显存的消费级显卡上，运行量化的 Qwen3.8-Flash-Next 模型（1250 亿参数）。