工具slug: vllm-mlu

vllm_mlu

寒武纪基于 vLLM 的 MLU 平台推理适配与算子实现框架

收录情报动态

共 1 篇 · 第 1/1 页
IT之家 · 智能时代T2·算力与基建
58 分
寒武纪 Day 0 适配商汤 SenseNova Loop-9B

寒武纪宣布在商汤发布 SenseNova Loop-9B 当日完成 Day 0 适配,基于 vllm_mlu 打通该模型在 MLU 平台上的推理链路。适配围绕 Loop 循环层静态展开、复用 Qwen3-Next 系列 MLU 算子以及 mHC 路由的 Triton 融合优化三个方向展开,使这一循环计算架构模型可在国产算力上低显存部署。