IT之家 · 智能时代T2·算力与基建
58 分
寒武纪宣布在商汤发布 SenseNova Loop-9B 当日完成 Day 0 适配,基于 vllm_mlu 打通该模型在 MLU 平台上的推理链路。适配围绕 Loop 循环层静态展开、复用 Qwen3-Next 系列 MLU 算子以及 mHC 路由的 Triton 融合优化三个方向展开,使这一循环计算架构模型可在国产算力上低显存部署。
SenseTime
中国人工智能企业,业务覆盖大模型、计算机视觉与智算基础设施,研发 SenseNova 日日新模型体系
寒武纪宣布在商汤发布 SenseNova Loop-9B 当日完成 Day 0 适配,基于 vllm_mlu 打通该模型在 MLU 平台上的推理链路。适配围绕 Loop 循环层静态展开、复用 Qwen3-Next 系列 MLU 算子以及 mHC 路由的 Triton 融合优化三个方向展开,使这一循环计算架构模型可在国产算力上低显存部署。
商汤发布并开源 SenseNova Loop-9B,通过循环复用中间层参数,将 32 个物理解码层扩展为 56 次层计算,在约 9B 参数规模下逼近 27B 级模型性能。官方 AWQ 4bit 量化权重仅约 4.9GB,部署显存需求低至 10 GB 内,支持 512K 上下文与多模态输入,显著降低私有化部署门槛。