IT之家 · 智能时代T2·算力与基建
58 分
寒武纪宣布在商汤发布 SenseNova Loop-9B 当日完成 Day 0 适配,基于 vllm_mlu 打通该模型在 MLU 平台上的推理链路。适配围绕 Loop 循环层静态展开、复用 Qwen3-Next 系列 MLU 算子以及 mHC 路由的 Triton 融合优化三个方向展开,使这一循环计算架构模型可在国产算力上低显存部署。
Recurrent Compute
通过多次迭代复用同一网络来增加推理深度,而非生成中间文本 token
寒武纪宣布在商汤发布 SenseNova Loop-9B 当日完成 Day 0 适配,基于 vllm_mlu 打通该模型在 MLU 平台上的推理链路。适配围绕 Loop 循环层静态展开、复用 Qwen3-Next 系列 MLU 算子以及 mHC 路由的 Triton 融合优化三个方向展开,使这一循环计算架构模型可在国产算力上低显存部署。
Lehigh、UBC 与 Vector Institute 团队提出决策模型 Lev,用循环迭代而非生成推理 token 来加深思考,让简单请求保持几十毫秒级响应、复杂请求获得更多计算。在决策类任务上准确率最高提升 13%,并已开源代码、模型与数据集。