术语slug: block-wise-diffusion

分块扩散

Block-wise Diffusion

将序列切分为块、在块内并行双向生成以降低重复计算的长上下文扩散解码策略

收录情报动态

共 1 篇 · 第 1/1 页
InfoQ 中文T2·基座大模型
78 分
扩散智能开源 350 亿参数扩散语言模型 Clover

扩散智能(DiffuSpace)开源 Clover-35B-A3B-Preview,总参数 350 亿、激活约 30 亿,采用分块扩散架构实现并行 Token 生成,速度达同级自回归模型的 5-10 倍。在统一评测协议下,该模型于七项 Agent 指标上均取得最高分,SWE-bench Verified 达 73.6、Terminal-Bench 2.1 达 51.7,并同步开放技术报告与 SFT 代码。团队判断未来一到两年扩散语言模型有望在部分场景替代同规模自回归模型。