扩散智能(DiffuSpace)开源 Clover-35B-A3B-Preview,总参数 350 亿、激活约 30 亿,采用分块扩散架构实现并行 Token 生成,速度达同级自回归模型的 5-10 倍。在统一评测协议下,该模型于七项 Agent 指标上均取得最高分,SWE-bench Verified 达 73.6、Terminal-Bench 2.1 达 51.7,并同步开放技术报告与 SFT 代码。团队判断未来一到两年扩散语言模型有望在部分场景替代同规模自回归模型。
自回归模型
Autoregressive Model
按从左到右顺序逐 Token 预测的主流大语言模型建模范式
收录情报动态
扩散智能 DiffuSpace 连续完成两轮融资,总金额达数亿人民币,创下全球扩散语言模型(dLLM)领域最大规模融资纪录。其核心产品 Dream 7B 在实测中全面超越同参数自回归模型,并在规划能力上对标 671B 参数的 DeepSeek V3。随着 Google、蚂蚁等巨头加速布局,dLLM 正从前沿研究快速走向工程化验证阶段。
针对复杂 AI 搜索中查询分解导致的推理成本过高问题,提出“Retrieve-for-Train”方法。该方案通过检索增强训练替代零样本 LLM 的动态规划,显著降低对昂贵思维预算的依赖,实现高效、数据友好的集合检索。
vLLM-Omni 团队分享了适配 Qwen3-TTS、VoxCPM2 等多模态语音模型的工程实践,重点解决 TTS 推理中“Talker 低延迟”与“Code2Wav 高吞吐”的计算瓶颈冲突。通过分离调度策略与优化流式输出管道,该方案显著提升了多阶段自回归模型的服务效率,为开源社区提供了可复用的 TTS 部署架构参考。
智谱与华为联合开源新一代图像生成模型 GLM-Image,该模型基于昇腾 Atlas 800T A2 和 MindSpore 框架完成全流程训练,验证了国产算力底座支持前沿大模型的能力。GLM-Image 采用“自回归+扩散解码器”混合架构,在复杂文本渲染(如汉字、海报)上取得开源 SOTA,并实现极低推理成本(0.1元/张)。
AI 专家 Sebastian Raschka 发布文章,系统梳理了超越标准自回归 Transformer 的 LLM 替代方案。内容涵盖文本扩散模型、线性注意力混合架构及代码世界模型等前沿方向,旨在回应社区对非主流架构的关注。
OpenAI 研究团队提出一种结合域随机化与自回归模型的机器人抓取数据生成管线。通过合成数百万个程序生成的非真实物体进行训练,该模型在模拟环境中对未见过的真实物体实现了超过 90% 的抓取成功率。这一方法有效解决了深度学习模型因训练数据多样性不足导致的泛化难题。