术语slug: autoregressive-model

自回归模型

Autoregressive Model

按从左到右顺序逐 Token 预测的主流大语言模型建模范式

收录情报动态

共 7 篇 · 第 1/1 页
InfoQ 中文T2·基座大模型
78 分
扩散智能开源 350 亿参数扩散语言模型 Clover

扩散智能(DiffuSpace)开源 Clover-35B-A3B-Preview,总参数 350 亿、激活约 30 亿,采用分块扩散架构实现并行 Token 生成,速度达同级自回归模型的 5-10 倍。在统一评测协议下,该模型于七项 Agent 指标上均取得最高分,SWE-bench Verified 达 73.6、Terminal-Bench 2.1 达 51.7,并同步开放技术报告与 SFT 代码。团队判断未来一到两年扩散语言模型有望在部分场景替代同规模自回归模型。

InfoQ 中文T2·商业与生态
68 分
DiffuSpace 获数亿元融资创 dLLM 纪录:Dream 7B 规划能力比肩 DeepSeek V3

扩散智能 DiffuSpace 连续完成两轮融资,总金额达数亿人民币,创下全球扩散语言模型(dLLM)领域最大规模融资纪录。其核心产品 Dream 7B 在实测中全面超越同参数自回归模型,并在规划能力上对标 671B 参数的 DeepSeek V3。随着 Google、蚂蚁等巨头加速布局,dLLM 正从前沿研究快速走向工程化验证阶段。

vLLM 官方博客T1·开发与工程
68 分
vLLM-Omni 详解 TTS 推理工程:解耦 Talker 与 Code2Wav 以平衡延迟与吞吐

vLLM-Omni 团队分享了适配 Qwen3-TTS、VoxCPM2 等多模态语音模型的工程实践,重点解决 TTS 推理中“Talker 低延迟”与“Code2Wav 高吞吐”的计算瓶颈冲突。通过分离调度策略与优化流式输出管道,该方案显著提升了多阶段自回归模型的服务效率,为开源社区提供了可复用的 TTS 部署架构参考。

智谱 AI 研究T1·基座大模型
78 分
智谱联合华为开源 GLM-Image:国产芯片训练多模态 SOTA

智谱与华为联合开源新一代图像生成模型 GLM-Image,该模型基于昇腾 Atlas 800T A2 和 MindSpore 框架完成全流程训练,验证了国产算力底座支持前沿大模型的能力。GLM-Image 采用“自回归+扩散解码器”混合架构,在复杂文本渲染(如汉字、海报)上取得开源 SOTA,并实现极低推理成本(0.1元/张)。

Ahead of AI (Sebastian Raschka)T2·基座大模型
42 分
Sebastian Raschka 综述 LLM 替代架构

AI 专家 Sebastian Raschka 发布文章,系统梳理了超越标准自回归 Transformer 的 LLM 替代方案。内容涵盖文本扩散模型、线性注意力混合架构及代码世界模型等前沿方向,旨在回应社区对非主流架构的关注。

OpenAI 官方博客T1·智能体与协同
68 分
OpenAI 提出域随机化生成模型提升机器人抓取泛化能力

OpenAI 研究团队提出一种结合域随机化与自回归模型的机器人抓取数据生成管线。通过合成数百万个程序生成的非真实物体进行训练,该模型在模拟环境中对未见过的真实物体实现了超过 90% 的抓取成功率。这一方法有效解决了深度学习模型因训练数据多样性不足导致的泛化难题。