Rohan Paul (@rohanpaul_ai) · 2026/10/22 02:21:28
Recursive Flint 发布:40B MoE 编码模型实现本地高速推理
Recursive AI 推出首个由自动化研究系统 Eureka Machine 构建的 40B 混合专家(MoE)编码模型 Flint。该模型在 MacBook Pro 上实现每秒 125+ token 的高速推理,显著提升了本地编码模型的帕累托前沿,兼顾了接近顶级模型的质量与远超同类模型的速度。Flint 采用 Apache 2.0 协议开源,支持本地部署。
报道全文原始报道全文
Rohan Paul (@rohanpaul_ai) · 2026-10-21 18
自动化 AI 研究现在能够产出可供用户下载并在本地机器上完全运行的模型,且采用 Apache 2.0 许可证。
Recursive Flint 是一款拥有 40B 参数的混合专家(MoE)代码模型,由 Eureka Machine 构建而成。这是一个闭环系统,负责提出想法、实施、测试,并根据结果决定下一步尝试什么。
Flint 在 MacBook Pro 上的生成速度超过 125 tokens/秒,约合每秒 90 个单词,阅读速度大约比人类快 20 倍。
它推动了本地代码模型的帕累托前沿(Pareto frontier)。
在配备 48GB 内存的 MacBook 上,本地模型过去往往迫使你在“智能但缓慢”(Qwen3.8 27B 得分最高,但运行速度约为 10 tokens/秒)和“快速但较弱”(小型 Qwen3.5 模型)之间做出选择。
Recursive Flint 在质量上几乎与前者持平(平均约 81% vs 约 85%),但在长达 128K tokens 的会话中运行速度快约 7 倍。图中的阴影区域标示了此前没有任何模型能达到的速度与质量组合。
↳ 引用 @RichardSocher (Richard Socher): 介绍 Flint,@Recursive_SI 的首款模型:一款由我们的自动化研究系统 Eureka Machine 构建的快速本地代码模型。
• 同类最佳快速本地代码能力 • 比同类模型快高达 2 倍:在 MacBook Pro 上达到 125+ tokens/秒,在 RTX Spark 上达到 150+ tokens/秒 • 从零开始构建耗时不到 4 个月
在你自己的设备上实现私密、无计量限制的智能化。开放权重现已在 @huggingface 提供,可在你喜欢的框架中本地运行,或在 @opencode 或 @pidotdev 上免费试用。
