Today for AI
返回热点榜
tools热度 29.2°

AI 聚合热点事件 · 2026/10/21

Recursive 发布 Flint 模型 vLLM 实现 Day-0 支持

2 篇收录报道2 家独立信源交叉印证持续跟踪至 2026/10/22 02:21:28
全景综述与最新动态
2 家信源交叉印证

Recursive AI 正式推出由自动化研究系统 Eureka Machine 构建的 40B 混合专家（MoE）编码模型 Flint，vLLM 随即宣布提供 Day-0 支持。该模型在保持 Apache 2.0 开源协议的同时，显著刷新了本地与云端推理的性能基准，实现了从研发到部署的高效闭环。

技术层面，Flint 每 token 仅激活约 2.5B 参数，支持 262K 长上下文窗口。在消费级硬件上，其于 48GB MacBook Pro 中实现每秒 125+ token 的高速推理，较同等质量的 Qwen3.8 快 7-10 倍；而在数据中心端，借助 vLLM 针对 Blackwell 架构优化的内核，单张 GB200 GPU 可在 NVFP4/BF16 量化下达到每秒 500 token 的解码速度。

这一进展标志着“自动化科研”产出的模型已具备工业级可用性。Flint 兼顾了接近顶级模型的代码质量（平均基准得分约 81%）与极致的推理效率，配合 vLLM 的开箱即用 Docker 镜像，大幅降低了开发者部署高性能私有化编码助手的技术门槛与算力成本。

最新动向/vLLM 已上线针对 Flint 的专用 Docker 镜像，重点优化 Blackwell 架构内核，支持 NVFP4 与 BF16 双精度检查点。开发者现可通过标准接口快速部署该模型，在单卡 GB200 环境下即可体验 262K 长上下文与 500 tokens/s 的高吞吐推理能力。

热度曲线逐小时热度走势

3 个完整观测小时
当前
29.2
峰值
29.203:00
近 24h 变化
–

曲线只比较全程持续完整观测的同一批信源；缺口小时数据已插值平滑，保持趋势连续。

TIMELINE报道时间线

共 2 篇 · 最新优先
  1. Rohan Paul (@rohanpaul_ai)T2·88 分

    Recursive Flint 发布：40B MoE 编码模型实现本地高速推理

    原标题：Automated AI research is now producing models people can download and run runs entirely on a local m...

    • Flint 是由 Eureka Machine 自动化研究循环构建的 40B MoE 模型，从立项到完成仅耗时不到 4 个月。
    • 在 48GB MacBook 上运行速度达 125+ tokens/s，比同等质量的 Qwen3.8 快约 7-10 倍，同时保持约 81% 的平均基准得分。
    • 模型权重已在 Hugging Face 开源，采用 Apache 2.0 许可证，支持完全本地化、无计量的隐私推理。
  2. vLLM 官方博客T1·78 分

    vLLM 发布 Flint 模型 Day-0 支持

    原标题：Day-0 Support for Flint on vLLM

    • Flint 是 40B 参数 MoE 模型，每 token 仅激活约 2.5B 参数，支持 262K 上下文窗口。
    • 在单张 GB200 GPU 上，NVFP4/BF16 检查点均可运行，100K 上下文下解码速度达 500 tokens/s。
    • 通过 vllm/vllm-openai:flint Docker 镜像即可实现开箱即用部署，针对 Blackwell 架构优化内核。
Recursive 发布 Flint 模型 vLLM 实现 Day-0 支持 | Today for AI