Mirendil 发布 Fern 0.1 支持千万级代码上下文

作者:▲ Marktechpost AI (@Marktechpost)原标题:▲ Mirendil just released Fern 0.1, its first model, and it can hold 10M tokens of code in one contex...
78AI 研判分

Mirendil 推出首个模型 Fern 0.1,专为处理 1000 万 token(约 50 万行代码)的超长上下文设计。该模型在单针检索任务中表现完美,但在多跳推理和终端基准测试上显著落后于 Claude Opus 5.5,目前仅开放早期访问权限。

报道正文

▲ Marktechpost AI · 2026-10-27 13

▲ Mirendil 刚刚发布了其首个模型 Fern 0.1,该模型能够在单个上下文窗口中容纳 1000 万(10M)个代码 token。

其核心理念在于:上下文是消耗算力的第二种方式。Fern 从零开始进行预训练,其架构、训练和服务体系均专为支持 1000 万 token 而构建。这大约相当于 23 MB 的代码,即约 50 万行代码。

在 Mirendil 自家的代码仓库上,随着上下文窗口的扩大,损失值持续下降:从 32K 字节时的每字节 0.246 比特降至 23M 字节时的 0.155 比特。RULER 单针检索(single-needle retrieval)准确率在 32K 到 10M token 范围内始终保持 100%。不过这也存在权衡取舍:在多跳推理任务 HotpotQA 上,当上下文达到 10M token 时,准确率降至 45%;此外,Fern 0.1 在 Terminal Bench 4.0 上的得分为 6.1%,而 Claude Opus 5.5 的得分则为 66.4%。

Fern 基于 Mirendil-Base 构建,这是一个参数量在 0.1T 到 0.5T 之间的基础模型,由一名研究人员借助智能体(agents)在 3.5 个月内以低于 1000 万美元的成本打造而成。目前仅开放早期访问权限……

完整分析:

推文配图