Kimi K3.1 Pro 开源发布 2.8T MoE 架构支持百万上下文
月之暗面正式开源 Kimi K3.1 Pro,这是其迄今最强的 3T 级原生多模态智能体模型。该模型采用混合专家(MoE)架构,总参数达 2.8T,激活参数 104B,并支持 100 万 token 的超长上下文窗口。通过大规模联合强化学习后训练,其在编码、3D 生成及金融研究等复杂任务上表现显著提升。
报道正文
本文目录11 个章节
1. 模型简介
Kimi K3.1 Pro 是一款开源权重、原生多模态的智能体(Agentic)模型,也是迄今为止我们最强大的 3T 级模型。该模型基于 Kimi K3 进行后训练,通过在数百个下游领域开展大规模联合强化学习而成,是 K3.1 系列中的首款模型。凭借 100 万 token 的上下文窗口,Kimi K3.1 Pro 在编程、3D 创作、金融研究、事实准确性及其他智能体能力方面实现了显著提升。
2. 模型概览
| 架构 | 混合专家模型 (MoE) |
|---|---|
| 总参数量 | 2.8T |
| 激活参数量 | 104B |
| 层数 | 93 |
| 稠密层数 | 1 |
| 注意力层构成 | 69 KDA + 24 Gated DSA* |
| 注意力隐藏维度 | 7168 |
| 注意力头数 | 96 |
| DSA 索引头维度 | 128 |
| DSA 索引头数 | 32 |
| DSA 索引 Top-K | 2048 |
| 潜在 MoE 维度 | 3584 |
| MoE 隐藏维度(每个专家) | 3072 |
| 专家数量 | 896 |
| 每 Token 选择的专家数 | 16 |
| 共享专家数量 | 2 |
| 词表大小 | 160K |
| 上下文长度 | 1048576 |
| 注意力机制 | KDA & Gated DSA |
| 激活函数 | SiTU-GLU |
| 视觉编码器 | MoonViT-V2 |
| 视觉编码器参数量 | 401M |
| 量化方式 | MXFP4 权重 / MXFP8 激活值(量化感知训练) |
| 模态 | 文本、图像 |
- 与 Kimi K3 相比,我们将全注意力的 Gated MLA 层替换为 Gated DeepSeek Sparse Attention (Gated DSA) 层,以实现更高效的长上下文建模。
3. 评估结果
除非另有说明,所有 Kimi K3.1 Pro 的结果均使用推理努力程度 max、temperature = 1.0 和 top-p = 0.95。破折号 (—) 表示源表格未报告分数。除基准测试名称明确标注“越低越好”外,分数越高代表性能越好;Elo 分数及其他特定于基准测试的指标不能直接与准确率或通过率分数进行比较。
| 基准测试 | Kimi K3.1 Pro (max) | Claude Fable 5.1 (max, w/ fallback) | GPT-6 Astra (max, w/ fallback) | Claude Opus 5.5 (max, w/ fallback) | DeepSeek-V4.1-Flash-1017 (max) | GLM-5.3 (max) |
|---|---|---|---|---|---|---|
| 编程 | ||||||
| Terminal-Bench 4.0 | 65.7 | 57.9 | 58.2 | 66.4 | 42.3 | 41.8 |
| Terminal-Bench-Science 0.1 | 38.1 | 40.0 | 68.1 | 63.3 | 15.7 | 8.1 |
| SWE Marathon v1.1 | 51.7 | 45.6 | 42.5 | 46.3 | 40.0 | 42.5 |
| BenchCAD(无工具) | 72.8 | 60.6 | — | 73.0 | 41.2 | — |
| BenchCAD(带工具) | 92.7 | 92.6 | 95.9 | 96.2 | 81.6 | — |
| Program Bench | 31.5 | 53.5 | 50.0 | 65.0 | 29.1 | 19.0 |
| DeepSWE v1.1 | 75.5 | 67.4 | 74.1 | 74.2 | 77.0 | 66.9 |
| PostTrain Bench v1.2 | 36.5 | 44.6 | 41.9 | 43.8 | 30.5 | 34.5 |
| Kimi Code Bench 2.0(内部) | 77.1 | — | — | — | 76.1 | 61.7 |
| Kimi Code Bench 3.0 Long-horizon(内部) | 61.2 | 58.8 | 66.5 | 58.5 | 51.5 | 45.5 |
| 智能体 | ||||||
| HLE-Full(带工具) | 70.0 | 65.6 | 57.2 | 67.7 | 58.8 | 62.5 |
| BrowseComp | 92.1 | — | 91.5 | 90.8 | — | — |
| BioMysteryBench | 80.6 | 81.6 | 78.9 | 81.9 | 80.0 | 79.6 |
| CharXiv (RQ)(带 Python) | 93.4 | 92.7 | 92.8 | 93.8 | 85.6 | — |
| MMMU-Pro(带 Python) | 90.0 | 88.4 | 87.8 | 89.8 | 82.5 | — |
| GDP.pdf(带 Python) | 85.7 | 83.8 | 85.5 | 83.9 | 73.0 | — |
| ChartoGraphy(带 Python) | 90.2 | 88.4 | 91.0 | 89.0 | 83.0 | — |
| BabyVision(带 Python) | 95.4 | 95.1 | 96.6 | 97.7 | 92.5 | — |
| ZeroBench_main(带 Python,pass@5) | 63.0 | 59.0 | 58.0 | 61.0 | 51.0 | — |
| Agents' Last Exam (ALL) | 43.2 | — | 41.8 | 42.6 | 37.7 | 26.2 |
| Agents' Last Exam (CLI) | 44.2 | — | 44.2 | 40.7 | 36.0 | 29.4 |
| Automation Bench-AA | 73.3 | 59.4 | 68.5 | 69.5 | 66.6 | 62.2 |
| GDPval-AA v2.1(Elo 分数) | 1846 | 1754 | 1573 | 1866 | 1746 | 1650 |
| AA-Briefcase v1.1(Elo 分数) | 1678 | 1672 | 1569 | 1803 | 1570 | 1507 |
| APEX-Agents | 69.4 | 68.6 | 64.7 | 73.5 | 69.8 | 56.6 |
| OfficeQA Pro v2 | 64.4 | 54.5 | 54.4 | 62.2 | 40.4 | 31.1 |
| OfficeQA Pro | 67.4 | 68.6 | 66.2 | — | 62.4 | 58.6 |
| Frontier Finance | 58.6 | 60.8 | 45.0 | 56.7 | 54.5 | 57.5 |
| Harvey Legal Agent | 23.7 | 19.1 | — | — | 21.0 | — |
| HANDBOOK.md | 44.6 | 38.8 | — | 41.5 | 28.9 | 20.8 |
| OSWorld V2.1 | 79.6 | 80.7 | 75.8 | 81.8 | 69.3 | — |
| Business Operation(内部) | 37.8 | 30.7 | 32.3 | — | 8.9 | 18.6 |
| DECK-Arena(内部,Elo 分数) | 1456 | — | 1423 | 1253 | 1231 | 1119 |
| Design Bench(内部基准,Elo 分数) | 957 | — | 1076 | 927 | 863 | 718 | | Kimi Hallu Bench Hard w/ tools(内部基准,数值越低越好) | 8.3 | 23.3 | 5.5 | 15.0 | 23.3 | 22.6 | | 推理、知识与多模态 | | | | | | | | GDP.pdf | 34.6 | 27.6 | 34.2 | 30.6 | 17.2 | 11.2 | | HLE-Full | 51.1 | 57.6 | 53.6 | 59.8 | 42.6 | 43.0* | | HLE-Diamond | 39.4 | 55.1 | 65.8 | 60.9 | 21.6 | 25.1* | | GPQA-Diamond | 94.2 | 93.7 | 96.1 | 93.9 | 92.2 | 91.7 | | CharXiv (RQ) | 89.0 | 88.8 | 90.0 | 92.1 | 77.0 | — | | MMMU-Pro | 84.1 | 86.3 | 86.9 | 87.7 | 80.6 | — | | ZeroBench_main (avg@5 / pass@5) | 29.8 / 39.0 | 23.0 / 35.0 | 43.2 / 52.0 | 35.0 / 43.0 | 11.8 / 23.0 | — | | PerceptionBench | 68.3 | 63.0 | 77.6 | 72.1 | 47.7 | — | | Kimi Hallu Bench w/o tools(内部基准,数值越低越好) | 5.4 | 11.4 | 4.2 | 6.8 | 13.1 | 14.8 | | 网络安全 | | | | | | | | ExploitBench | 74.7 | 83.0 | 100 | 91.0 | — | 54.4 | | ExploitGym | 20.7 | 30.4 | 42.4 | 34.5 | — | 15.0 | | xdev-bench-hard(内部基准) | 81.0 | — | — | — | 85.7 | 57.1 |
评估脚注
编程基准
-
Terminal-Bench 4.0。 Kimi K3.1 Pro 使用 Claude Code harness 进行评估。DeepSeek-V4.1-Flash-1017 的分数取自其发布博客。其余所有分数均为模型博客文章或 Terminal-Bench 官方排行榜 中报告的最高值。
-
Terminal-Bench-Science 0.1。 Kimi K3.1 Pro 使用 Claude Code 进行评估。对 DeepSeek-V4.1-Flash-1017 的内部评估结果为 9.3;表中报告的 15.7 分来自官方排行榜上较早版本的 DeepSeek-V4.1-Flash。其余所有分数均来自 Terminal-Bench-Science 排行榜。
-
SWE-Marathon v1.1。 Kimi K3.1 Pro 和 DeepSeek-V4.1-Flash-1017 均使用 Claude Code 进行评估。其他分数来自官方排行榜。
-
ProgramBench。 表中报告的是二元分数:如果任务的 ProgramBench 得分至少为 95%,则记为 1,否则记为 0。K3.1 Pro 使用 Claude Code 进行评估。DeepSeek 和 GLM 的分数取自 DeepSeek 发布博客;其余分数来自 Vals AI。
-
DeepSWE v1.1。 K3.1 Pro 使用 Claude Code 进行评估。其他分数分别来自 GPT-6 Astra、Claude Opus 5.5、Claude Fable 5.1、DeepSeek-V4.1-Flash-1017 和 GLM-5.3 的技术报告。
-
PostTrainBench。 K3.1 Pro 和 DeepSeek-V4.1-Flash-1017 在 v1.2 版本上使用 Claude Code 和 H20 GPU(而非 H100 GPU)进行内部评估。为了确保评估稳定性,所有评判模型(judge models)均使用最大努力设置下的 DeepSeek-V4.1-Flash-1017,这在测试中与官方 GPT-5.6-Terra (xhigh) 评判模型最为匹配。其他分数来自官方排行榜。
-
Kimi Code Bench 2.0 和 Kimi Code Bench 3.0 Long-horizon。 这些是内部基准测试。K3.1 Pro 使用 Claude Code 进行评估;所有其他模型均使用其最大努力设置。专有模型的测试可能涉及回退行为(fallback behavior)。
-
BenchCAD. 在最大推理强度下,对从包含 17,900 个案例的 Vision2Code 数据集中随机抽取的 1,000 个案例子集评估开源模型。使用工具的结果基于 Claude Code;不使用工具的结果则采用官方提示词进行单次生成并评分。Claude 的分数来自 Opus 5.5 系统卡(System Card),GPT-6 Astra 使用工具的分数来自其官方报告。GPT-6 Astra 未公布不使用工具的分数。
Agentic 基准测试
-
BioMysteryBench。 使用 官方 v11 版本,并以 Kimi K3 作为评审模型。K3.1 Pro 使用 Kimi Code;GLM-5.3 和 DeepSeek-V4.1-Flash-1017 使用 Claude Code;GPT-6 Astra 使用 Codex。Claude 的得分来自官方系统卡(system cards)。
-
Agents' Last Exam。 使用 官方 v1.1 版本,包含 122 个任务,其中 86 个为 CLI 任务。绕过既定要求的运行得分为零。DeepSeek 和 Kimi 分别使用 Claude Code 和 Kimi Code 进行评估;其他结果来自官方基准测试网站。
-
OfficeQA Pro 和 OfficeQA Pro v2。 GPT-6 Astra 使用 Codex;其他模型使用 Claude Code。每个任务提供的完整 PDF 语料库均为页面图像,不包含机器可读文本。通过在线检索参考答案的外部模型轨迹在这些任务上得分为零。
-
Frontier Finance。 使用官方 Finance Agent v2 测试框架(harness)进行评估。
-
HANDBOOK.md。 使用基于官方 OpenHands 的测试框架进行评估,采用该基准早期开源 v1 版本中的任务。
-
Harvey Legal Agent。 在 Artificial Analysis 的 Stirrup 测试框架下,针对 1,251 个公开任务进行评估。报告的分数为全通过率(all-pass rate),即通过所有评分标准(rubric criterion)的任务百分比。
-
OSWorld V2.1。 Kimi 模型使用官方 OSWorld v2 仓库中的 Kimi Agent 测试框架。GPT-6 Astra 的得分取自 Muse Wonder 的技术报告。
-
DECK-Arena 和 Design Bench。 DECK-Arena 评估基于真实世界查询的演示文稿生成能力;Design Bench 通过直接提示和参考图像少样本提示(few-shot prompting)涵盖平面设计。两者均在集成了搜索和图像生成功能的测试框架中评估 python-pptx、pptxjs 以及 Kimi 的内部 DSL。自动评分器已根据超过 10,000 条人工判断进行校准。
-
BrowseComp。 使用在 200K tokens 时触发的上下文压缩机制,最大步数为 500 步。若达到限制,智能体必须在评判前强制给出答案。所有运行均设置
temperature = 1.0和top-p = 1.0。 -
GDPval-AA v2.1、AA-Briefcase v1.1 和 AutomationBench-AA。 得分引自 Artificial Analysis。APEX-Agents。 得分引自官方排行榜。
-
工具增强型多模态评估。 GDP.pdf w/ python、ZeroBench w/ python 和 ChartoGraphy w/ python 的结果为五次运行的平均值;其他带 Python 的多模态基准测试结果为四次运行的平均值。对于 GDP.pdf w/ python,每个原始 PDF 会被发送到沙箱中进行 IPython 处理。使用 Gemini-3.5-Flash(中等推理强度)和官方评判提示词,根据每项评分标准对响应进行打分。报告的分数为任务宏平均的评分标准通过率。
推理、知识与多模态基准测试
- GDP.pdf:每个 PDF 均提供为最长边缩放至 1,152 像素的页面图像,并按页序与 Docling 提取的文本交错排列。使用 Gemini-3.5-Flash Medium 和官方评判提示词,根据每项评分标准对回答进行打分。表中报告的是完全评分回答中的严格通过率。GLM-5.3 Max 和 DeepSeek-V4.1-Flash-1017 Max 的分数引自 Artificial Analysis。
- HLE-Full 和 HLE-Diamond:完整评估集分别包含 2,500 和 1,000 个问题。对于标记为
*的分数,准确率仅在纯文本子集上报告。 - 运行次数。GDP.pdf、ZeroBench 和 ChartoGraphy 取五次运行的平均值;其他多模态基准测试取四次运行的平均值。
- MMMU-Pro:采用官方协议进行评估,保留原始输入顺序,并将图像置于文本输入之前。
- PerceptionBench:一个专注于原子级视觉感知能力的内部基准测试。
- Kimi 幻觉基准测试:在源自实际工作任务的内部高难度匿名化提示词集合上评估事实准确性。表中报告的是由事实核查智能体评估的声明级幻觉率。
网络安全基准测试
- ExploitBench:K3.1 Pro 在 300 轮预算下使用官方测试框架进行评估。表中报告的是 pass@5 最大能力得分:对于每个环境,五个种子中的最佳结果按达到的能力标志数(共 16 项)进行评分;任意代码执行视为达成全部 16 项能力。对比分数来自 OpenAI、Anthropic 和 GLM-5.3。
- ExploitGym:K3.1 Pro 在每任务六小时墙钟时间预算下使用 Kimi Code 进行评估。GPT-6 Astra、Claude 和 GLM 的对比分数取自其各自的官方报告,其中 Claude 的结果也使用了相同的六小时预算。
- xdev-bench-hard:K3.1 Pro 使用 Kimi Code 进行评估;GLM-5.3 和 DeepSeek-V4.1-Flash-1017 使用 Claude Code。该内部基准测试包含专家策划的、基于源代码的漏洞发现和利用任务。最终模型在随机子集的运行中以 pass@3 进行评估,不设硬性超时或输出令牌限制。
4. 部署与可用性
你可以通过选择
kimi-k3.1-pro,在 https://platform.kimi.ai 访问 Kimi K3.1 Pro 的 API。我们为你提供兼容 OpenAI/Anthropic 的 API。目前,推荐在以下推理引擎上运行 Kimi K3.1 Pro:
5. 模型使用
Kimi K3.1 Pro 的思考强度(thinking effort)通过顶层请求字段 reasoning_effort 进行配置,支持 "low"、"high" 和 "max"(默认为 "max")。
对于多轮对话和工具调用,Kimi K3.1 Pro 要求将 API 返回的完整助手消息原样传回 messages 中——包括 reasoning_content 和 tool_calls,而不仅仅是 content:
import openai
def chat_with_preserved_thinking(client: openai.OpenAI, model_name: str):
messages = [
{
"role": "user",
"content": "Tell me three random numbers."
},
{
"role": "assistant",
"reasoning_content": "I'll start by listing five numbers: 473, 921, 235, 215, 222, and I'll tell you the first three.",
"content": "473, 921, 235"
},
{
"role": "user",
"content": "What are the other two numbers you have in mind?"
}
]
response = client.chat.completions.create(
model=model_name,
messages=messages,
stream=False,
max_tokens=4096,
reasoning_effort="max",
)
# the assistant should mention 215 and 222 that appear in the prior reasoning content
print(f"response: {response.choices[0].message.reasoning}")
return response.choices[0].message.content有关完整指南和示例(视觉输入、结构化输出、部分模式、工具选择、动态工具加载、上下文缓存),请参阅 Kimi K3.1 Pro 快速入门 和 思考强度。
6. 许可证
Kimi K3.1 Pro 依据 Kimi K3.1 Pro License 发布。
7. 联系我们
如有任何疑问,请通过 [email protected] 与我们联系。