The Decoder · 2026/10/21 02:56:15

DeepSeek 开源 DeepInfer 推理引擎 助力 V4.1-Flash 低成本部署

出处作者 / 发布主体:Matthias Bastian原标题:Deepseek open-sources the inference engine that powers its fastest and cheapest AI model
85AI 研判分
核心综述

DeepSeek 在 Apache 2.0 协议下开源了其内部推理框架 DeepInfer,该框架基于 vLLM 优化,旨在显著降低其 V4.1-Flash 模型的算力成本与能耗。同时发布的 deepseek-recipe 项目复现了官方 API 的 Token 处理逻辑,确保自托管环境行为一致。此举不仅填补了极致低成本运行的最后缺口,也被视为在中美 AI 竞争背景下的一种战略举措。

报道全文原始报道全文

DeepSeek 已将其内部推理框架 DeepInfer 以 Apache License 2.0 协议开源。 推理是指训练好的 AI 模型处理请求并生成响应的过程。DeepInfer 是一款服务软件,旨在让 DeepSeek 的 V4.1-Flash 模型能够大规模地快速生成答案。

该框架基于 vLLM 构建,集成了优化的计算内核、跨多芯片的分布式处理能力以及更快的文本生成技术。未来 DeepSeek 模型的代码也将作为开源项目发布。此外,DeepSeek 还发布了 deepseek-recipe,该项目复现了官方 DeepSeek API 的 token 处理逻辑,确保自托管部署的行为与官方保持一致。

DeepSeek 的模型本身已经极具性价比。DeepInfer 填补了最后一块拼图,使得运行这些模型的成本进一步降低。该公司在 X 上表示,其目标是“帮助社区降低算力成本、减少能源消耗,并使 AI 更加普惠”。但此次发布也给 OpenAI 和 Anthropic 等西方提供商带来了定价压力。考虑到中美之间的 AI 竞赛,这一举措可能也带有政治动机。如果西方 AI 公司未能达成增长目标,将对美国经济乃至更广泛领域构成风险。