IT之家 · 智能时代 · 2026/10/20 17:05:10
DeepSeek 开源推理框架 DeepInfer 支持昇腾与英伟达
出处作者 / 发布主体：IT之家
85AI 研判分
核心综述
DeepSeek 宣布将其内部推理框架 DeepInfer 全面开源，旨在通过优化大规模模型服务的吞吐与延迟来降低算力成本。该框架集成了高性能算子、推测解码及 SWA Bounded Replay 等关键技术，并原生兼容英伟达与华为昇腾平台。同时发布的 deepseek-recipe 组件确保了社区 API 体验与官方部署的一致性。
报道全文原始报道全文
DeepSeek 官方表示，大模型的能力边界由模型本身划定，但如何以合理成本提供超大规模的模型服务，还取决于一个长期未被公众了解的中间层：推理框架。
训练使模型学有所成，推理则让模型为人所用。面对如今海量的用户调用，推理框架负责统筹调度庞大的算力集群，其效率直接决定了 AI 服务的算力成本与电力消耗。
DeepSeek 希望通过分享内部的部署经验，帮助开发者与企业组织优化大规模推理的吞吐与延迟，从而高效构建私有化及公有云部署，降低算力成本、减少能源消耗，让智能以更低的价格触达更广泛的人群，实现真正的大模型普惠。
基于 DeepInfer，DeepSeek 官方已实现 DeepSeek V4.1 Flash 高吞吐、低延迟的大规模推理服务。未来，DeepSeek 新模型的推理代码及后续优化也将在此持续更新。
- DeepInfer 推理框架：集成高性能算子与深度优化的推理引擎，支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力，兼容英伟达与华为昇腾平台。
- deepseek-recipe 编解码组件：同步开源的生产级 Token 编解码组件，与 DeepSeek 官方 API 处理逻辑完整对齐，确保社区获得与官方部署一致的 API 体验。
IT之家附开源地址如下：