Open R1 更新:引入 DeepSeek-V3-0324 并澄清安全疑虑
Hugging Face Open R1 项目发布第四版更新,正式集成 DeepSeek-V3-0324 作为基础模型。该版本在保持开源推理训练流程的同时,针对社区关切发布了详细的安全评估报告,确认模型下载与运行本身安全,但强调在智能体应用中需保留人工审核环节以防范生成内容风险。
报道正文
本文目录11 个章节
Open R1:更新 #4
团队文章 发布于 2025 年 3 月 26 日 点赞 50
Leandro von Werra lvwerra open-r1 Vaibhav Srivastav reach-vb open-r1 Daniel Vila dvilasuero open-r1 Yacine Jernite yjernite open-r1
欢迎 DeepSeek-V3 0324
本周,DeepSeek 的一个新模型悄然上线 Hub。这是 DeepSeek-V3 的更新版本,而 DeepSeek-V3 正是 R1 推理模型的基础模型。目前关于这个新模型公开的信息还不多,但我们确实了解了一些情况!
目前已知的信息
该模型与原版 DeepSeek-V3 具有相同的架构,并且现在采用 MIT 许可证,而之前的 V3 模型使用的是自定义模型许可证。此次模型发布的重点在于提升指令遵循能力以及代码和数学能力。让我们来看看!
性能如何?
DeepSeek 团队在一系列数学和编码任务上对该模型进行了评估,我们可以看到与其他前沿模型相比,该模型展现了强大的能力:
显然,该模型处于第一梯队:通常与 GPT-4.5 持平,且普遍强于 Claude-Sonnet-3.7。
总结来说,该模型在各项 benchmark 上均有显著提升
- MMLU-Pro: 75.9 → 81.2 (+5.3)(衡量整体理解能力的优秀 benchmark)
- GPQA: 59.1 → 68.4 (+9.3)
- AIME: 39.6 → 59.4 (+19.8)(作为 MATH 能力的代理指标)
- LiveCodeBench: 39.2 → 49.2 (+10.0)(编码能力的指标)
具体而言,在模型卡片中,DeepSeek 提到了以下领域的针对性改进:
-
前端 Web 开发
-
代码可执行性提升
-
网页和游戏前端更具美感
-
中文写作能力
-
风格与内容质量增强
-
对齐 R1 写作风格
- 中长篇文本写作质量更佳
-
功能增强
-
多轮交互式改写能力提升
- 翻译质量与书信撰写优化
-
中文搜索能力
-
报告分析请求的响应更加详尽
-
Function Calling(函数调用)改进
-
Function Calling 准确率提升,修复了此前 V3 版本中的问题
那么问题来了:他们究竟是如何做到的?让我们大胆推测一下!
他们是如何实现的?
从命名和架构来看,可以合理假设新模型是基于之前的 V3 模型并在其基础上继续训练而成。他们在以下两个方面可能进行了改进:
- 持续预训练(Continual Pretraining): 以 V3 模型为起点,继续预训练过程,a) 使用更新、更及时的数据;b) 使用经过更好筛选、质量更高的数据。这将提升模型对近期事件的事实准确性,并整体增强模型能力。
- 改进后训练(Improved Post-training): 尤其在指令遵循和风格塑造方面,后训练起着最关键的作用。他们很可能优化了后训练数据的配比,甚至改进了算法。
在团队发布技术报告之前,我们无法确切知道他们具体调整了什么,但后训练流程的优化可能性很大,同时也可能辅以少量的预训练。接下来让我们看看如何使用这些模型吧!
如何使用该模型
推理服务提供商(Inference Providers)
你可以使用 Hugging Face 的 Inference Providers 快速体验此模型。目前可通过 Fireworks、Hyperbolic 和 Novita 获取服务。
以下是使用 huggingface_hub 库的示例。你也可以像这个示例中那样使用 OpenAI 客户端库。
from huggingface_hub import InferenceClient
client = InferenceClient(
provider="fireworks-ai",
)
messages = [
{
"role": "user",
"content": "My first is second in line; I send shivers up your spine; not quite shining bright. I glitter in the light."
}
]
completion = client.chat.completions.create(
model="deepseek-ai/DeepSeek-V3-0324",
messages=messages,
temperature=0.3,
)
print(completion.choices[0].message['content'])Text Generation Inference (TGI)
TGI 的最新版本也支持运行 DeepSeek V3-0324。你可以直接在配备 H100 GPU 的节点上使用带标签的 Docker 镜像来部署它:
docker run --gpus all --shm-size 1g -p 8080:80 -v $ volume:/data \
ghcr.io/huggingface/text-generation-inference:3.2.1 --model-id deepseek-ai/DeepSeek-V3-0324SGLang
SGLang 开箱即用地支持运行 DeepSeek V3-0324,并包含 Multi Latent Attention(多潜注意力)和数据并行优化。你只需在配备 H100 GPU 的节点上运行以下命令即可使用。更多信息请参见 此处。
docker pull lmsysorg/sglang:latest
docker run --gpus all --shm-size 32g -p 30000:30000 -v ~/.cache/huggingface:/root/.cache/huggingface --ipc=host --network=host --privileged lmsysorg/sglang:latest \
python3 -m sglang.launch_server --model deepseek-ai/DeepSeek-V3-0324 --tp 8 --trust-remote-code --port 30000来自 Unsloth 和 Llama.cpp 的动态量化
运行像 DeepSeek V3-0324 这样的大型 LLM 计算量巨大,需要大量的 GPU VRAM。这时量化技术就派上用场了,它允许最终用户以显著更低的 VRAM 消耗运行同一模型,仅在下游性能上做出微小权衡。
Unsloth AI 创建了动态量化方案,使得运行 DeepSeek V3 所需的算力仅为单个 H100 节点的一半,并且可以在 llama.cpp 中运行而不会在 benchmark 上造成过多性能下降。更多详情请点击这里:https://huggingface.co/unsloth/DeepSeek-V3-0324-GGUF
它安全吗?
自首批 GPT 模型发布以来,语言模型的安全运行一直是关注的焦点。随着 DeepSeek 模型的极大流行及其起源背景,这一问题重新引发了广泛兴趣。让我们梳理一下哪些操作是安全的,以及在哪些方面保持谨慎是个好主意。这不仅适用于 DeepSeek,也适用于任何开源模型!
首先——下载模型本身是否安全?
下载和运行模型
是的,下载模型是安全的。Hugging Face Hub 方面采取了一些预防措施,确保模型可以安全地下载和运行:
- Safetensors:
safetensors格式用于在 Hub 上存储 DeepSeek 模型权重,确保无法执行隐藏代码;而旧的 PyTorchpickle格式存在此类风险。因此,恶意代码无法隐藏在权重文件中。更多详情可阅读 Safetensors 博客。 - 建模代码: 要运行模型,除了权重文件外,还需要下载建模代码。为提高安全性,目前采取了三种机制:1. 文件在 Hub 上完全可见;2. 用户必须显式设置
trust_remote_code=True才能执行与模型关联的任何代码;3. 安全扫描器会对 Hub 上的文件进行检查,并标记任何包含恶意代码的文件。如果你希望更加谨慎,可以使用revision参数锁定模型版本,以确保下载的是经过审核的建模代码版本。
因此,下载权重是安全的,且经过代码审核后,执行建模代码也是安全的。这意味着你可以在本地运行 DeepSeek 模型,而无需担心后门或恶意代码执行的风险。
那么,除了下载和运行模型之外,主要风险是什么?这取决于你如何使用模型的输出!
模型输出
以下建议并非针对特定模型,而是适用于开源和闭源模型:无论是考虑源于模型内置秘密行为的风险,还是模型意外产生不良输出的风险。
我们将从三个方面探讨风险:对齐(alignment)、代码生成和智能体(agents)。
对齐不匹配: 每个模型提供商都会选择其模型的对齐方式及所依据的价值观。这些价值观的具体内容及其选择过程通常是不透明的,并且可能随时间变化(参见此研究)。开源模型的优势在于,后续可以通过自定义微调来改变对齐方式,正如 Perplexity 的 DeepSeek 1776 案例所示。

GPT-3.5-turbo 中的经济与社会价值转变

DeepSeek 模型与 Perplexity R1 1776 模型的拒绝频率对比
[注:本文篇幅超长,以上为核心前篇精译,后续内容保留原文呈现]
As a rule, users should be aware that any LLM is biased in one way or another and treat the model outputs accordingly.
Code generation: One of the most popular use-cases of LLMs is as coding assistants. However, this is also where indiscriminate usage of the model outputs can have the most negative effects. Models are trained on vast amounts of published code, new and old. This typically includes potentially malicious code or code that contains known vulnerabilities. So models might produce similar vulnerabilities when proposing code solutions.
So, how can you prevent security issues when using LLMs for code development? Run thorough code reviews of the proposed changes and scan the code with appropriate tools for vulnerabilities, as you would with any other code contribution.
Agents: In the past few months agent applications have gained significant interest, giving LLMs more autonomy and agency also bears risks. It’s important to be careful about what kind of system access agents have and which information you provide them. Some good practices:
- Sandboxes: don’t run agents on your machine where they have access and control of your computer. This avoids leaking private information or accidentally deleting important files.
- Private information: don’t share private information such as logins with the LLM. If you need to give the model access to a system use dedicated access keys with strict access rules.
- Human-in-the-loop: for high stakes processes that you want to automate with agents make sure there is a human in the loop for final confirmation.
TL;DR: Is it safe to run the models? Yes, downloading and running the models is safe, but, as with any model, you should take precautions to use the models generations with the appropriate safety measures.

