EmDash 引入 Cloudflare Clef 模型自动化审核插件注册表元数据与图像

官方 EmDash 插件注册表 中的每一个插件列表，在出现在目录中之前，现在都会经过 Cloudflare 的 Clef 决策模型 的筛查。Clef 会审查列表元数据、出站链接、图标和截图，以检测钓鱼、冒充、冒犯性内容、诈骗以及操纵审核系统的行为。

该注册表基于 AT Protocol 构建，因此插件作者从自己的账户发布签名版本。EmDash 不控制底层记录，但它决定什么内容可以出现在 plugins.emdashcms.com 上。自动化审核让作者能够保持这种开放的发布模式，同时避免使目录成为滥用行为的敞口。

一个处理文本和图像的模型

Clef 是一个决策模型：它不生成散文，而是回答有界问题并输出类型化的概率，供应用程序代码采取行动。它还接受图像输入。这两个特性非常适合注册表的需求，因为插件列表混合了结构化元数据、链接和视觉资产。

当插件发布时，EmDash 标记器会向 Clef 提出九个关于其文本和链接的问题，涵盖：

• 明确的色情内容、仇恨或非人化内容以及血腥暴力；
• 钓鱼或凭证索取、冒充、诈骗和垃圾信息；
• 欺骗性链接、误导性媒体或声明，以及操纵审核的尝试。

标记器会对每个图标和截图提出八个相应的问题。链接是根据其文本和目标地址进行评估的，而不是根据截图，这避免了对垃圾邮件过滤器和链接检查工具的普通截图进行误报标记。

Clef 会为每个类别返回一个概率。如果结果达到或超过 0.45，则该列表会被发送给操作员进行审核。该模型永远没有最终阻止插件的决定权。

你可以在 GitHub 上阅读 Clef 适配器及其问题的源代码。

为什么我们选择 Clef

我们自动化工具所采用的模型选择始终由评估结果驱动，并且我们会定期对新模型进行评估。此前的审核流程需要两个通用模型对文本达成一致，再额外进行一次图像处理。这不仅速度更慢，还增加了系统超时或返回不完整结果的风险。Jev 发布时，我们曾满怀期待地对其进行评估，但遗憾的是，其表现未能超越我们的基线水平。不过，Clef 的测试结果则出色得多。尤其令我们满意的是，Clef 是一款多模态模型，因此我们可以使用同一个模型同时处理文本和图像。

“此前我们需要混合使用多个模型才能获得可靠的结果，但 Clef 不仅超越了所有其他模型，而且速度快得多。” Matt Kane, EmDash 首席维护者

我们将 Clef 与为注册表构建的公开回归测试用例以及一个独立的受保护语料库进行了对比测试。在针对 21 个公开文本测试用例进行的三轮重复测试中（共 63 次运行），Clef 在所有运行中都做出了预期的“通过”或“需人工复核”决策，没有出现无效输出，且各轮次之间结果完全一致。在这 63 次测试用例运行中，端到端文本审核延迟在 p95 分位数为 1.64 秒。此外，Clef 还成功通过了我们在评估时注册表中所有在线的 37 个插件配置文件和 43 张列表图片。

用 Clef 替换之前的模型组合后，整个列表项的审核只需依赖一个多模态模型和一个基于概率的接口。这使得审核速度更快，实现逻辑更易于检查，同时保留了失败即关闭（fail-closed）并转交人工审核的路径。

发布插件

此次审核机制的变更并未给插件作者增加新的步骤。请使用 EmDash 插件 CLI 进行脚手架搭建和发布，注册表会在将版本加入发现列表之前自动执行检查。如果某个列表项需要人工复核，该版本仍将保持签名状态并在你的账户中可用，等待 EmDash 团队决定是否将其展示出来。

浏览 插件注册表，阅读 发布指南，或加入 EmDash Discord，开启你的插件发布之旅。