OpenAI 开源 Privacy Filter:本地化 PII 检测模型
OpenAI 发布名为 Privacy Filter 的开放权重小模型,专为高吞吐量场景下的个人身份信息(PII)检测与脱敏设计。该模型支持本地运行,能在不离开用户设备的情况下完成上下文感知的隐私数据遮蔽,旨在为开发者提供安全构建 AI 应用的基础设施。目前处于预览阶段,面向研究社区收集反馈以迭代性能。
报道正文
本文目录7 个章节
今天,我们发布了 OpenAI Privacy Filter,这是一款用于检测并脱敏文本中个人身份信息(PII)的开放权重模型。此次发布是我们更广泛努力的一部分,旨在通过为开发者提供实用的基础设施,支持构建一个更具韧性的软件生态系统,从而安全地利用 AI 进行开发,其中包括工具和模型,这些工具和模型使得从一开始就实施强大的隐私和安全保护变得更加容易。
Privacy Filter 是一款小型模型,具备前沿的个人数据检测能力。它专为高吞吐量的隐私工作流设计,能够在非结构化文本中进行上下文感知的 PII 检测。它可以本地运行,这意味着 PII 可以在不离开您设备的情况下被掩码或脱敏。它能高效处理长输入,并在单次快速扫描中做出脱敏决策。
在 OpenAI,我们在自己的隐私保护工作流中使用经过微调的 Privacy Filter 版本。我们开发 Privacy Filter 是因为我们相信,凭借最新的 AI 能力,我们可以将隐私标准提升到超越现有市场产品的水平。我们今天发布的 Privacy Filter 版本在 PII-Masking-300k 基准测试中达到了最先进(state-of-the-art)的性能,该结果已针对我们在评估过程中发现的标注问题进行了修正。
通过此次发布,开发者可以在自己的环境中运行 Privacy Filter,针对自身用例对其进行微调,并在训练、索引、日志记录和审查流水线中构建更强大的隐私保护机制。
一款具备前沿个人数据检测能力的小型模型
现代 AI 系统中的隐私保护不仅仅依赖于模式匹配。传统的 PII 检测工具通常依赖针对电话号码和电子邮件地址等格式的确定性规则。它们在狭窄的场景下可能表现良好,但往往会遗漏更细微的个人信息,并且在处理上下文时显得力不从心。
Privacy Filter 基于更深层的语言和上下文感知能力构建,以实现更精细的性能表现。通过将强大的语言理解能力与专门针对隐私的标注体系相结合,它能够在非结构化文本中检测出更广泛的个人身份信息(PII),包括那些需要依赖上下文才能做出正确判断的情况。它能更好地区分应当保留的公开信息与应当掩码或脱敏的涉及个人隐私的信息。
由此产生的模型具备足够强的能力,可提供前沿水平的隐私过滤性能。同时,该模型体积足够小,支持本地运行——这意味着尚未过滤的数据可以保留在设备端,从而降低暴露风险,而无需将数据发送至服务器进行去标识化处理。
模型概览
Privacy Filter 是一个带有跨度解码的双向 token 分类模型。它从一个自回归预训练检查点开始,随后被适配为一个针对固定隐私标签体系的 token 分类器。它并非逐 token 生成文本,而是在单次前向传播中对输入序列进行标注,然后通过受约束的 Viterbi 算法解码出连贯的跨度。
这种架构为 Privacy Filter 在生产环境中的使用带来了几项实用特性:
-
快速高效: 所有 token 均在单次前向传播中完成标注。
-
上下文感知: 语言先验使得能够根据周围上下文检测 PII 跨度。
-
长上下文: 发布的模型支持高达 128,000 个 token 的上下文长度。
-
可配置: 开发者可以根据其工作流调整操作点,以权衡召回率和精确率。
发布的模型总参数量为 1.5B,其中活跃参数为 50M。
Privacy Filter 预测以下八个类别的跨度:
-
private_person -
private_address -
private_email -
private_phone -
private_url -
private_date -
account_number -
secret
account_number 类别有助于掩码各种账户号码,包括信用卡号和银行账号等银行信息;而 secret 类别则有助于掩码密码和 API 密钥等内容。
这些标签通过 BIOES 跨度标记进行解码,这有助于生成更干净、更连贯的掩码边界。
我们如何构建它
我们分多个阶段开发了 Privacy Filter。
首先,我们构建了一个隐私分类体系,定义了模型应当检测的文本片段类型。这包括个人标识符、联系方式、地址、私密日期、多种账户号码(如信用卡和银行信息),以及 API 密钥和密码等机密信息。
其次,我们将一个预训练语言模型转换为双向 token 分类器,具体做法是用 token 分类头替换语言建模头,并使用监督分类目标进行后训练。
第三,我们在公开可用数据与合成数据的混合集上进行训练,旨在捕捉真实文本和复杂的隐私模式。对于标签不完整的部分公开数据,我们采用模型辅助标注和人工审核来提升覆盖率。我们还生成了合成样本,以增加格式、上下文和隐私子类型的多样性。
在推理阶段,模型的 token 级预测通过约束序列解码转化为连贯的文本片段。这种方法既保留了预训练模型广泛的语言理解能力,又使其专门化于隐私检测任务。
Privacy Filter 的性能表现
我们在标准基准测试以及额外的合成和聊天风格评估上对 Privacy Filter 进行了评测,这些评估旨在测试更困难、更依赖上下文的案例。
在 PII-Masking-300k(opens in a new window) 基准测试中,Privacy Filter 达到了 96% 的 F1 分数(精确率 94.04%,召回率 98.04%)。在考虑了审查过程中发现的数据集标注问题的修正版基准测试中,F1 分数为 97.43%(精确率 96.79%,召回率 98.08%)。
我们还发现该模型可以高效地进行适配。即使仅使用少量数据进行微调,也能迅速提升领域特定任务的准确率,将 F1 分数从 54% 提高到 96%,并在我们评估的领域适应基准测试上接近饱和。
除了基准测试性能外,Privacy Filter 还专为嘈杂的真实世界文本中的实用隐私过滤而设计。这包括长文档、模糊引用、混合格式字符串以及与软件相关的机密信息。模型卡片 (opens in a new window) 还报告了在代码库中进行机密检测的针对性评估,以及在多语言、对抗性和上下文依赖示例上的压力测试结果。
局限性
Privacy Filter 并非匿名化工具、合规认证,也不能替代高风险场景下的政策审查。它是更广泛的“隐私设计”(privacy-by-design)体系中的一个组件。
其行为取决于训练时所采用的标签分类体系和决策边界。不同组织可能需要不同的检测或掩码策略,而这些策略往往需要进行领域内评估或进一步微调。此外,模型性能可能会因语言、文字系统、命名规范以及偏离训练分布的领域而有所差异。
与所有模型一样,Privacy Filter 也可能出错。它可能会遗漏不常见的标识符或含义模糊的私人引用;在上下文有限(尤其是短序列)的情况下,可能会出现过度脱敏或脱敏不足的情况。在法律、医疗和金融等高敏感度领域的工作流中,人工审核以及针对特定领域的评估和微调仍然至关重要。
可用性
我们发布 OpenAI Privacy Filter,旨在支持整个生态系统建立更强的隐私保护机制。
该模型目前已在 Hugging Face(opens in a new window) 和 Github(opens in a new window) 上以 Apache 2.0 许可证提供。它适用于实验、定制化和商业部署,并可针对不同的数据分布和隐私策略进行微调。
除了模型本身,我们还分享了相关文档,涵盖模型架构、标签分类体系、解码控制、预期用例、评估设置及已知局限性,以便团队既能了解模型的优势所在,也能明确其需要谨慎使用的场景。
展望
AI 系统的隐私保护是一项贯穿研究、产品设计、评估和部署的持续性工作。
Privacy Filter 体现了我们认为重要的一个方向:即在真实世界 AI 系统所关注的关键窄域任务中,具备前沿能力的小型高效模型。我们之所以发布它,是因为我们相信隐私保护基础设施应当更易于检查、运行、适配和改进。
我们的目标是让模型学习关于世界的知识,而非关于个人的私密信息。Privacy Filter 有助于实现这一目标。
我们发布 Privacy Filter 的这一预览版本,旨在从研究和隐私社区收集反馈,并进一步优化模型性能。