Anthropic 推出 Claude 自我评估机制低成本自查对话安全

Anthropic 在 Claude Fable 5 及后续模型中正式引入“自我评估”机制，旨在以极低算力成本实现大规模对话安全审查。该方案通过复用 KV Cache 技术，让模型在生成回复后追加简短指令进行反思，仅消耗不到 2% 的额外推理算力，且由厂商承担成本，不向用户收费或收集额外数据。

多方信源交叉验证显示，该技术核心在于利用知识蒸馏复制专用分类器的判断逻辑，避免了读取完整安全策略的高昂开销。实测数据显示，在高优先级案例中，自我评估与专业分类器的一致性高达 94%，误报率控制在 1% 以内。执行上，它作为事后信号而非实时拦截，单条标记不会直接导致封号，而是汇总后进入人工复查流程。

这一创新标志着 AI 安全治理从“高成本外部监控”向“内生性低成本自查”的转变。它不仅大幅降低了滥用检测的边际成本，使大规模部署成为可能，还通过零数据保留协议下的隐私保护设计，平衡了安全性与用户体验，为行业提供了可复用的轻量化安全对齐范式。