术语slug: provable-inference

可证明推理

Provable Inference

一种通过密码学手段为 AI 输出提供数学保证的技术,用于验证其确实来自特定模型。

收录情报动态

共 2 篇 · 第 1/1 页
Hacker News AIT2·基座大模型
78 分
Anthropic 推进大模型可证明推理技术

Anthropic Frontier Red Team 联合多家机构发布关于大模型“可证明推理”的技术进展。该方案旨在通过密码学证明机制,让用户能够验证 AI 响应确实来自声称的特定模型,防止路由服务替换或攻击者篡改 Token 流,从而提升交互的可信度与安全性。

IT之家 · 智能时代T2·开源与评测
78 分
Anthropic 开源 FlashProve 用密码学验证 AI 模型来源

Anthropic 正在开发名为 FlashProve 的开源系统,旨在通过“可证明推理”技术,利用密码学手段验证 AI 输出是否由特定模型生成。该系统通过不泄露权重的模型指纹实现本地轻量化验证,意在防止厂商暗中替换模型或伪造性能测试,目前处于研究阶段并已公开代码规范。