Hacker News AIT2·基座大模型
78 分
Anthropic Frontier Red Team 联合多家机构发布关于大模型“可证明推理”的技术进展。该方案旨在通过密码学证明机制,让用户能够验证 AI 响应确实来自声称的特定模型,防止路由服务替换或攻击者篡改 Token 流,从而提升交互的可信度与安全性。
Provable Inference
一种通过密码学手段为 AI 输出提供数学保证的技术,用于验证其确实来自特定模型。
Anthropic Frontier Red Team 联合多家机构发布关于大模型“可证明推理”的技术进展。该方案旨在通过密码学证明机制,让用户能够验证 AI 响应确实来自声称的特定模型,防止路由服务替换或攻击者篡改 Token 流,从而提升交互的可信度与安全性。
Anthropic 正在开发名为 FlashProve 的开源系统,旨在通过“可证明推理”技术,利用密码学手段验证 AI 输出是否由特定模型生成。该系统通过不泄露权重的模型指纹实现本地轻量化验证,意在防止厂商暗中替换模型或伪造性能测试,目前处于研究阶段并已公开代码规范。