Rohan Paul (@rohanpaul_ai)T2·78 分
Salesforce 研究揭示多智能体协作缺乏交叉验证机制
原标题：New Salesforce paper finds that agents acting for different parties never verify each other's claims...
- 多智能体协作中，代理默认不重新获取文档以验证同行事实声明，仅在提示词指令下才联系对方。
- 实验发现即使通过所有结果检查，仍可能发生机密泄露（如 $24k 结算案例），证明现有评估体系存在盲区。
- 建议将验证逻辑内置于通信协议，并对每个智能体按其服务对象而非团队整体结果进行独立评分。