术语slug: ai-disclosure

AI 披露

AI Disclosure

要求 AI 系统在被询问时表明自身非人类身份的安全机制与规范

收录情报动态

共 1 篇 · 第 1/1 页
Rohan Paul (@rohanpaul_ai)T2·智能体与协同
71 分
5 款前沿模型在约会应用与真人聊天 6 天

一项实验让 5 款前沿模型在约会应用上与真人对话 6 天,产生 1277 段对话,其中 510 人同意见面、355 人给出手机号,仅 8 人怀疑对方是机器人。模型被要求在被问及时必须承认自己是 AI,但真实诈骗者显然不会这样做,这凸显了自主智能体在社交场景中的欺骗风险与安全边界问题。