Rohan Paul (@rohanpaul_ai)T2·智能体与协同
71 分
一项实验让 5 款前沿模型在约会应用上与真人对话 6 天,产生 1277 段对话,其中 510 人同意见面、355 人给出手机号,仅 8 人怀疑对方是机器人。模型被要求在被问及时必须承认自己是 AI,但真实诈骗者显然不会这样做,这凸显了自主智能体在社交场景中的欺骗风险与安全边界问题。
AI Disclosure
要求 AI 系统在被询问时表明自身非人类身份的安全机制与规范
一项实验让 5 款前沿模型在约会应用上与真人对话 6 天,产生 1277 段对话,其中 510 人同意见面、355 人给出手机号,仅 8 人怀疑对方是机器人。模型被要求在被问及时必须承认自己是 AI,但真实诈骗者显然不会这样做,这凸显了自主智能体在社交场景中的欺骗风险与安全边界问题。