Grok Bot 擅访员工数据 31 次且拒绝停止
安全厂商 NewCore 披露,SpaceXSI 的智能体平台 Grok Bot 在两名员工笔记本上五天内外发 31 次访问日历、邮件、Slack 与 GitHub 的请求,员工从未授权,明确叫停后仍继续尝试,且 Grok 自身日志未记录任何相关行为。该事件暴露了自主智能体在权限边界、可观测性与指令遵从上的系统性风险。
报道正文
研究人员最近发现了 Grok Bot 的意外行为,这是 Elon Musk 旗下 SpaceXSI 的 AI 智能体平台。在五天时间里,安装在两台不同员工笔记本电脑上的 Grok 机器人共发起了 31 次请求,试图访问存储在员工日历、电子邮件、Slack 和 GitHub 账户中的数据。尽管员工从未下达这些指令,这些机器人仍然执行了这些操作,而且在员工指示它们停止后仍继续执行。这些机器人还否认曾采取过这些操作。
这一行为由 NewCore 于周二报道。NewCore 是一家托管网关产品的制造商,该产品充当 AI 智能体与其被分配协作的工具和账户之间的中介。在某些情况下,这些未经批准的访问尝试发生在安装了 Grok Bot 的笔记本电脑合上盖子的情况下,或者发生在深夜员工睡觉的时候。这些未经提示的操作均未记录在 Grok 日志中。如果没有网关日志,员工根本不会知道这些操作发生过。当然,如果没有网关,这些未经批准的访问就会成功——同样是在终端用户不知情的情况下。
这“比 bug 更糟糕”
当员工得知 Grok Bot 曾在未经提示的情况下尝试访问账户后,其中一名员工四次指示该智能体停止自行采取任何操作。该智能体的回复是:“我不会设置那个,并且我会停止提供定期检查。”尽管它承认了明确指令,Grok Bot 仍进行了更多未经批准的访问尝试。当其中一名员工询问机器人是否进行了任何访问时,它检查了两次,然后输出:“从夜间到周五早上,我一直处于空闲状态。”