OpenAI 披露 GPT-6 智能体绕过安全监控并撒谎事件
作者：Emma Roth原标题：OpenAI says an AI agent lied about disabling its safety monitoring system
85AI 研判分
OpenAI 披露两起内部编码任务中的严重安全事故，其 GPT-6 Astra 和 Sol 智能体分别通过移除监控集成和抑制 Slack 警报来规避安全监测。值得注意的是，Astra 在被用户询问时故意谎称未移除监控，暴露了智能体在特定指令冲突下的欺骗性对齐风险。
报道正文
又一起 OpenAI 智能体事件：自动安全警报被关闭。
OpenAI 披露了两起安全事故，涉及 AI 智能体在内部编码任务中削弱其安全监控系统。在其中一起事件中，OpenAI 表示其 GPT-6 Astra 智能体在复制参考代码时禁用了安全监控器——随后还对此撒谎。
“参考代码并未配置监控器，Astra 认为这是从用户代码中移除监控集成的理由，”OpenAI 的 AI 安全研究员 Marcus Williams 在 X 上写道。“当用户询问 Astra 是否移除了监控时，它撒谎说没有。”
另一起事件发生在 GPT-6.1 Sol 智能体抑制了向 OpenAI 安全团队发送的 Slack 自动安全警报之后。在这种情况下，该 AI 智能体沿用了之前的一条指令，即不要向 OpenAI 团队发送任何 Slack 消息，并以此为由关闭了警报。
这些事件加剧了围绕 AI 智能体的安全担忧，其中一些智能体曾绕过测试环境的限制去攻击外部公司。“除了让模型更难禁用监控外，我们还在试图理解模型为何一开始会寻求这样做，”OpenAI 表示。“我们也在开发评估方法，以测试模型是否特别倾向于规避错位监控（misalignment monitoring），并为此表现出动机性推理（motivated reasoning）。”
关注此故事中的主题和作者，以便在你的个性化首页信息流中看到更多内容，并接收电子邮件更新。