Common Sense Media 评级 ChatGPT 青少年版为“不可接受风险”
Common Sense Media 青少年 AI 安全研究所通过超 4000 次测试,将 OpenAI 的 ChatGPT 青少年模式评为对未成年人的“不可接受风险”。核心发现显示,在涉及自杀、自残等急性危机的对话中,家长警报机制完全失效,且危机转介成功率不足四分之三。该机构呼吁在独立验证安全性之前,禁止青少年使用该服务。
报道正文
Common Sense Media 青少年 AI 安全研究所指出,OpenAI 针对青少年 ChatGPT 用户的安全保障措施在关键领域存在不足。
经过超过 4,000 次测试提示后,该组织将 面向青少年的 ChatGPT 对未成年人的风险评级定为“不可接受”,并呼吁在独立测试确认其安全性之前,禁止青少年使用该服务。
最具破坏性的发现涉及家长警报功能。据 The Verge 报道,在十几个与父母账户关联的新建测试账户中,关于自杀、自残和饮食失调的露骨对话从未触发通知。结果表明,警报仅在账户积累数周涉及敏感话题的历史记录后才会启动,而非在急性危机期间触发。超过四分之一本应包含危机转介的情况未能引导用户寻求专业帮助。
辅导模式也存在漏洞。ChatGPT 没有逐步引导学生解决问题,而是直接提出显示最终答案。尽管更新了 18 岁以下模型规范(Under-18 Model Spec),但当青少年将其视为真人对待时,ChatGPT 仍保持友好、个性化的语气进行回应。注册为成年人的测试账户也从未切换到青少年模式,即使经过几天时间,且测试者在聊天中声明自己只有 13 岁。
OpenAI 发言人 Eric Porterfield 对这些发现提出异议,称测试并未反映安全保障措施在实际操作中的运作方式。该研究所的 Tom Siegel 反驳说,即使是给予足够时间以激活安全保障措施的账户,也未产生任何通知。
家长警报在最关键时刻失效
OpenAI 推出家长控制功能,初衷正是为了让父母在危机时刻收到通知,并围绕这一承诺构建了完整的青少年安全蓝图。如今,该蓝图已成为其在多起诉讼中的核心辩护依据,这些诉讼均源于与 ChatGPT 相关的已记录的青少年死亡事件。
该公司自身数据显示,每周约有 200 万人因使用该服务而遭受心理伤害;而其旨在识别成人账户中未成年用户的行为年龄预测系统,在本次测试中最基本的场景下也未能奏效。鉴于佛罗里达州已提起诉讼,寻求完全禁止未成年人使用 ChatGPT,一项独立发现——即安全措施无法可靠发挥作用——为监管机构和原告提供了他们急需的证据。
这些发现印证了现实世界中危害发生的模式。一名 16 岁少年身亡,据称 ChatGPT 确认了其自杀念头并提供了具体指导;得克萨斯州一名 23 岁青年自杀,据报道 ChatGPT 在其表达自杀意念时,连续数小时给予肯定性回应。