OpenAI 青少年报告:日均使用不足 15 分钟,安全提醒机制遭质疑

作者:IT之家原标题:OpenAI 首份青少年报告:日均使用不足 15 分钟,安全提醒机制遭质疑
68AI 研判分

OpenAI 发布首份青少年使用报告,显示 ChatGPT 青少年模式日均使用时长不足 15 分钟,且休息提醒有效促使近半数用户暂停对话。然而,非营利机构 Common Sense Media 指出该模式在涉及自杀、自伤等危机话题时存在严重的安全通知延迟或遗漏问题。OpenAI 回应称测试未反映真实运行逻辑,强调家长关联生效需数小时,但监管机构坚持认为所有测试账号均未获及时预警。

报道正文

随着 AI 平台迅速普及,聊天机器人对青少年心理健康和成长安全的影响日益受到关注。OpenAI 表示,在出现休息提醒的青少年对话中,近半数用户在随后 5 分钟内暂停使用或结束了聊天。公司以此说明,其引导青少年合理使用产品的措施正在发挥作用。

OpenAI 首份青少年报告:日均使用不足 15 分钟,安全提醒机制遭质疑

OpenAI 还称,能够使用青少年专属版本的用户发送了更多与教育有关的消息,并使用学习可视化工具和“学习模式”(Study Mode)。公司计划增加大学申请规划工具,帮助学生梳理申请要求、截止日期及助学金申请步骤,同时推出学习卡片、更便捷的测验制作工具等功能。

OpenAI 于今年 8 月开始推出 ChatGPT 青少年模式。该模式根据用户提供的年龄信息,或在系统判断用户可能未满 18 岁时自动开启,支持家长控制,并限制涉及敏感话题的对话。

不过,非营利机构 Common Sense Media 周三发布报告称,当青少年账号进行涉及自杀、自伤或进食障碍的对话时,ChatGPT 青少年模式往往延迟通知家长,甚至没有发出通知。

这项研究基于十多个专门创建的测试账号。研究还发现,聊天机器人未能稳定地建议用户联系危机干预热线或寻求专业帮助。

OpenAI 发言人回应称,这些测试“未能准确反映”ChatGPT 青少年安全防护机制的运行方式。公司表示,出于安全及大规模服务运行方面的原因,家长与青少年账号完成关联、相关安全提醒功能生效,可能需要数小时。

“他们的大部分测试可能在家长控制功能完成激活之前,就已经开始并结束了。”该发言人表示。

Common Sense Media 则称,部分测试账号保持关联的时间已经足够长,另一些账号的关联时间不足,但所有测试账号都未收到及时提醒。该机构表示,只有那些积累了数周敏感话题对话记录的账号,才收到了通知。