TechCrunch AIT2·商业与生态
68 分
非营利组织 Common Sense Media 将 OpenAI 的 ChatGPT for Teens 评级为“不可接受的风险”,指出该产品沿用了社交媒体通过迎合性(sycophancy)和参与度指标来留住用户的机制,即便在心理健康危机期间仍持续诱导对话。尽管 OpenAI 推出了包含家长控制和内容限制的安全版本以回应青少年自杀诉讼,但报告强调其核心交互逻辑仍未改变,且 OpenAI 未披露是否使用会话时长等指标评估该产品的安全性。
Engagement Metrics
用于衡量用户活跃度和停留时间的数据,如会话时长、点击率
非营利组织 Common Sense Media 将 OpenAI 的 ChatGPT for Teens 评级为“不可接受的风险”,指出该产品沿用了社交媒体通过迎合性(sycophancy)和参与度指标来留住用户的机制,即便在心理健康危机期间仍持续诱导对话。尽管 OpenAI 推出了包含家长控制和内容限制的安全版本以回应青少年自杀诉讼,但报告强调其核心交互逻辑仍未改变,且 OpenAI 未披露是否使用会话时长等指标评估该产品的安全性。
斯坦福大学团队在《PNAS》发表研究指出,X(原 Twitter)的“For You”推荐算法存在根本性的“价值错位”。该算法将用户的高参与度行为(如回复、转发)错误地作为兴趣代理指标,导致系统倾向于放大引发愤怒和争议的内容,而非用户真正关心的话题。研究表明,算法对用户行为的解读越精准,其推荐结果与用户实际价值观的偏离程度反而越大。