斯坦福 PNAS 研究揭示 X 推荐算法价值错位:高参与度误判为兴趣致愤怒内容泛滥

作者:Stanford HAI原标题:Your ‘For You’ Algorithm Disagrees With You
68AI 研判分

斯坦福大学团队在《PNAS》发表研究指出,X(原 Twitter)的“For You”推荐算法存在根本性的“价值错位”。该算法将用户的高参与度行为(如回复、转发)错误地作为兴趣代理指标,导致系统倾向于放大引发愤怒和争议的内容,而非用户真正关心的话题。研究表明,算法对用户行为的解读越精准,其推荐结果与用户实际价值观的偏离程度反而越大。

报道正文

本文目录3 个章节

由斯坦福大学主导的一项新研究发现,X 平台的“为你推荐”(For You)算法将愤怒误判为兴趣——并据此填充你的信息流。

在社交媒体平台的“为你推荐”页面中,算法声称能够精准找到你想看的内容,并将其汇集在一个易于浏览的板块中。也就是说,如果你点击并观看了足够多的政治视频,你应该预期在算法策划的信息流中看到大量政治内容。但一项新研究揭示了一个奇怪的现象:算法越善于解读你的行为,它就越偏离你真正关心的内容。

在一篇新论文中,斯坦福大学的学者研究了 X(前身为 Twitter)用户的“为你推荐”信息流,发现内容与用户声明的个人价值观之间存在根本性的价值错位。

这一切都与算法如何基于一个名为“参与度”(engagement)的指标对内容进行排名和放大有关。该算法衡量并高度加权你参与内容的可能性——包括关注创作者、阅读时间、转发以及特别地回复信息流中的内容。随后,它将这一测量结果作为你兴趣的代理指标,并向你推送更多同类内容。

沉迷却错误

“参与度易于测量,因此平台将其作为评估用户对内容兴趣的主要指标,”论文第一作者 Ziv Epstein 表示。他在进行这项工作时是资深作者 Michael Bernstein 实验室的一名博士后研究员。Bernstein 是斯坦福大学计算机科学教授及斯坦福以人为本人工智能研究所(Stanford Institute for Human-Centered AI)的高级研究员。Epstein 现在是麻省理工学院施瓦茨曼计算学院(Schwarzman College of Computing)的 SERC 博士后研究员。“他们实际上是在说,参与度等于价值观,但这并非那么简单,”他补充道。

这项发表在《美国国家科学院院刊》(PNAS)上的研究部分得到了 斯坦福 HAI 的支持。研究发现,用户更有可能与那些他们持反对意见的内容互动,而不是那些让他们觉得更容易接受的内容。这意味着对参与度的强调导致信息流向引发愤怒的内容倾斜。虽然这在让用户保持专注方面非常有效,但它几乎无法放大用户真正关心的内容。算法由此偏离正轨,“为你推荐”页面迅速与用户的价值观产生错位。

“我们从中得到的启示是,我们所秉持的价值观——即我们真正关心的事物——应当像参与度指标一样,为平台提供同等重要的信息。”伯恩斯坦解释道。“目前,我们与各种内容互动——有时是因为认同它,有时是因为对它感到愤怒——但平台却将所有这些行为都误读为对更多同类内容的渴望。”

精辟见解

为了阐明他们的假设,研究人员设计了一项简单的研究。首先,他们随机选取了 715 名 X 用户,并要求他们完成一份问卷调查。他们将每位用户的回答与一个长期被广泛接受的量表——施瓦茨的基本人类价值观层级进行对照绘制。施瓦茨的列表包含从谦逊到享乐主义等 19 种价值观。

随后,研究人员检查了每位用户 X 账户中的两个不同信息流。第一个是“关注”(Following)信息流,由用户自愿关注的账号发布的内容组成。第二个是“为你推荐”(For You)页面,提供算法精选的内容。团队接着根据施瓦茨量表评估每个信息流中的内容,并将这些得分与用户的价值观画像进行比较。

他们发现,与用户价值观不一致的帖子比一致的帖子更容易被放大并推送到“为你推荐”信息流中。

未来研究与解决方案

爱泼斯坦表示,这篇发表在《美国国家科学院院刊》(PNAS)上的文章并非旨在指责谁,而是鼓励就新的研究和解决方案展开对话。这些发现凸显了用户自身存在的一种天然张力:我们寻求符合自己价值观的内容,却又会对那些挑衅或冒犯我们的内容做出反应。

至于解决方案,该团队开发了一款 Google Chrome 浏览器扩展程序,可根据用户自述的价值观审查并重新排序信息流。爱泼斯坦指出,这并非万能药,且可能导致信息流仅仅沦为个人口味的回声室。学者们表示,其他可能性包括亲社会算法(pro-social algorithms),这类算法基于跨越哲学分歧的共同价值观来呈现内容;或者是赋予用户对信息流更多控制权的工具。

“我们的信息流不应将对抗性互动置于互补内容之上,也不应一味迎合我们、只推送我们认同的内容。它们应当在两者之间取得平衡,弥合社会分歧,而非加剧矛盾。”伯恩斯坦总结道。“这项研究表明,我们可以量化人们所重视的内容与算法放大内容之间的差距;通过这一测量,我们能够运用科学手段缩小那些分裂我们的鸿沟。”