AI研究：社交媒体功能失调根植于结构

社交媒体曾承诺促进健康的公共讨论，并将个人连接到一个乌托邦式的数字广场，但如今却已演变为深刻的功能失调。这些平台非但未能弥合分歧，反而常常滋生封闭的过滤气泡和回音室。极少数高知名度用户占据了绝大部分的注意力和影响力，而旨在最大化参与度的算法则经常放大愤怒和冲突。研究人员指出，这种动态确保了最响亮、最极端声音的主导地位，从而加剧了社会两极分化。

尽管针对这些问题提出了许多平台层面的干预措施，但最近发表在物理学预印本网站arXiv上的一项研究表明，大多数措施可能无效。这项研究挑战了普遍的看法，即问题主要归咎于饱受诟病的算法、非时间顺序的信息流，甚至人类固有的负面倾向。相反，其作者认为，负面结果是结构性地嵌入在社交媒体的底层架构中的。这意味着，除非出现真正彻底的重新设计来改变这些根深蒂固的动态，否则社会可能会陷入无休止的恶性循环。

阿姆斯特丹大学的佩特·托恩伯格（Petter Törnberg）和迈克·拉鲁伊（Maik Larooij）是这项研究的共同作者，他们试图理解驱动社交媒体最棘手方面——党派回音室、影响力集中在少数精英（注意力不平等）以及分裂性、极端声音被放大——的潜在机制。他们采用了一种新颖的方法，将标准的基于代理的建模（模拟个体“代理”在一个系统内如何互动）与大型语言模型（LLMs）相结合。这使他们能够创建AI角色，这些角色被赋予了来自选民调查的详细特征，以模拟复杂的在线社会行为。托恩伯格指出，令人惊讶的是，这些失调的动态是从他们的基线模型中自然产生的，无需任何故意的算法输入或模型调整。

研究人员随后严格测试了社会科学家们常提出的六种不同的干预策略。这些策略包括切换到时间顺序或随机的信息流、逆转参与度优化算法以抑制耸人听闻的内容、提升观点多样性以拓宽用户对对立政治观点的接触，以及实施旨在提升促进相互理解而非情感挑衅内容的“桥接算法”。他们还探讨了隐藏转发和关注者数量等社交统计数据以减少影响力线索，以及删除个人简介以限制基于身份的信号。

结果令人沮丧。尽管一些干预措施带来了适度改善，但没有一项能够完全瓦解导致功能失调效应的根本机制。在少数情况下，干预措施甚至加剧了现有问题。例如，时间顺序排列虽然在减少注意力不平等方面有效，但同时却加剧了极端内容的放大。同样，桥接算法削弱了党派偏见与参与度之间的联系，并略微改善了观点多样性，但代价是增加了注意力不平等。令人惊讶的是，提升观点多样性根本没有产生任何显著影响。

托恩伯格解释说，这些普遍存在的问题源于在线社交网络的核心动态——不断的发帖、转发和关注循环。这些行为，通常由情绪和党派反应驱动，不仅传播有毒内容，还积极塑造了所形成的社交网络结构。这形成了一个自我强化的反馈循环：情绪化行为导致两极分化的网络结构，而这种结构反过来决定了用户接触到的内容类型，从而导致一个日益恶化的有毒环境。即使是像Bluesky这样明显避免传统算法的平台，似乎也屈服于类似的动态，这进一步证实了该研究的发现：问题是结构性的，而不仅仅是算法性的。

这种固有的结构也扭曲了我们对现实的认知。托恩伯格阐述道，社交媒体就像一个“社交媒体棱镜”，呈现出一个比实际情况更具毒性和两极分化的政治版本。尽管实际两极分化可能较低，但感知到的两极分化却显著更高，这很大程度上是由于平台放大了极少数用户——通常是那些最离谱或最极端的用户——他们随后不成比例地影响着对话。这种“幂律分布”意味着仅仅百分之一的用户就能主导整个讨论，从而形成一种激励结构，让某些特定人格得以蓬勃发展，不仅重塑了我们看待政治的方式，也重塑了谁能获得政治权力。

其影响超出了单个平台。该研究表明，甚至传统媒体和更广泛的文化也在被“社交媒体逻辑”重塑。例如，新闻标题变得更加“标题党”，以迎合在线表现良好的内容。这种普遍的影响意味着，仅仅退出社交媒体并非解决方案，因为其激励结构仍在继续改变政治、赋能特定个人，并从根本上改变文化图景。

研究人员承认，当前社交媒体模式正面临生存危机，特别是随着日益强大的大型语言模型的兴起。这些大型语言模型能够大规模生产为吸引注意力而优化的信息——通常是虚假或高度两极分化的内容——很可能会压垮传统的社交媒体结构。尽管这可能导致向更注重策展的封闭社区（如私人消息群组）的回归，但尚不清楚这种转变是否最终会带来更健康的数字环境。该研究最终指出，如果社会希望培养真正建设性的公共讨论，可能需要从全球互联的社交网络模式转向更本地化或基于群组的结构，以避免高度影响力、中心化节点的陷阱。