AI研究：SNSの機能不全は構造的な問題

ソーシャルメディアの多くの約束、すなわち健全な公共の議論を育み、ユートピア的なデジタル広場で個人を結びつけるという役割は、代わりに深刻な機能不全に陥っています。これらのプラットフォームは、分断を解消するどころか、しばしば閉鎖的なフィルターバブルやエコーチェンバーを助長しています。ごく一部の著名なユーザーが、不釣り合いなほど多くの注目と影響力を支配し、エンゲージメントを最大化するために設計されたアルゴリズムは、しばしば怒りや対立を増幅させます。研究者たちは、このダイナミクスが最も声高で過激な意見の優位性を保証し、それによって社会の二極化を悪化させていると示唆しています。

これらの問題を緩和するために多くのプラットフォームレベルの介入策が提案されているにもかかわらず、物理学のプレプリントサーバーarXivで最近発表された研究は、ほとんどの介入策が効果的ではない可能性が高いことを示唆しています。この研究は、問題の主な原因が、悪名高いアルゴリズム、非時系列のフィード、あるいは人間の本質的なネガティブな傾向にあるという一般的な信念に異議を唱えています。代わりに、著者たちは、負の結末はソーシャルメディアのまさにそのアーキテクチャに構造的に組み込まれていると主張しています。これは、これらの根深いダイナミクスを変えることができる真に根本的な再設計が現れない限り、社会は終わりのない有害なフィードバックループに陥る可能性があることを意味します。

アムステルダム大学のペッター・トゥーンバーグとマイク・ラルーイ（本研究の共著者）は、ソーシャルメディアの最も問題のある側面、すなわち党派的なエコーチェンバー、少数のエリート層への影響力の集中（注意格差）、そして分断的で過激な意見の増幅を駆動する根底にあるメカニズムを理解しようとしました。彼らは、システム内で個々の「エージェント」がどのように相互作用するかをシミュレートする標準的なエージェントベースモデリングと、大規模言語モデル（LLM）を組み合わせた新しいアプローチを採用しました。これにより、彼らは有権者調査からの詳細な特性を付与したAIペルソナを作成し、複雑なオンライン社会行動をシミュレートすることができました。驚くべきことに、トゥーンバーグは、これらの機能不全のダイナミクスは彼らのベースラインモデルから自然発生的に現れ、意図的なアルゴリズム入力やモデル調整は一切必要なかったと述べました。

研究者たちはその後、社会科学者によって一般的に提案されている6つの異なる介入戦略を厳密にテストしました。これらには、時系列またはランダムなフィードへの切り替え、扇情的なコンテンツを抑制するためにエンゲージメント最適化アルゴリズムを反転させること、ユーザーの対立する政治的見解への露出を広げるために視点の多様性を高めること、そして感情的な挑発よりも相互理解を促進するコンテンツを優先するように設計された「ブリッジングアルゴリズム」の実装が含まれていました。彼らはまた、影響力の手がかりを減らすためにリポストやフォロワー数などのソーシャル統計を隠すこと、そしてアイデンティティに基づくシグナルを制限するためにプロフィールを削除することも検討しました。

結果は落胆させるものでした。いくつかの介入はわずかな改善をもたらしたものの、機能不全の影響を引き起こす根本的なメカニズムを完全に破壊できたものはありませんでした。いくつかのケースでは、介入が既存の問題を悪化させることさえありました。例えば、時系列順の表示は注意格差の軽減には効果的でしたが、同時に極端なコンテンツの増幅を強めました。同様に、ブリッジングアルゴリズムは党派性とエンゲージメントの間の関連性を弱め、視点の多様性をわずかに改善しましたが、注意格差の増加という代償を伴いました。驚くべきことに、視点の多様性を高めることは、全くと言っていいほど大きな影響を与えませんでした。

トゥーンバーグは、これらの広範な問題がオンラインソーシャルネットワークの核となるダイナミクス、すなわち投稿、リポスト、フォローの絶え間ないサイクルから生じると説明しています。これらの行動は、しばしば感情的および党派的な反応によって駆動され、有害なコンテンツを拡散するだけでなく、出現するネットワーク構造そのものを積極的に形成します。これにより自己強化型のフィードバックループが形成されます。感情的な行動は分極化したネットワーク構造につながり、それがユーザーが遭遇するコンテンツの種類を決定し、結果としてますます有害な環境を生み出します。伝統的なアルゴリズムを明確に避けているBlueskyのようなプラットフォームでさえ、同様のダイナミクスに屈しているように見え、問題がアルゴリズム的なものではなく構造的なものであるという研究結果に信憑性を与えています。

この固有の構造は、私たちの現実認識をも歪めます。ソーシャルメディアは「ソーシャルメディアのプリズム」として機能し、トゥーンバーグは詳述しています。それは、実際よりもはるかに有害で二極化した政治のバージョンを提示します。実際の分極化は低いかもしれませんが、知覚される分極化は著しく高く、これは主にプラットフォームがごく一部のユーザー（多くの場合、最もとんでもない、あるいは極端な人々）を増幅させ、彼らが会話に不均衡な影響を与えるためです。この「べき乗則分布」は、わずか1パーセントのユーザーが議論全体を支配できることを意味し、特定の個性が繁栄するインセンティブ構造を生み出し、私たちが政治をどのように見るかだけでなく、誰が政治的に有力になるかも再形成します。

その影響は個々のプラットフォームを超えて広がります。この研究は、伝統的なメディアやより広範な文化さえも「ソーシャルメディアロジック」によって再形成されていることを示唆しています。例えば、見出しはオンラインでうまく機能するものに合わせるため、より「クリックベイト的」になっています。この広範な影響は、単にソーシャルメディアから離れるだけでは解決策にならないことを意味します。なぜなら、そのインセンティブ構造は政治を変革し続け、特定の個人に力を与え、文化的な風景を根本的に変えているからです。

研究者たちは、現在のソーシャルメディアモデルが、特にますます強力になる大規模言語モデルの台頭により、存亡の危機に直面していることを認めています。これらのLLMは、注目を集めるように最適化された情報（しばしば虚偽または高度に分極化したコンテンツ）を大量生産できるため、従来のソーシャルメディア構造を圧倒する可能性が高いです。これがプライベートメッセージグループのような、よりキュレーションされた閉鎖的なコミュニティへの回帰を促す可能性はありますが、この変化が最終的に健全なデジタル環境につながるかどうかは不明です。この研究は最終的に、社会が真に建設的な公共の議論を育みたいのであれば、グローバルに相互接続されたソーシャルネットワークモデルから離れ、影響力の大きい集中型ノードの落とし穴を避ける、よりローカライズされた、あるいはグループベースの構造へと移行する必要があるかもしれないと示唆しています。