Étude IA : les réseaux sociaux, dysfonctionnements structurels

Une grande partie de la promesse des réseaux sociaux —favoriser un discours public sain et connecter les individus dans une place numérique utopique— a plutôt cédé la place à un profond dysfonctionnement. Plutôt que de combler les fossés, ces plateformes cultivent fréquemment des bulles de filtre et des chambres d’écho insulaires. Un nombre disproportionnellement faible d’utilisateurs de haut profil accaparent la part du lion de l’attention et de l’influence, tandis que les algorithmes conçus pour maximiser l’engagement amplifient souvent l’indignation et les conflits. Cette dynamique, suggèrent les chercheurs, assure la domination des voix les plus bruyantes et les plus extrêmes, exacerbant ainsi la polarisation sociétale.

Malgré de nombreuses interventions proposées au niveau des plateformes pour atténuer ces problèmes, un récent prépublication paru sur l’arXiv de physique suggère que la plupart d’entre elles sont peu susceptibles d’être efficaces. L’étude remet en question la croyance commune selon laquelle la faute incombe principalement aux algorithmes tant décriés, aux flux non chronologiques, ou même à une inclination humaine inhérente à la négativité. Au lieu de cela, soutiennent ses auteurs, les résultats négatifs sont structurellement intégrés à l’architecture même des réseaux sociaux. Cela implique que les sociétés pourraient être prises dans des boucles de rétroaction toxiques sans fin à moins qu’une refonte véritablement fondamentale n’émerge qui puisse modifier ces dynamiques profondément enracinées.

Petter Törnberg et Maik Larooij de l’Université d’Amsterdam, co-auteurs de l’étude, ont cherché à comprendre les mécanismes sous-jacents qui animent les aspects les plus problématiques des réseaux sociaux : les chambres d’écho partisanes, la concentration de l’influence parmi une petite élite (inégalité d’attention) et l’amplification des voix clivantes et extrêmes. Ils ont utilisé une approche novatrice, combinant la modélisation standard basée sur des agents —qui simule la manière dont les “agents” individuels interagissent au sein d’un système— avec de grands modèles de langage (LLM). Cela leur a permis de créer des personas IA, dotés de caractéristiques détaillées issues d’enquêtes auprès des électeurs, pour simuler des comportements sociaux en ligne complexes. Étonnamment, a noté Törnberg, ces dynamiques dysfonctionnelles ont émergé organiquement de leur modèle de base, ne nécessitant aucune entrée algorithmique délibérée ou ajustement de modèle.

Les chercheurs ont ensuite testé rigoureusement six stratégies d’intervention distinctes communément proposées par les sociologues. Celles-ci incluaient le passage à des fils d’actualité chronologiques ou aléatoires, l’inversion des algorithmes d’optimisation de l’engagement pour supprimer le contenu sensationnel, l’augmentation de la diversité des points de vue pour élargir l’exposition des utilisateurs aux opinions politiques opposées, et la mise en œuvre d’« algorithmes de passerelle » conçus pour valoriser le contenu qui favorise la compréhension mutuelle plutôt que la provocation émotionnelle. Ils ont également exploré la dissimulation des statistiques sociales comme les partages et le nombre d’abonnés pour réduire les indices d’influence, et la suppression des biographies pour limiter les signaux basés sur l’identité.

Les résultats se sont avérés décourageants. Si certaines interventions ont produit des améliorations modestes, aucune n’a réussi à perturber pleinement les mécanismes fondamentaux responsables des effets dysfonctionnels. Dans quelques cas, les interventions ont même exacerbé les problèmes existants. Par exemple, l’ordre chronologique, bien qu’efficace pour réduire l’inégalité d’attention, a simultanément intensifié l’amplification du contenu extrême. De même, les algorithmes de passerelle ont affaibli le lien entre le partisanisme et l’engagement et ont légèrement amélioré la diversité des points de vue, mais au prix d’une augmentation de l’inégalité d’attention. De manière surprenante, l’augmentation de la diversité des points de vue n’a eu aucun impact significatif.

Törnberg explique que ces problèmes omniprésents découlent des dynamiques fondamentales des réseaux sociaux en ligne —les cycles constants de publication, de repartage et d’abonnement. Ces actions, souvent motivées par des réactions émotionnelles et partisanes, non seulement propagent du contenu toxique, mais façonnent également activement les structures de réseau qui émergent. Cela crée une boucle de rétroaction auto-renforcée : les actions émotionnelles mènent à des structures de réseau polarisées, qui à leur tour dictent le type de contenu que les utilisateurs rencontrent, conduisant à un environnement de plus en plus toxique. Même des plateformes comme Bluesky, qui évitent notablement les algorithmes traditionnels, semblent succomber à des dynamiques similaires, ce qui corrobore les conclusions de l’étude selon lesquelles le problème est structurel et non simplement algorithmique.

Cette structure inhérente déforme également notre perception de la réalité. Les réseaux sociaux, explique Törnberg, agissent comme un « prisme des réseaux sociaux », présentant une version de la politique qui semble bien plus toxique et polarisée qu’elle ne l’est. Bien que la polarisation réelle puisse être plus faible, la polarisation perçue est significativement plus élevée, en grande partie en raison de l’amplification par la plateforme d’une minuscule fraction d’utilisateurs —souvent ceux qui sont les plus scandaleux ou extrêmes— qui influencent ensuite de manière disproportionnée la conversation. Cette « distribution en loi de puissance » signifie qu’à peine un pour cent des utilisateurs peut dominer l’ensemble du discours, créant une structure incitative où certaines personnalités prospèrent, remodelant non seulement la façon dont nous voyons la politique, mais aussi qui devient politiquement puissant.

Les implications s’étendent au-delà des plateformes individuelles. L’étude suggère que même les médias traditionnels et la culture au sens large sont remodelés par la « logique des réseaux sociaux ». Les titres, par exemple, sont devenus plus « putaclics » pour s’aligner sur ce qui fonctionne bien en ligne. Cette influence omniprésente signifie que se contenter de se retirer des réseaux sociaux n’est pas une solution, car leurs structures incitatives continuent de transformer la politique, d’autonomiser des individus spécifiques et de modifier fondamentalement le paysage culturel.

Les chercheurs reconnaissent que le modèle actuel des réseaux sociaux est confronté à une crise existentielle, en particulier avec l’émergence de modèles de langage de grande taille de plus en plus puissants. Ces LLM, capables de produire en masse des informations optimisées pour l’attention —souvent du contenu faux ou hautement polarisé— submergeront probablement les structures conventionnelles des réseaux sociaux. Bien que cela puisse conduire à un repli vers des communautés plus organisées et fermées comme les groupes de messagerie privée, il n’est pas clair si ce changement mènera finalement à un environnement numérique plus sain. L’étude suggère finalement que si les sociétés souhaitent cultiver un discours public véritablement constructif, elles devront peut-être s’éloigner des modèles de réseaux sociaux interconnectés à l’échelle mondiale pour se tourner vers des structures plus localisées ou basées sur des groupes qui évitent les pièges des nœuds centralisés très influents.