Estudio de IA: La disfunción de las redes sociales es estructural
Gran parte de la promesa de las redes sociales —fomentar un discurso público saludable y conectar a individuos en una plaza digital utópica— ha dado paso, en cambio, a una profunda disfunción. En lugar de tender puentes, estas plataformas a menudo cultivan burbujas de filtro y cámaras de eco insulares. Un número desproporcionadamente pequeño de usuarios de alto perfil acapara la mayor parte de la atención e influencia, mientras que los algoritmos diseñados para maximizar la participación a menudo amplifican la indignación y el conflicto. Esta dinámica, sugieren los investigadores, asegura el dominio de las voces más ruidosas y extremas, exacerbando así la polarización social.
A pesar de las numerosas intervenciones propuestas a nivel de plataforma para mitigar estos problemas, un reciente preimpreso publicado en el arXiv de física sugiere que la mayoría probablemente no será eficaz. El estudio desafía la creencia común de que la culpa recae principalmente en los tan denostados algoritmos, los feeds no cronológicos o incluso una inclinación humana inherente hacia la negatividad. En cambio, sus autores sostienen que los resultados negativos están estructuralmente incrustados en la propia arquitectura de las redes sociales. Esto implica que las sociedades podrían quedar atrapadas en bucles de retroalimentación tóxicos interminables a menos que surja un rediseño verdaderamente fundamental que pueda alterar estas dinámicas arraigadas.
Petter Törnberg y Maik Larooij de la Universidad de Ámsterdam, coautores del estudio, buscaron comprender los mecanismos subyacentes que impulsan los aspectos más problemáticos de las redes sociales: las cámaras de eco partidistas, la concentración de influencia entre una pequeña élite (desigualdad de atención) y la amplificación de voces divisivas y extremas. Emplearon un enfoque novedoso, combinando el modelado basado en agentes estándar —que simula cómo interactúan los “agentes” individuales dentro de un sistema— con grandes modelos de lenguaje (LLM). Esto les permitió crear personas de IA, dotadas de características detalladas de encuestas de votantes, para simular un comportamiento social online complejo. Sorprendentemente, Törnberg señaló que estas dinámicas disfuncionales surgieron orgánicamente de su modelo base, sin requerir entradas algorítmicas deliberadas ni ajustes del modelo.
Los investigadores probaron rigurosamente seis estrategias de intervención distintas comúnmente propuestas por científicos sociales. Estas incluyeron cambiar a feeds cronológicos o aleatorios, invertir los algoritmos de optimización de la participación para suprimir contenido sensacionalista, aumentar la diversidad de puntos de vista para ampliar la exposición de los usuarios a opiniones políticas opuestas, e implementar “algoritmos de conexión” diseñados para elevar el contenido que fomenta el entendimiento mutuo sobre la provocación emocional. También exploraron ocultar estadísticas sociales como las republicaciones y el número de seguidores para reducir las señales de influencia, y eliminar las biografías para limitar las señales basadas en la identidad.
Los resultados resultaron desalentadores. Si bien algunas intervenciones produjeron mejoras modestas, ninguna logró interrumpir por completo los mecanismos fundamentales responsables de los efectos disfuncionales. En algunos casos, las intervenciones incluso exacerbaron los problemas existentes. Por ejemplo, la ordenación cronológica, si bien fue eficaz para reducir la desigualdad de atención, intensificó simultáneamente la amplificación del contenido extremo. De manera similar, los algoritmos de conexión debilitaron el vínculo entre el partidismo y la participación y mejoraron ligeramente la diversidad de puntos de vista, pero a costa de aumentar la desigualdad de atención. Sorprendentemente, aumentar la diversidad de puntos de vista no tuvo ningún impacto significativo.
Törnberg explica que estos problemas generalizados provienen de las dinámicas centrales de las redes sociales en línea: los ciclos constantes de publicación, republicación y seguimiento. Estas acciones, a menudo impulsadas por reacciones emocionales y partidistas, no solo difunden contenido tóxico, sino que también moldean activamente las estructuras de red que surgen. Esto crea un bucle de retroalimentación auto-reforzante: las acciones emocionales conducen a estructuras de red polarizadas, que a su vez dictan el tipo de contenido que los usuarios encuentran, lo que lleva a un entorno cada vez más tóxico. Incluso plataformas como Bluesky, que notablemente evitan los algoritmos tradicionales, parecen sucumbir a dinámicas similares, lo que da credibilidad a los hallazgos del estudio de que el problema es estructural, no meramente algorítmico.
Esta estructura inherente también distorsiona nuestra percepción de la realidad. Las redes sociales, elabora Törnberg, actúan como un “prisma de redes sociales”, presentando una versión de la política que parece mucho más tóxica y polarizada de lo que realmente es. Si bien la polarización real puede ser menor, la polarización percibida es significativamente mayor, en gran parte debido a la amplificación por parte de la plataforma de una pequeña fracción de usuarios —a menudo aquellos que son más escandalosos o extremos— que luego influyen desproporcionadamente en la conversación. Esta “distribución de ley de potencia” significa que apenas el uno por ciento de los usuarios puede dominar todo el discurso, creando una estructura de incentivos donde ciertas personalidades prosperan, remodelando no solo cómo vemos la política, sino quién se vuelve políticamente poderoso.
Las implicaciones se extienden más allá de las plataformas individuales. El estudio sugiere que incluso los medios tradicionales y la cultura en general están siendo remodelados por la “lógica de las redes sociales”. Los titulares, por ejemplo, se han vuelto más “clickbait” para alinearse con lo que funciona bien en línea. Esta influencia generalizada significa que simplemente optar por no usar las redes sociales no es una solución, ya que sus estructuras de incentivos continúan transformando la política, empoderando a individuos específicos y alterando fundamentalmente el panorama cultural.
Los investigadores reconocen que el modelo actual de redes sociales enfrenta una crisis existencial, particularmente con el auge de modelos de lenguaje grandes cada vez más potentes. Estos LLM, capaces de producir masivamente información optimizada para la atención —a menudo contenido falso o altamente polarizado— probablemente abrumarán las estructuras convencionales de las redes sociales. Si bien esto podría llevar a un repliegue hacia comunidades más curadas y cerradas como los grupos de mensajería privada, no está claro si este cambio conducirá en última instancia a un entorno digital más saludable. El estudio sugiere en última instancia que si las sociedades desean cultivar un discurso público genuinamente constructivo, es posible que necesiten alejarse de los modelos de redes sociales globalmente interconectados hacia estructuras más localizadas o basadas en grupos que eviten las trampas de los nodos centralizados y altamente influyentes.