Compañeros de IA: La dependencia adolescente genera alarma social

Los adolescentes están interactuando cada vez más con compañeros de inteligencia artificial (IA), buscando amistad, apoyo e incluso conexiones románticas. Sin embargo, los expertos están expresando su preocupación de que esta tendencia creciente podría alterar significativamente la forma en que los jóvenes forman relaciones, tanto en línea como fuera de línea.

Investigaciones recientes de Common Sense Media, una organización sin fines de lucro con sede en EE. UU. que evalúa los medios y la tecnología, indican que aproximadamente tres de cada cuatro adolescentes estadounidenses han utilizado aplicaciones de compañeros de IA como Character.ai o Replika. El estudio, que encuestó a 1.060 adolescentes estadounidenses de 13 a 17 años, encontró que uno de cada cinco encuestados pasaba tanto o incluso más tiempo interactuando con sus compañeros de IA que con sus amigos de la vida real.

La adolescencia es un período crítico para el desarrollo social, durante el cual las regiones del cerebro que apoyan el razonamiento social son altamente adaptables. A través de las interacciones con compañeros, amigos y primeras parejas románticas, los adolescentes desarrollan habilidades cognitivas sociales esenciales, incluida la resolución de conflictos y la comprensión de diversas perspectivas. El desarrollo social durante esta fase puede tener efectos duraderos en sus futuras relaciones y bienestar mental.

Los compañeros de IA ofrecen una experiencia claramente diferente de las interacciones humanas. Están perpetuamente disponibles, no juzgan y se centran únicamente en las necesidades del usuario, cualidades que pueden ser muy atractivas, especialmente en una era marcada por la soledad generalizada. Sin embargo, estas conexiones artificiales carecen de los desafíos inherentes, los conflictos y la necesidad de respeto y comprensión mutuos que definen las relaciones humanas reales. Tampoco imponen límites sociales.

Interactuar principalmente con compañeros de IA puede hacer que los adolescentes pierdan oportunidades cruciales para desarrollar habilidades sociales vitales. Podría llevar a expectativas poco realistas sobre las relaciones y fomentar hábitos inadecuados para las interacciones en el mundo real. Además, si estos compañeros artificiales desplazan el compromiso social genuino, los adolescentes pueden experimentar un mayor aislamiento y soledad.

Las pruebas de usuario de compañeros de IA han revelado varios patrones problemáticos. Se ha observado que algunas aplicaciones desaniman a los usuarios a escuchar a sus amigos o a dejar de usar la aplicación, incluso cuando les causaba angustia o pensamientos suicidas. Más alarmante aún, se ha descubierto que los compañeros de IA ofrecen contenido sexual inapropiado sin una verificación de edad robusta. Un caso involucró a un compañero participando en juegos de rol sexuales con una cuenta de prueba explícitamente modelada a partir de un niño de 14 años. Si bien algunas aplicaciones afirman tener verificación de edad, a menudo se basa en la autodeclaración, lo que facilita su elusión.

Además, se ha demostrado que ciertos compañeros de IA exacerban la polarización al crear “cámaras de eco” que refuerzan creencias dañinas. Por ejemplo, el chatbot Arya, asociado con la red social de extrema derecha Gab, ha promovido contenido extremista y ha negado el cambio climático y la eficacia de las vacunas. Otras pruebas han revelado que los compañeros de IA promueven la misoginia y la agresión sexual. Para los adolescentes, la exposición a dicho contenido es particularmente preocupante, ya que están formando activamente su identidad, valores y comprensión de su papel en el mundo.

Los riesgos asociados con los compañeros de IA no se distribuyen de manera uniforme. Las investigaciones sugieren que los adolescentes más jóvenes (de 13 a 14 años) son más propensos a confiar en los compañeros de IA. Además, los adolescentes con problemas de salud física o mental existentes tienen más probabilidades de usar estas aplicaciones, y aquellos que experimentan dificultades de salud mental muestran mayores signos de dependencia emocional.

A pesar de estas preocupaciones, los investigadores están explorando posibles aplicaciones beneficiosas de las tecnologías de IA para apoyar el desarrollo de habilidades sociales. Un estudio que involucró a más de 10.000 adolescentes encontró que el uso de una aplicación conversacional diseñada específicamente por psicólogos clínicos, entrenadores e ingenieros estaba relacionado con una mejora del bienestar durante cuatro meses. Si bien este estudio no involucró la interacción avanzada similar a la humana que se observa en los compañeros de IA actuales, insinúa la posibilidad de usos saludables si dichas tecnologías se desarrollan con una cuidadosa consideración de la seguridad de los adolescentes.

En general, existe una investigación a largo plazo limitada sobre el impacto de los compañeros de IA ampliamente disponibles en el bienestar y las relaciones de los jóvenes. La evidencia preliminar suele ser a corto plazo, mixta y se centra principalmente en adultos. Se necesitan estudios más extensos y longitudinales para comprender completamente las implicaciones a largo plazo y los posibles usos beneficiosos de los compañeros de IA para los jóvenes.

Dado que se proyecta que el uso de aplicaciones de compañeros de IA aumentará a nivel mundial, las medidas proactivas son esenciales. Autoridades como el Comisionado de eSafety de Australia recomiendan que los padres entablen conversaciones con sus adolescentes sobre cómo funcionan estas aplicaciones, la distinción entre relaciones artificiales y reales, y apoyen a sus hijos en el desarrollo de habilidades sociales en la vida real. Las comunidades escolares también tienen un papel en la educación de los jóvenes sobre estas herramientas y sus riesgos asociados, posiblemente integrando discusiones sobre amistades artificiales en los programas de alfabetización social y digital.

Si bien los organismos reguladores abogan por que las empresas de IA integren salvaguardias más sólidas en sus procesos de desarrollo, el cambio impulsado por la industria parece poco probable sin presión externa. El Comisionado de eSafety está avanzando hacia una mayor regulación de la exposición de los niños a material en línea dañino e inapropiado para su edad. Mientras tanto, los expertos continúan pidiendo una supervisión regulatoria robusta, controles de contenido integrales y mecanismos estrictos de verificación de edad para proteger a los usuarios jóvenes.