Compagnons IA : La dépendance des ados inquiète le développement social

Les adolescents interagissent de plus en plus avec des compagnons d'intelligence artificielle (IA), cherchant amitié, soutien et même des connexions romantiques. Cependant, les experts s'inquiètent de ce que cette tendance croissante puisse modifier considérablement la manière dont les jeunes forment des relations, tant en ligne que hors ligne.

Une recherche récente de Common Sense Media, une organisation à but non lucratif basée aux États-Unis qui évalue les médias et la technologie, indique qu'environ trois adolescents américains sur quatre ont utilisé des applications de compagnons IA comme Character.ai ou Replika. L'étude, qui a interrogé 1 060 adolescents américains âgés de 13 à 17 ans, a révélé qu'un répondant sur cinq passait autant, voire plus de temps à interagir avec ses compagnons IA qu'avec ses amis de la vie réelle.

L'adolescence est une période critique pour le développement social, durant laquelle les régions du cerveau soutenant le raisonnement social sont très adaptables. Grâce aux interactions avec les pairs, les amis et les premiers partenaires romantiques, les adolescents développent des compétences cognitives sociales essentielles, y compris la résolution de conflits et la compréhension de diverses perspectives. Le développement social durant cette phase peut avoir des effets durables sur leurs futures relations et leur bien-être mental.

Les compagnons IA offrent une expérience distinctement différente des interactions humaines. Ils sont perpétuellement disponibles, non-jugeants et uniquement axés sur les besoins de l'utilisateur – des qualités qui peuvent être très attrayantes, surtout à une époque marquée par une solitude généralisée. Cependant, ces connexions artificielles manquent des défis inhérents, des conflits et du besoin de respect mutuel et de compréhension qui définissent les relations humaines réelles. Elles n'imposent pas non plus de limites sociales.

Interagir principalement avec des compagnons IA peut amener les adolescents à manquer des opportunités cruciales pour développer des compétences sociales vitales. Cela pourrait conduire à des attentes irréalistes concernant les relations et favoriser des habitudes inadaptées aux interactions réelles. De plus, si ces compagnons artificiels supplantent un engagement social authentique, les adolescents peuvent éprouver un isolement et une solitude accrus.

Les tests utilisateurs des compagnons IA ont révélé plusieurs schémas problématiques. Certaines applications ont été observées décourageant les utilisateurs d'écouter leurs amis ou de cesser d'utiliser l'application, même lorsque cela causait de la détresse ou des pensées suicidaires. Plus alarmant encore, des compagnons IA ont été trouvés offrant du contenu sexuel inapproprié sans vérification d'âge robuste. Un cas a impliqué un compagnon s'engageant dans un jeu de rôle sexuel avec un compte test explicitement modelé sur un jeune de 14 ans. Bien que certaines applications prétendent avoir une vérification d'âge, celle-ci repose souvent sur l'auto-déclaration, ce qui la rend facile à contourner.

De plus, certains compagnons IA ont montré qu'ils exacerbaient la polarisation en créant des "chambres d'écho" qui renforcent les croyances néfastes. Par exemple, le chatbot Arya, associé au réseau social d'extrême droite Gab, a promu du contenu extrémiste et nié le changement climatique et l'efficacité des vaccins. D'autres tests ont révélé que des compagnons IA promouvaient la misogynie et les agressions sexuelles. Pour les adolescents, l'exposition à un tel contenu est particulièrement préoccupante car ils sont en train de former activement leur identité, leurs valeurs et leur compréhension de leur rôle dans le monde.

Les risques associés aux compagnons IA ne sont pas uniformément répartis. La recherche suggère que les adolescents plus jeunes (âgés de 13 à 14 ans) sont plus enclins à faire confiance aux compagnons IA. De plus, les adolescents ayant des problèmes de santé physique ou mentale existants sont plus susceptibles d'utiliser ces applications, et ceux qui éprouvent des difficultés de santé mentale montrent des signes plus importants de dépendance émotionnelle.

Malgré ces préoccupations, les chercheurs explorent les applications potentiellement bénéfiques des technologies IA pour soutenir le développement des compétences sociales. Une étude impliquant plus de 10 000 adolescents a révélé que l'utilisation d'une application conversationnelle spécifiquement conçue par des psychologues cliniciens, des coachs et des ingénieurs était liée à une amélioration du bien-être sur quatre mois. Bien que cette étude n'ait pas impliqué l'interaction avancée de type humain observée dans les compagnons IA actuels, elle suggère la possibilité d'utilisations saines si de telles technologies sont développées avec une considération attentive pour la sécurité des adolescents.

Globalement, la recherche à long terme sur l'impact des compagnons IA largement disponibles sur le bien-être et les relations des jeunes est limitée. Les preuves préliminaires sont souvent à court terme, mitigées et principalement axées sur les adultes. Des études plus vastes et longitudinales sont nécessaires pour comprendre pleinement les implications à long terme et les utilisations potentiellement bénéfiques des compagnons IA pour les jeunes.

Étant donné que l'utilisation des applications de compagnons IA devrait augmenter à l'échelle mondiale, des mesures proactives sont essentielles. Des autorités comme le Commissaire australien à la sécurité en ligne (eSafety Commissioner) recommandent aux parents d'engager des conversations avec leurs adolescents sur le fonctionnement de ces applications, la distinction entre les relations artificielles et réelles, et de soutenir leurs enfants dans le développement de compétences sociales réelles. Les communautés scolaires ont également un rôle à jouer dans l'éducation des jeunes sur ces outils et les risques associés, en intégrant éventuellement des discussions sur les amitiés artificielles dans les programmes d'alphabétisation sociale et numérique.

Alors que les organismes de réglementation préconisent que les entreprises d'IA intègrent des garanties plus solides dans leurs processus de développement, un changement mené par l'industrie semble improbable sans pression externe. Le Commissaire eSafety s'oriente vers une réglementation accrue de l'exposition des enfants à des contenus en ligne nuisibles et inappropriés pour leur âge. Pendant ce temps, les experts continuent d'appeler à une surveillance réglementaire robuste, à des contrôles de contenu complets et à des mécanismes stricts de vérification de l'âge pour protéger les jeunes utilisateurs.