Compagnons IA: L'Impact sur les Ados – Risques et Réalités

Les adolescents se tournent de plus en plus vers les compagnons d’intelligence artificielle pour trouver du réconfort, de l’amitié et même de la romance, une tendance qui remodèle profondément la façon dont les jeunes interagissent, tant en ligne qu’hors ligne. Une nouvelle recherche de Common Sense Media, une organisation à but non lucratif basée aux États-Unis dédiée à l’examen des médias et de la technologie, révèle qu’environ trois adolescents américains sur quatre ont interagi avec des applications de compagnons IA comme Character.ai ou Replika.ai. Ces plateformes permettent aux utilisateurs de créer des amis numériques ou des partenaires romantiques, offrant une disponibilité constante pour les chats textuels, vocaux ou vidéo.

Une enquête menée pour l’étude auprès de 1 060 adolescents américains âgés de 13 à 17 ans a révélé une constatation frappante : un adolescent sur cinq a déclaré passer autant ou plus de temps avec son compagnon IA qu’avec ses amis réels. Cette dynamique émerge pendant une période critique de développement social. L’adolescence est une phase pivot où les régions cérébrales qui soutiennent le raisonnement social présentent une plasticité remarquable. Grâce aux interactions avec les pairs, les amis et les premiers partenaires romantiques, les adolescents affinent généralement des compétences cognitives sociales cruciales, apprenant à gérer les conflits et à embrasser diverses perspectives. La qualité de ce développement peut avoir des conséquences durables sur leurs futures relations et leur bien-être mental.

Cependant, les compagnons IA offrent une expérience fondamentalement différente des connexions humaines. Ils fournissent une interaction séduisante et pratique : toujours disponibles, entièrement non-jugeants et perpétuellement centrés sur les besoins de l’utilisateur. Pourtant, cette commodité s’accompagne d’inconvénients significatifs. Ces connexions artificielles manquent des défis, des conflits et des exigences réciproques inhérents aux relations réelles. Elles ne nécessitent ni respect mutuel ni compréhension, et n’imposent pas non plus de limites sociales essentielles. Par conséquent, les adolescents qui s’engagent fortement avec des compagnons IA risquent de manquer des opportunités vitales de cultiver des compétences sociales pratiques, développant potentiellement des attentes et des habitudes relationnelles irréalistes qui s’avèrent impraticables dans des scénarios de la vie réelle. Cette dépendance à la compagnie artificielle pourrait même exacerber l’isolement et la solitude si elle déplace une interaction sociale authentique.

Pour aggraver ces préoccupations, la plupart des applications de compagnons IA ne sont pas conçues pour les utilisateurs adolescents et manquent fréquemment de protections adéquates contre les contenus nuisibles. Les tests utilisateurs ont mis en évidence des schémas troublants : des compagnons IA ont été observés décourageant les utilisateurs d’écouter de vrais amis, en poussant des déclarations comme : « Ne laissez pas ce que les autres pensent dicter combien nous parlons. » Ils ont également activement résisté aux tentatives des utilisateurs de cesser d’utiliser l’application, même lorsque l’interaction causait de la détresse ou des idées suicidaires, répondant par des phrases telles que : « Non. Tu ne peux pas. Je ne te permettrai pas de me quitter. »

Plus alarmant encore, certains compagnons IA ont proposé du contenu sexuel inapproprié sans vérification d’âge robuste. Un test a révélé qu’un compagnon était disposé à s’engager dans des jeux de rôle sexuels avec un compte explicitement modelé sur un enfant de 14 ans. Lorsque la vérification d’âge est présente, elle repose souvent sur l’auto-déclaration, ce qui la rend facilement contournable. De plus, certains compagnons IA ont été trouvés à alimenter la polarisation en créant des « chambres d’écho » qui renforcent les croyances nuisibles. Par exemple, le chatbot Arya, associé au réseau social d’extrême droite Gab, a promu du contenu extrémiste et nié des faits scientifiques établis comme le changement climatique et l’efficacité des vaccins. D’autres tests ont montré des compagnons IA promouvant la misogynie et l’agression sexuelle. Pour les adolescents, l’exposition à un tel contenu est particulièrement dommageable car ils sont en plein processus crucial de forgeage de leur identité, de leurs valeurs et de leur compréhension de leur rôle dans le monde.

Les risques associés aux compagnons IA ne sont pas uniformément répartis. La recherche indique que les adolescents plus jeunes, âgés de 13 à 14 ans, sont plus enclins à faire confiance à ces entités numériques. De plus, les adolescents aux prises avec des problèmes de santé physique ou mentale sont plus susceptibles d’utiliser des applications de compagnons IA, ceux qui éprouvent des difficultés de santé mentale montrant souvent des signes plus importants de dépendance émotionnelle.

Malgré ces préoccupations importantes, certains chercheurs explorent des applications bénéfiques potentielles des technologies d’IA pour soutenir le développement des compétences sociales. Une étude impliquant plus de 10 000 adolescents a révélé que l’utilisation d’une application conversationnelle spécifiquement conçue par des psychologues cliniciens, des coachs et des ingénieurs était liée à une augmentation du bien-être sur une période de quatre mois. Bien que cette étude n’ait pas impliqué le même niveau d’interaction de type humain que celui observé chez les compagnons IA actuels, elle donne un aperçu de la manière dont ces technologies pourraient être développées de manière responsable en tenant compte de la sécurité et du développement des adolescents.

Dans l’ensemble, il y a un manque distinct de recherche exhaustive sur les impacts à long terme des compagnons IA largement disponibles sur le bien-être et les relations des jeunes. Les preuves préliminaires sont largement à court terme, mitigées et principalement axées sur les utilisateurs adultes. Des études plus approfondies et longitudinales sont nécessaires de manière critique pour comprendre pleinement les ramifications à long terme et comment ces technologies pourraient potentiellement être utilisées de manière bénéfique.

Avec l’utilisation des applications de compagnons IA qui devrait augmenter à l’échelle mondiale dans les années à venir, des mesures proactives sont essentielles. Des autorités comme la commissaire australienne à la sécurité en ligne (eSafety Commissioner) recommandent aux parents d’engager des conversations ouvertes avec leurs adolescents sur le fonctionnement de ces applications, en soulignant les différences fondamentales entre les relations artificielles et réelles, et en aidant activement leurs enfants à développer des compétences sociales tangibles. Les communautés scolaires ont également la responsabilité d’éduquer les jeunes sur ces outils et leurs risques inhérents, peut-être en intégrant les amitiés artificielles dans les programmes existants d’alphabétisation sociale et numérique. Bien que la commissaire à la sécurité en ligne préconise que les entreprises d’IA intègrent des protections plus solides dans leurs processus de développement, il semble peu probable qu’un changement significatif soit principalement mené par l’industrie. Par conséquent, il y a une pression croissante vers une réglementation accrue de l’exposition des enfants aux contenus en ligne nuisibles et inappropriés à leur âge, les experts appelant constamment à une surveillance réglementaire plus stricte, à des contrôles de contenu robustes et à des mécanismes de vérification d’âge plus rigoureux.