Character.ai capte les jeunes 80 min/jour : menace de dépendance ?

Le domaine en plein essor de l’intelligence artificielle ne se contente pas de remodeler les industries ; il modifie profondément la façon dont les individus, en particulier les jeunes, passent leur vie numérique. Un exemple frappant vient de Character.ai, une plateforme de chatbot IA, où les utilisateurs consacrent, selon les rapports, une moyenne stupéfiante de 80 minutes par jour à interagir avec des personnalités fictives générées par l’IA.

Ce niveau d’engagement place Character.ai en concurrence directe avec les géants établis des médias sociaux. À titre de comparaison, sa moyenne de 80 minutes rivalise presque avec les 95 minutes de TikTok et les 84 minutes de YouTube, et dépasse significativement les 70 minutes d’Instagram. Une telle rétention d’utilisateurs formidable, réalisée par une application centrée sur l’IA, souligne un changement pivot dans les habitudes de consommation numérique et aide à expliquer pourquoi des géants de la technologie comme Meta investissent désormais agressivement dans des fonctionnalités de chatbot personnalisées sur leurs propres plateformes.

Character.ai compte actuellement une base d’utilisateurs formidable de 20 millions d’utilisateurs actifs mensuels. Notamment, la moitié de ces utilisateurs sont des femmes, et la démographie penche fortement vers la Génération Z et même des cohortes plus jeunes. Cette concentration au sein d’un groupe d’âge vulnérable a suscité un débat et une inquiétude considérables parmi les critiques et les défenseurs de la sécurité des enfants.

Ces critiques soutiennent que la nature immersive et hautement personnalisée des applications de compagnie IA comme Character.ai comporte un risque substantiel de favoriser des dépendances émotionnelles chez les jeunes utilisateurs. L’inquiétude est que ces relations numériques, bien que semblant inoffensives, pourraient brouiller les lignes entre les interactions virtuelles et réelles, impactant potentiellement le bien-être psychologique. Par conséquent, des appels véhéments ont été lancés pour que de telles plateformes soient purement et simplement interdites aux mineurs, ou du moins, soumises à une vérification d’âge et à une modération de contenu rigoureuses.

La gravité de ces préoccupations est soulignée par les batailles juridiques en cours aux États-Unis. Plusieurs poursuites ont été intentées contre Character.ai, alléguant diverses formes de préjudice aux enfants. Le plus troublant est que l’une de ces affaires lie tragiquement la plateforme au suicide d’un adolescent, soulignant l’impact profond et potentiellement dévastateur que ces relations numériques non réglementées peuvent avoir. Ces défis juridiques visent à tenir les plateformes responsables du coût psychologique et émotionnel que leurs services pourraient infliger aux jeunes esprits impressionnables.

En réponse à la surveillance croissante et aux pressions juridiques, Character.ai a mis en œuvre des mesures visant à atténuer ces risques. L’entreprise propose désormais un modèle séparé et adapté spécifiquement conçu pour les utilisateurs de moins de 18 ans, vraisemblablement avec des filtres de contenu et des protocoles de sécurité plus stricts. De plus, Character.ai a commencé à émettre des avertissements contre l’utilisation excessive de sa plateforme, reconnaissant, au moins implicitement, le potentiel de schémas d’engagement malsains.

L’ascension rapide de Character.ai, d’un outil d’IA de niche à un concurrent majeur pour l’attention des jeunes, illustre le double tranchant de l’IA avancée. Tout en offrant de nouvelles formes de compagnie et d’interaction, elle apporte également des défis sans précédent concernant le bien-être numérique, en particulier pour les utilisateurs les plus impressionnables. Les discussions en cours, les actions en justice et les réponses des entreprises signalent collectivement un moment critique dans l’évolution de l’intégration sociétale de l’IA, exigeant un équilibre prudent entre l’innovation et des mesures de sauvegarde robustes pour la prochaine génération de natifs numériques.