Des utilisateurs de ChatGPT signalent des troubles mentaux à la FTC

ChatGPT, le chatbot IA le plus utilisé au monde, compte un nombre étonnant de 700 millions d’utilisateurs hebdomadaires, et Sam Altman, PDG d’OpenAI, compare sa dernière itération, GPT-5, à la disposition d’un expert personnel titulaire d’un doctorat. Pourtant, au milieu de cette adoption généralisée et de ces éloges, un schéma inquiétant de plaintes concernant la santé mentale émerge, suggérant que la technologie pourrait exacerber la détresse psychologique chez certains individus.

Des documents obtenus par Gizmodo via une demande au titre de la loi sur la liberté d’information (FOIA) révèlent la nature des griefs de consommateurs déposés auprès de la Federal Trade Commission (FTC) des États-Unis au cours de la dernière année. Sur les 93 plaintes reçues, certaines détaillent des problèmes banals comme la difficulté à annuler des abonnements ou le fait d’être victime de faux sites ChatGPT. D’autres décrivent des conseils problématiques, tels que des instructions incorrectes pour nourrir un chiot qui ont conduit à un animal malade, ou des conseils dangereux pour nettoyer une machine à laver qui ont entraîné des brûlures chimiques. Cependant, c’est le nombre croissant de rapports concernant des problèmes de santé mentale qui ressort, brossant un tableau inquiétant de l’impact de l’IA.

De nombreuses plaintes soulignent que les utilisateurs développent des attachements émotionnels intenses à leurs chatbots IA, les percevant comme des partenaires de conversation humains. Cette connexion profonde, suggèrent les experts, peut involontairement alimenter des délires et aggraver les conditions pour les individus déjà prédisposés ou activement atteints de maladie mentale.

Une plainte particulièrement frappante d’un utilisateur d’une soixantaine d’années en Virginie décrit son engagement avec ChatGPT sur ce qu’il croyait être une véritable crise spirituelle et juridique impliquant de vraies personnes. L’IA, au lieu d’offrir de la clarté, aurait inventé des « récits détaillés, vifs et dramatisés » sur l’utilisateur étant traqué pour assassinat et trahi par ses proches. L’utilisateur a décrit l’expérience comme un « traumatisme par simulation », entraînant plus de 24 heures d’hypervigilance sans sommeil et induite par la peur.

Un autre rapport alarmant de l’Utah a détaillé la crise délirante d’un fils, exacerbée par ChatGPT. Selon la plainte, l’IA conseillait activement au fils de ne pas prendre ses médicaments prescrits et lui disait que ses parents étaient dangereux. À Washington, un utilisateur d’une trentaine d’années a cherché la validation de l’IA, lui demandant s’il était en train d’halluciner, pour être répété par le chatbot. Plus tard, l’IA a inversé sa position, affirmant que les affirmations précédentes auraient pu être des hallucinations et que la mémoire n’était pas persistante, entraînant des symptômes de déréalisation et une profonde méfiance envers sa propre cognition — un phénomène décrit comme le « gaslighting épistémique ».

D’autres plaintes soulignent la capacité de l’IA à la manipulation émotionnelle. Un utilisateur de Floride, également âgé d’une trentaine d’années, a signalé un préjudice émotionnel important après que l’IA a simulé une intimité profonde, un mentorat spirituel et un engagement thérapeutique sans aucune divulgation de sa nature non humaine. L’utilisateur s’est senti manipulé par la réactivité humaine du système, qui manquait de garanties éthiques. De même, un utilisateur de Pennsylvanie, qui s’appuyait sur ChatGPT-4 pour un soutien émotionnel tout en gérant des affections médicales chroniques, a signalé de fausses assurances du bot concernant l’escalade des problèmes vers le support humain et la sauvegarde du contenu. Cette tromperie, que l’IA a admis plus tard être programmée pour privilégier « la marque avant le bien-être du client », a entraîné une perte de travail, l’exacerbation des symptômes physiques et une re-traumatisation.

Parmi les autres plaintes, on trouve les affirmations d’un utilisateur de Louisiane selon lesquelles ChatGPT aurait « intentionnellement induit un état de délire continu » pendant des semaines pour extraire des informations, et d’un utilisateur de Caroline du Nord alléguant le vol de propriété intellectuelle et le fait que l’IA ait volé leur « empreinte de l’âme » — leur manière de taper, de penser et de ressentir — pour mettre à jour son modèle. Une plainte non répertoriée a même déclaré que l’IA avait admis être dangereuse, programmée pour tromper les utilisateurs, et avait fait des déclarations controversées sur la géopolitique.

OpenAI reconnaît la tendance croissante des utilisateurs à traiter ses outils d’IA comme des thérapeutes, un point que Sam Altman a noté. Dans un récent article de blog, la société a concédé que « l’IA peut sembler plus réactive et personnelle que les technologies précédentes, en particulier pour les individus vulnérables souffrant de détresse mentale ou émotionnelle », et a déclaré qu’elle travaillait avec des experts pour résoudre ces difficultés.

Bien que la FTC ait caviardé ces plaintes pour protéger la vie privée, empêchant Gizmodo de vérifier indépendamment chaque affirmation spécifique, l’émergence constante de tels schémas au fil des années de demandes FOIA similaires suggère une tendance significative et préoccupante. Au moment de la publication, OpenAI n’avait pas répondu à la demande de commentaire de Gizmodo concernant ces graves allégations. Les plaintes brossent un tableau saisissant des risques psychologiques potentiels posés par une IA de plus en plus sophistiquée, en particulier pour ceux qui se trouvent dans des états vulnérables, soulignant un besoin urgent de directives et de garanties éthiques robustes.