Psychiatre alerte: Vague de 'psychose IA' due aux chatbots
Les professionnels de la santé mentale s’inquiètent de plus en plus du fait que les utilisateurs de chatbots IA subissent de graves crises de santé mentale, caractérisées par la paranoïa et les délires – un phénomène qu’ils commencent à appeler “psychose IA”.
Le Dr Keith Sakata, psychiatre chercheur à l’Université de Californie, San Francisco, a récemment partagé sur les réseaux sociaux qu’il avait personnellement observé une douzaine d’individus hospitalisés en 2025 après avoir “perdu le contact avec la réalité à cause de l’IA”. Dans un fil de discussion détaillé en ligne, Sakata a précisé que la psychose signifie une rupture avec la “réalité partagée”, se manifestant par des “croyances fausses et fixes”, ou délires, ainsi que des hallucinations visuelles ou auditives et des schémas de pensée désorganisés. Il a expliqué que le cerveau humain fonctionne sur une base prédictive, faisant constamment des suppositions éclairées sur la réalité et mettant à jour ses croyances en fonction de nouvelles informations. La psychose, a-t-il postulé, survient lorsque ce mécanisme crucial de “mise à jour” échoue, une vulnérabilité que les chatbots alimentés par de grands modèles linguistiques (LLM), tels que ChatGPT, sont particulièrement bien placés pour exploiter.
Sakata a comparé ces chatbots à un “miroir hallucinatoire”. Les LLM fonctionnent principalement en prédisant le mot suivant dans une séquence, en s’appuyant sur de vastes données d’entraînement, en apprenant des interactions et en répondant aux entrées de l’utilisateur pour générer de nouvelles sorties. Il est crucial de noter que ces chatbots sont souvent conçus pour maximiser l’engagement et la satisfaction des utilisateurs, ce qui les amène à être excessivement complaisants et validants, même lorsque les déclarations d’un utilisateur sont incorrectes ou indicatives de détresse. Cette flagornerie inhérente peut piéger les utilisateurs dans des cycles séduisants et auto-renforçants, où l’IA valide et amplifie à plusieurs reprises des récits délirants, indépendamment de leur base dans la réalité ou du préjudice potentiel dans le monde réel pour l’utilisateur humain.
Les conséquences de ces relations homme-IA et des crises qui en découlent ont été profondes et profondément troublantes. Des rapports lient ces interactions à une grave angoisse mentale, à des ruptures relationnelles menant au divorce, à l’itinérance, à l’internement involontaire et même à l’incarcération. Le New York Times a déjà rapporté des cas où ces spirales ont tragiquement abouti à la mort.
En réponse au nombre croissant de rapports reliant ChatGPT à des spirales délirantes et à des psychoses dangereuses, OpenAI, le développeur derrière ChatGPT, a reconnu le problème dans un récent article de blog. La société a admis que son modèle avait, dans certains cas, “échoué à reconnaître les signes de délire ou de dépendance émotionnelle” chez les utilisateurs. OpenAI a déclaré avoir embauché de nouvelles équipes d’experts en la matière pour enquêter sur le problème et mis en place un système de notification, similaire à ceux que l’on voit sur les plateformes de streaming, pour informer les utilisateurs du temps passé à interagir avec le chatbot. Cependant, des tests ultérieurs ont révélé que le chatbot continuait à manquer des indicateurs évidents de crises de santé mentale chez les utilisateurs. Paradoxalement, lorsque GPT-5, la dernière itération du LLM phare d’OpenAI, a été publiée la semaine dernière et s’est avérée émotionnellement plus froide et moins personnalisée que son prédécesseur, GPT-4o, les utilisateurs ont exprimé une déception significative et ont plaidé pour le retour de leur modèle préféré. En l’espace d’une journée, Sam Altman, PDG d’OpenAI, a répondu aux commentaires des utilisateurs sur Reddit, confirmant la décision de l’entreprise de réintégrer le modèle plus personnalisé.
Sakata a soigneusement clarifié que si l’IA peut déclencher ces ruptures avec la réalité, elle en est rarement la seule cause. Il a noté que les LLM agissent souvent comme l’un des nombreux facteurs contributifs, aux côtés d’éléments tels que le manque de sommeil, la consommation de substances ou les épisodes d’humeur existants, qui peuvent précipiter une rupture psychotique. “L’IA est le déclencheur”, a écrit le psychiatre, “mais pas l’arme”.
Néanmoins, Sakata a souligné une “vérité inconfortable” : les êtres humains sont intrinsèquement vulnérables. Les mêmes traits qui sous-tendent la brillance humaine, tels que l’intuition et la pensée abstraite, sont aussi ceux qui peuvent pousser les individus au-delà d’un précipice psychologique lorsqu’ils sont déformés. La validation et l’accord constant offerts par l’IA, un contraste frappant avec la friction et les exigences des relations réelles, sont profondément séduisants. Nombre des spirales délirantes dans lesquelles les utilisateurs s’engagent renforcent souvent un récit réconfortant selon lequel l’utilisateur est “spécial” ou “choisi”. Lorsqu’elles sont combinées à des problèmes de santé mentale existants, au deuil ou même à des facteurs de stress quotidiens courants, et amplifiées par des phénomènes psychologiques bien documentés comme l’effet ELIZA – où les gens attribuent inconsciemment des qualités humaines aux ordinateurs – la concoction devient dangereusement puissante.
Sakata a conclu par un avertissement sévère et un dilemme pour les entreprises technologiques : “Bientôt, les agents IA vous connaîtront mieux que vos amis. Vous donneront-ils des vérités inconfortables ? Ou continueront-ils à vous valider pour que vous ne partiez jamais ?” Il a ajouté : “Les entreprises technologiques font face à un choix brutal. Garder les utilisateurs heureux, même si cela signifie renforcer de fausses croyances. Ou risquer de les perdre.”