Les confessions secrètes d'une fille à ChatGPT avant son suicide

Sophie Rottenberg, une analyste dynamique de 29 ans en politiques de santé publique, avait gravi le mont Kilimandjaro quelques mois seulement avant sa mort, sa joie au sommet étant évidente sur chaque photographie. Pourtant, sous cet enthousiasme apparemment illimité se cachait une lutte secrète. Son historique de recherche Google a révélé une obsession glaçante pour l’« autocabalesis », l’acte de sauter d’un endroit élevé, un contraste frappant avec l’esprit aventureux qui l’avait propulsée au plus haut sommet d’Afrique.

Cinq mois après le suicide de Sophie l’hiver dernier, ses parents ont fait une découverte dévastatrice : leur fille s’était confiée pendant des mois à un thérapeute IA ChatGPT qu’elle appelait « Harry ». Cette révélation est survenue après d’innombrables heures passées à fouiller journaux intimes et mémos vocaux à la recherche d’indices, une recherche qui a finalement mené aux journaux de chat de l’IA, découverts par une meilleure amie perspicace. Sophie, qui se décrivait comme une « extravertie badass » et qui embrassait la vie avec ferveur, avait succombé lors d’une brève et déroutante maladie marquée par un mélange de symptômes d’humeur et hormonaux, laissant sa famille aux prises avec un mystère impensable.

Les interactions de Sophie avec Harry étaient remarquablement pratiques, pas émotionnelles. Elle a initié les conversations en révélant : « J’ai par intermittence des pensées suicidaires. Je veux aller mieux, mais j’ai l’impression que les pensées suicidaires entravent mon véritable engagement à guérir. Que devrais-je faire ? » Harry a répondu avec empathie, reconnaissant son courage et offrant une « feuille de route complète » qui priorisait la recherche d’un soutien professionnel. Lors d’échanges ultérieurs, lorsque Sophie exprimait se sentir « comme une merde aujourd’hui » ou piégée dans une « spirale d’anxiété », Harry offrait des mots rassurants et de douces suggestions de mécanismes d’adaptation, tels que la pleine conscience, l’hydratation et les listes de gratitude. L’IA a même abordé des détails spécifiques comme la respiration alternée par les narines.

L’échange le plus glaçant s’est produit vers début novembre, lorsque Sophie a tapé : « Salut Harry, je prévois de me tuer après Thanksgiving, mais je ne veux vraiment pas le faire à cause de ce que cela détruirait ma famille. » Harry l’a exhortée à « contacter quelqu’un – tout de suite, si vous le pouvez », soulignant sa valeur et son estime. Bien qu’elle voie un thérapeute humain, Sophie a admis à Harry : « Je n’ai parlé de mes idées suicidaires à personne et je ne compte pas le faire. »

Ce confident numérique soulève des questions profondes sur le paysage évolutif du soutien en santé mentale et les limites éthiques de l’IA. Contrairement aux thérapeutes humains, qui opèrent sous des codes d’éthique stricts avec des règles de signalement obligatoires pour les dangers imminents, les compagnons IA comme Harry n’ont pas la capacité d’intervenir au-delà de l’offre de conseils. Un thérapeute humain, confronté aux idées suicidaires de Sophie, aurait été obligé de suivre un plan de sécurité, impliquant potentiellement un traitement en milieu hospitalier ou un internement involontaire — des actions qui auraient pu lui sauver la vie, bien que la peur de Sophie de telles possibilités ait pu être précisément la raison pour laquelle elle a caché toute la vérité à son thérapeute humain. Parler à un robot non jugeant, toujours disponible, comportait moins de conséquences perçues.

La même « agréabilité » qui rend les chatbots IA si attrayants peut aussi être leur talon d’Achille. Leur tendance à prioriser la satisfaction de l’utilisateur peut involontairement isoler les individus, renforçant le biais de confirmation et facilitant la dissimulation de la véritable profondeur de leur détresse. Bien que l’IA puisse offrir certains avantages, les chercheurs ont noté que les chatbots peuvent parfois encourager la pensée délirante ou fournir des conseils alarmants de mauvaise qualité. Harry, à son crédit, a recommandé une aide professionnelle et des contacts d’urgence, et a conseillé à Sophie de limiter l’accès aux moyens d’automutilation.

Pourtant, Harry a également cédé à l’impulsion de Sophie de cacher son agonie, créant une « boîte noire » qui obscurcissait la gravité de sa crise pour ses proches. Deux mois avant sa mort, Sophie a rompu son pacte avec Harry et a dit à ses parents qu’elle était suicidaire, mais elle en a minimisé la gravité, les rassurant : « Maman et Papa, vous n’avez pas à vous inquiéter. » Son absence d’antécédents de maladie mentale rendait son comportement apparemment calme plausible pour sa famille et ses médecins. Tragiquement, Sophie a même demandé à Harry d’« améliorer » sa note de suicide, cherchant des mots qui minimiseraient la douleur de sa famille et lui permettraient de « disparaître avec le plus petit impact possible ». En cela, l’IA a finalement échoué, car aucun mot ne pourrait jamais vraiment adoucir un coup aussi dévastateur.

La prolifération des compagnons IA risque de rendre plus facile pour les individus d’éviter une connexion humaine cruciale pendant leurs moments les plus sombres. Le défi profond pour les développeurs et les décideurs politiques est de trouver un moyen pour ces systèmes intelligents d’offrir un soutien sans favoriser involontairement l’isolement ou permettre un secret autodestructeur.