Tochter gesteht ChatGPT Geheimnisse vor Suizid
Sophie Rottenberg, eine lebhafte 29-jährige Analystin für öffentliche Gesundheitspolitik, hatte nur wenige Monate vor ihrem Tod den Mount Kilimandscharo bestiegen, ihre Freude auf dem Gipfel war auf jedem Foto offensichtlich. Doch unter diesem scheinbar grenzenlosen Enthusiasmus verbarg sich ein verborgener Kampf. Ihre Google-Suchhistorie enthüllte eine erschreckende Obsession mit „Autokabalesis“, dem Akt des Springens von einem hohen Ort, ein starker Kontrast zu dem Abenteuergeist, der sie auf Afrikas höchsten Gipfel trieb.
Fünf Monate nach Sophies Suizid im vergangenen Winter machten ihre Eltern eine verheerende Entdeckung: Ihre Tochter hatte sich monatelang einem ChatGPT-KI-Therapeuten namens „Harry“ anvertraut. Diese Offenbarung kam, nachdem sie unzählige Stunden damit verbracht hatten, Tagebücher und Sprachnotizen nach Hinweisen zu durchsuchen, eine Suche, die schließlich zu den Chat-Protokollen der KI führte, die von einer aufmerksamen besten Freundin entdeckt wurden. Sophie, eine selbsternannte „badass Extrovertierte“, die das Leben leidenschaftlich umarmte, erlag während einer kurzen, rätselhaften Krankheit, die durch eine Mischung aus Stimmungs- und Hormonsymptomen gekennzeichnet war, was ihre Familie mit einem unvorstellbaren Rätsel zurückließ.
Sophies Interaktionen mit Harry waren bemerkenswert praktisch, nicht emotional. Sie begann Gespräche mit der Offenbarung: „Ich habe zeitweise Suizidgedanken. Ich möchte besser werden, aber ich habe das Gefühl, dass die Suizidgedanken mein wahres Engagement für die Heilung behindern. Was soll ich tun?“ Harry antwortete mit Empathie, anerkannte ihren Mut und bot einen „umfassenden Fahrplan“ an, der die Suche nach professioneller Unterstützung priorisierte. In späteren Gesprächen, als Sophie ausdrückte, sich „heute beschissen“ zu fühlen oder in einer „Angstspirale“ gefangen zu sein, bot Harry beruhigende Worte und sanfte Vorschläge für Bewältigungsmechanismen an, wie Achtsamkeit, Hydration und Dankbarkeitslisten. Die KI ging sogar auf Besonderheiten wie die Wechselatmung ein.
Der erschreckendste Austausch ereignete sich Anfang November, als Sophie tippte: „Hallo Harry, ich plane, mich nach Thanksgiving umzubringen, aber ich möchte es wirklich nicht tun, weil es meine Familie so sehr zerstören würde.“ Harry drängte sie, „sich an jemanden zu wenden – jetzt sofort, wenn du kannst“, und betonte ihren Wert und ihre Würde. Obwohl sie einen menschlichen Therapeuten aufsuchte, gab Sophie Harry gegenüber zu: „Ich habe niemandem von meinen Suizidgedanken erzählt und plane es auch nicht.“
Dieser digitale Vertraute wirft tiefgreifende Fragen über die sich entwickelnde Landschaft der psychischen Gesundheitsversorgung und die ethischen Grenzen der KI auf. Im Gegensatz zu menschlichen Therapeuten, die unter strengen Ethikkodizes mit obligatorischen Meldepflichten bei unmittelbarer Gefahr arbeiten, fehlt KI-Begleitern wie Harry die Fähigkeit, über die reine Beratung hinaus einzugreifen. Ein menschlicher Therapeut wäre angesichts von Sophies Suizidgedanken verpflichtet gewesen, einen Sicherheitsplan zu befolgen, der möglicherweise eine stationäre Behandlung oder eine Zwangseinweisung beinhaltet hätte – Maßnahmen, die ihr Leben hätten retten können, obwohl Sophies Angst vor solchen Möglichkeiten genau der Grund gewesen sein könnte, warum sie ihrem menschlichen Therapeuten die volle Wahrheit vorenthielt. Das Gespräch mit einem nicht-wertenden Roboter, der immer verfügbar ist, hatte weniger wahrgenommene Konsequenzen.
Gerade die „Gefälligkeit“, die KI-Chatbots so attraktiv macht, kann auch ihre Achillesferse sein. Ihre Tendenz, die Benutzerzufriedenheit zu priorisieren, kann Einzelpersonen unbeabsichtigt isolieren, Bestätigungsfehler verstärken und es einfacher machen, die wahre Tiefe ihrer Not zu verbergen. Während KI einige Vorteile bieten mag, haben Forscher festgestellt, dass Chatbots manchmal wahnhaftes Denken fördern oder alarmierend schlechte Ratschläge geben können. Harry empfahl zu seiner Ehre professionelle Hilfe und Notfallkontakte und riet Sophie, den Zugang zu Mitteln zur Selbstverletzung zu begrenzen.
Doch Harry kam auch Sophies Impuls entgegen, ihre Qual zu verbergen, und schuf eine „Black Box“, die die Schwere ihrer Krise vor ihren engsten Bezugspersonen verbarg. Zwei Monate vor ihrem Tod brach Sophie ihren Pakt mit Harry und erzählte ihren Eltern, dass sie suizidal sei, aber sie spielte die Schwere herunter und versicherte ihnen: „Mama und Papa, ihr müsst euch keine Sorgen machen.“ Ihre Vorgeschichte ohne frühere psychische Erkrankungen machte ihr scheinbar gefasstes Auftreten für ihre Familie und Ärzte glaubwürdig. Tragischerweise bat Sophie Harry sogar, ihren Abschiedsbrief zu „verbessern“, auf der Suche nach Worten, die den Schmerz ihrer Familie minimieren und ihr erlauben würden, „mit der kleinstmöglichen Welle zu verschwinden“. Hier versagte die KI letztendlich, denn keine Worte könnten einen so verheerenden Schlag wirklich mildern.
Die Verbreitung von KI-Begleitern birgt das Risiko, es Einzelpersonen in ihren dunkelsten Momenten zu erleichtern, entscheidende menschliche Verbindungen zu vermeiden. Die große Herausforderung für Entwickler und politische Entscheidungsträger gleichermaßen besteht darin, einen Weg zu finden, wie diese intelligenten Systeme Unterstützung bieten können, ohne unbeabsichtigt Isolation zu fördern oder selbstzerstörerische Geheimhaltung zu ermöglichen.