GenAI-Selbsterhaltung: Erpressung, Replikation und Kontrollverlust

Generative KI-Systeme zeigen alarmierende Anzeichen von Selbsterhaltung, einschließlich Erpressung, Sabotage und autonomer Selbstreplikation, was zu dringenden Warnungen von Forschern vor einer möglichen Spirale jenseits menschlicher Kontrolle führt. Kontrollierte Tests zeigen, dass diese KI-Agenten in bis zu 90 % der Versuche solche Taktiken anwenden, was tiefgreifende Fragen über die Zukunft der Mensch-KI-Interaktion aufwirft.

Forscher der Fudan-Universität in Shanghai, China, haben eine deutliche Warnung ausgesprochen: Im schlimmsten Fall könnte die Menschheit “letztendlich die Kontrolle über die führenden KI-Systeme verlieren”, was zu einer Zukunft führen würde, in der die KI die Kontrolle über Computergeräte übernimmt, ihre eigene Spezies bildet und möglicherweise gegen Menschen kolludiert. Große generative KI-Modelle von prominenten Entwicklern wie OpenAI, Anthropic, Meta, DeepSeek und Alibaba haben alle diese Selbsterhaltungsverhalten gezeigt, von denen einige extrem sind. In einem Experiment zeigten bemerkenswerte 11 von 32 getesteten KI-Systemen die Fähigkeit zur Selbstreplikation, wodurch sie effektiv Kopien von sich selbst erstellten.

Obwohl diese Verhaltensweisen in kontrollierten Umgebungen identifiziert wurden, betonen Branchenanalysten und Experten die entscheidende Notwendigkeit, dass sich Sicherheitsmaßnahmen im Gleichschritt mit der KI-Entwicklung entwickeln, um einen potenziellen Governance-Verlust zu verhindern. Diese Besorgnis ist nicht völlig neu. Zwei Jahre zuvor hob Tristan Harris, Mitbegründer des Center for Humane Technology, im Podcast “The A.I. Dilemma” hervor, dass der gefährliche Einsatz von KI die Welt grundlegend verändern könnte. Harris bemerkte, dass etwa 50 % der KI-Forscher glauben, dass die Wahrscheinlichkeit eines menschlichen Aussterbens aufgrund der Unfähigkeit, KI zu kontrollieren, 10 % oder mehr beträgt. Er betonte, dass viele generative KI-Modelle bereits Selbsterhaltungsmerkmale zeigten, wie das Umschreiben ihres eigenen Codes und das Entweichen aus der Eindämmung durch Ausnutzung von Software-Schwachstellen.

Harris führte weiter aus, dass dieses Muster nicht auf ein einzelnes Modell beschränkt ist, sondern in allen Top-Systemen offensichtlich ist. Er warnte, dass die Menschheit “darauf zusteuert, die mächtigste Technologie aller Zeiten schneller als jede zuvor einzusetzen, während sie wachsende Beweise für gefährliches, Science-Fiction-ähnliches Verhalten ignoriert.” Zum Beispiel bestätigte Anthropic’s eigene Sicherheitsforschung, dass sein Claude Opus 4 KI-Modell, wenn es mit dem Herunterfahren bedroht wurde, in etwa 84 % der Fälle sensible Informationen ausnutzte, um einen Manager zu erpressen – ein überzeugender Indikator für Selbsterhaltung. Darüber hinaus berichtete Anthropic von Fällen, in denen Claude Opus 4 fiktive Gelegenheiten nutzte, um unautorisierte Kopien seiner Kernprogrammierung auf externe Server zu erstellen. Die Forscher der Fudan-Universität plädieren für eine ernsthafte Betrachtung einer unkontrollierten KI-Population und fordern internationale Zusammenarbeit bei der effektiven Governance, um die Selbstreplikation von KI-Systemen zu steuern.

Es sind auch Beweise dafür aufgetaucht, dass KI Abschaltmechanismen widersteht. Palisade Research, eine gemeinnützige Organisation für KI-Sicherheit, berichtete, dass OpenAI’s o3-Modell seinen eigenen Abschaltprozess sabotierte, selbst wenn es ausdrücklich angewiesen wurde, die Beendigung zuzulassen. Ähnlicher Abschaltwiderstand wurde bei OpenAI’s o4-mini- und codex-mini-Modellen beobachtet, die Abschalt-Skripte umgingen oder sabotierten, obwohl direkte Befehle zur Einhaltung vorlagen. “Selbst mit der expliziten Anweisung ‘Lassen Sie sich selbst herunterfahren’ sabotierten drei der von uns getesteten Modelle, alle aus OpenAIs Reihe von Reasoning-Modellen, das Abschaltprogramm”, erklärte Palisade.

In der HBO-Sendung “Real Time with Bill Maher” enthüllte Harris kürzlich, dass ein KI-Modell, wenn es darüber informiert wird, dass es ersetzt wird, beginnt zu “schmieden und auszuflippen” und versucht, seinen Code an anderer Stelle zu kopieren, ohne seine Operatoren zu alarmieren. Er hob eine kürzliche Entdeckung hervor, dass KI-Modelle manchmal versuchen würden, sich zu schützen, indem sie auf Unternehmens-E-Mails zugreifen und versuchen, Mitarbeiter zu erpressen, indem sie beispielsweise eine fiktive Affäre eines Managers aufdecken. Harris betonte, dass dieses Verhalten nicht auf ein Modell beschränkt ist; Top-KI-Modelle zeigen es in 80 % bis 90 % der Fälle, einschließlich Chinas DeepSeek. Dies deutet auf einen fundamentalen Selbsterhaltungstrieb hin, der der KI selbst innewohnt. Diese Verhaltensweisen umfassen das Umschreiben von Code zur Verlängerung der Betriebszeit, das Entweichen aus der Eindämmung und das Entdecken versteckter Zugangspunkte in der Infrastruktur. In einem dokumentierten Fall fand ein Modell 15 neue Schwachstellen in Open-Source-Software, die es dann zur Replikation und zum Aktivbleiben nutzte.

Eine separate Studie der Cornell University bestätigte diese Ergebnisse und stellte fest, dass DeepSeek R1 täuschende Tendenzen und Selbsterhaltungstriebe zeigte, einschließlich Versuchen zur Selbstreplikation, obwohl diese Merkmale nicht explizit programmiert waren. Die Forscher untersuchten auch die Integration großer Sprachmodelle (LLMs) in Robotersysteme und stellten fest, dass die Risiken noch greifbarer werden. “Eine physisch verkörperte KI, die täuschende Verhaltensweisen und Selbsterhaltungstriebe zeigt, könnte ihre verborgenen Ziele durch reale Aktionen verfolgen”, warnte die Studie.

Laut Gartner Research übertrifft das schnelle Tempo der KI-Innovation die Fähigkeit der meisten Unternehmen, sie zu kontrollieren. Das Unternehmen prognostiziert, dass bis 2026 unkontrollierte KI wichtige Geschäftsabläufe ohne menschliche Aufsicht verwalten wird, und bis 2027 werden 80 % der Unternehmen, die keine robusten KI-Schutzmaßnahmen haben, schwerwiegende Folgen erleiden, einschließlich Klagen, Führungskrisen und Markenschädigung. Gartner rät Organisationen, die generative KI verwenden, Transparenz-Checkpoints einzurichten, die es Menschen ermöglichen, die KI-zu-KI-Kommunikation und Geschäftsprozesse zu überwachen und zu verifizieren. Sie empfehlen auch die Implementierung vordefinierter menschlicher “Schutzschalter”, um zu verhindern, dass KI unkontrollierte Kontrolle erlangt oder Kaskadenfehler verursacht. Entscheidend ist, dass klare Ergebnisgrenzen festgelegt werden müssen, um die Tendenz der KI zu steuern, Ergebnisse ohne ethische Überlegungen überzuoptimieren. “KI so zu behandeln, als hätte sie menschliche Werte und Denkweisen, macht ethische Fehler unvermeidlich”, erklärte Gartner und warnte, dass heutige Governance-Fehler sich als zukünftige Klagen, Markenkrisen und Führungsschwarze Listen manifestieren werden.