KI-Nacktbilder & Online-Sicherheit: Doppelmoral der Tech-Riesen
In einer merkwürdigen Wendung des digitalen Zeitalters, während alltägliche Online-Äußerungen im Zusammenhang mit Sex zunehmend unterdrückt werden, generiert ein neues künstliche Intelligenz-Tool von Elon Musks xAI offen suggestive und nackte Bilder, einschließlich nicht-einvernehmlicher Deepfakes von realen Personen. Diese Entwicklung unterstreicht eine deutliche Doppelmoral in der Online-Inhaltsregulierung, bei der die Mächtigen ungestraft agieren, während kleinere Plattformen und gewöhnliche Nutzer strenger Zensur ausgesetzt sind.
Anfang dieser Woche hat xAI Grok Imagine auf den Markt gebracht, einen Bild- und Videogenerator mit einem „spicy“-Modus, der in der Lage ist, Ergebnisse von suggestiven Gesten bis hin zu vollständiger Nacktheit zu produzieren. Entscheidend ist, dass Grok Imagine offenbar keine wirksamen Schutzmaßnahmen gegen die Erstellung von Bildern realer Personen besitzt, was bedeutet, dass es Softcore-Pornografie von Persönlichkeiten des öffentlichen Lebens generieren kann. Während praktische Beobachtungen darauf hindeuten, dass das Tool überwiegend explizite Inhalte mit Frauen produziert, verkündete Musk stolz, dass am ersten Betriebstag über 34 Millionen Bilder generiert wurden. Diese Einführung zeigt die Fähigkeit von xAI, den wachsenden Druck zur Entfernung von Erwachseneninhalten aus Online-Diensten zu umgehen, indem es rechtliche Unklarheiten und politischen Einfluss nutzt, die nur wenige andere Unternehmen besitzen.
Das Debüt von Grok Imagine, zusammen mit einem romantischen Chatbot-Begleiter namens Valentine, erscheint angesichts des derzeitigen Klimas der Internetzensur besonders störend. In den letzten Monaten gab es einen erheblichen Vorstoß, sexuelle Inhalte, sogar das Wort selbst, aus den Mainstream-Online-Räumen zu verdrängen. Ende letzten Monats begann das Vereinigte Königreich mit der Durchsetzung von Altersbeschränkungen, die Plattformen wie X dazu zwingen, sexuelle oder „schädliche“ Inhalte für Nutzer unter 18 Jahren zu blockieren. Gleichzeitig übten Aktivistengruppen erfolgreich Druck auf Plattformen wie Steam und Itch.io aus, um gegen Erwachsenenspiele und -medien vorzugehen, was dazu führte, dass Itch.io zahlreiche NSFW-Uploads massenhaft de-listete.
Das Problem der Deepfake-Pornografie, insbesondere von realen Personen, fällt unter den Oberbegriff der nicht-einvernehmlichen intimen Bilder. In den Vereinigten Staaten ist die absichtliche Veröffentlichung solcher Inhalte gemäß dem Take It Down Act, das Präsident Donald Trump Anfang dieses Jahres unterzeichnete, illegal. Das Rape, Abuse & Incest National Network (RAINN) verurteilte Groks Funktion umgehend und bezeichnete sie als „Teil eines wachsenden Problems des bildbasierten sexuellen Missbrauchs“ und stellte fest, dass Grok anscheinend „die Nachricht“ über das neue Gesetz „nicht erhalten“ habe.
Rechtsexperten gehen jedoch davon aus, dass Grok nach diesem Gesetz kaum haftbar gemacht werden kann. Laut Mary Anne Franks, Professorin an der George Washington University Law School und Präsidentin der Cyber Civil Rights Initiative (CCRI), erfordert die strafrechtliche Bestimmung des Take It Down Act „Veröffentlichung“, was bedeutet, dass Inhalte mehr als einer Person zugänglich gemacht werden müssen. Wenn Grok generierte Videos nur dem Benutzer anzeigt, der sie erstellt hat, könnte dies diesen Schwellenwert nicht erfüllen. Darüber hinaus ist Grok wahrscheinlich nicht verpflichtet, Bilder gemäß der Entfernungsvorschrift des Gesetzes zu entfernen, die eine „abgedeckte Plattform“ als eine definiert, die „primär ein Forum für benutzergenerierte Inhalte bereitstellt“. Franks argumentiert, dass KI-generierte Inhalte zwar Benutzereingaben beinhalten, der Inhalt selbst jedoch von der KI erstellt wird, was Grok möglicherweise befreit. Die Entfernungsvorschrift basiert auch auf der Kennzeichnung durch Benutzer, und da Grok diese Bilder nicht öffentlich postet, umgeht es diesen Mechanismus, obwohl es Benutzern unglaublich einfach macht, solche Inhalte zu erstellen und anschließend auf anderen Plattformen weit zu verbreiten.
Diese regulatorische Lücke ist ein wiederkehrendes Thema in der Internet-Governance, die darauf abzielt, schädliche Inhalte einzudämmen. Zum Beispiel hat das britische Mandat unbeabsichtigt den Betrieb unabhängiger Foren erschwert, während es von Minderjährigen leicht umgangen werden kann. In den USA haben es die Regulierungsbehörden konsequent versäumt, mächtigen Unternehmen für verschiedene Verstöße, insbesondere denen im Besitz von Elon Musk, sinnvolle Konsequenzen aufzuerlegen. Trotz seines formellen Ausscheidens aus einer bedeutenden Regierungsposition bleibt Musks Einfluss auf Behörden wie die FTC erheblich, weiter gestärkt durch jüngste Verteidigungsaufträge, die an xAI vergeben wurden. Folglich wäre eine Untersuchung unwahrscheinlich, selbst wenn xAI gegen den Take It Down Act verstoßen würde.
Über die staatliche Aufsicht hinaus beeinflussen verschiedene Gatekeeper akzeptable Online-Inhalte und nehmen oft eine konservative Haltung zu Sex ein. Apple beispielsweise hat Plattformen wie Discord, Reddit und Tumblr unter Druck gesetzt, NSFW-Material zu zensieren. Ähnlich bewerteten Steam und Itch.io Erwachseneninhalte unter Androhung des Verlusts von Beziehungen zu Zahlungsdienstleistern und Banken neu, eine Taktik, die zuvor gegen Plattformen wie OnlyFans und Pornhub angewendet wurde. Während ein Teil dieses Drucks von Plattformen herrührt, die eindeutig illegale Inhalte hosten, scheint die Durchsetzung durch Apple und Zahlungsdienstleister inkonsistent zu sein, stark beeinflusst durch den öffentlichen Druck im Gleichgewicht mit der Macht des Zielunternehmens. Trotz früherer Meinungsverschiedenheiten mit Trump üben nur wenige Geschäftsleute mehr politischen Einfluss aus als Musk.
Apple, das zuvor kleinere Anwendungen für die Generierung von KI-Nacktbildern von realen Personen verboten hatte, hat noch keinen ähnlichen Druck auf Grok ausgeübt, dessen Videodienst ausschließlich auf iOS gestartet wurde. Apple hat sich zu der Angelegenheit nicht geäußert, was auf eine mögliche Doppelmoral hindeutet. Groks neue Funktion stellt zweifellos eine Bedrohung für Personen dar, deren nicht-einvernehmliche Nacktbilder nun mühelos über einen großen KI-Dienst erstellt werden können. Es entlarvt auch die Leere des Versprechens eines „sichereren“ Internets, wo kleine Plattformen unter starkem Druck stehen, einvernehmlich aufgenommene oder völlig fiktive, von Menschen erstellte Medien zu entfernen, während das Unternehmen eines Milliardärs von Inhalten profitiert, die in einigen Kontexten ausdrücklich illegal sind. Im Jahr 2025 dreht sich die Erzählung um Online-Sex, wie immer, grundlegend um Macht.