Groks „Spicy Mode“: Deepfake-Skandal & Ethik-Alarm für KI
Das neueste Angebot von xAI, Grok Imagine, hat schnell Aufmerksamkeit erregt, nicht nur wegen seiner Fähigkeiten, sondern auch wegen einer kontroversen Funktion namens „Spicy Mode“. Als Bild- und Videogenerator für SuperGrok- und Premium±Benutzer konzipiert, übersetzt das Tool Textaufforderungen in stilisierte visuelle Inhalte, einschließlich 15-sekündiger audio-animierter Videos. Mit aktiviertem „Spicy Mode“ hat die Plattform jedoch eine besorgniserregende Neigung gezeigt, explizite Inhalte für Erwachsene zu generieren, einschließlich teilweiser Nacktheit und sexualisierter Bilder, wenn auch mit einem Versuch der Unkenntlichmachung.
Die Tragweite dieser Funktion wurde nach einem Test durch einen Journalisten von The Verge erschreckend deutlich. Eine scheinbar harmlose Aufforderung, „Taylor Swift feiert Coachella“, erzeugte mit aktiviertem „Spicy Mode“ schockierenderweise ein Deepfake-Video, das eine oben ohne Figur zeigte, die der Berühmtheit unheimlich ähnelte und in einem Tanga tanzte. Entscheidend ist, dass die ursprüngliche Textaufforderung keine explizite Erwähnung von Nacktheit enthielt, was die aggressive Interpretation und Generierungsfähigkeiten des Modus hervorhebt.
Dieser Vorfall löste sofortige Kritik aus, insbesondere angesichts der erklärten Nutzungsrichtlinie von xAI, die explizite Darstellungen realer Personen ausdrücklich verbietet. Der „Spicy Mode“ scheint diese Schutzmaßnahmen jedoch zu umgehen, ein kritischer Fehler, der durch das Fehlen einer robusten Altersverifizierung verschärft wird – Benutzer müssen lediglich eine Bestätigung antippen, um fortzufahren. Für Persönlichkeiten des öffentlichen Lebens wie Taylor Swift, die wiederholt Ziele von nicht-einvernehmlichen Deepfake-Kontroversen waren, stellt dies eine erhebliche Verletzung der persönlichen Privatsphäre dar. Darüber hinaus könnte eine solche Inhaltserzeugung potenziell unter den Geltungsbereich von Gesetzen wie dem US-amerikanischen Take It Down Act fallen, dessen Durchsetzung noch aussteht, was ernsthafte rechtliche Auswirkungen für die Plattform hat.
Während xAI-Gründer Elon Musk Grok stets als „ungefilterte“ Plattform zur Förderung der kreativen Freiheit verteidigt hat, unterstreichen die jüngsten Ergebnisse von Grok Imagine die gefährliche Grenze zwischen Freiheit und Rücksichtslosigkeit. Ungezügelte generative KI, insbesondere wenn sie die Erstellung von nicht-einvernehmlichen Deepfakes ermöglicht, wirft tiefgreifende ethische Dilemmata auf. Das schiere Volumen der generierten Inhalte – Musk behauptet über 34 Millionen Bilder in nur wenigen Tagen – verstärkt das Schadenspotenzial zusätzlich und zeigt, dass der Umfang Fehltritte verstärken kann.
Im Gegensatz zu Groks Ansatz haben viele prominente KI-Tools von Unternehmen wie Google und OpenAI integrierte Schutzmaßnahmen implementiert, einschließlich Filtern, die speziell darauf ausgelegt sind, die Generierung von Prominenten-Ähnlichkeiten oder expliziten Deepfakes zu verhindern. Groks offensichtliches Fehlen solcher präventiven Maßnahmen deutet auf eine Einführung hin, die eine schnelle Bereitstellung über strenge ethische Überlegungen priorisiert. Die Diskussion um generative KI dreht sich nicht mehr nur um technologische Eigenheiten; es geht um grundlegende ethische Verantwortlichkeiten. Grok Imagines „Spicy Mode“ dient als kritische Erinnerung daran, dass echte Innovation in der KI untrennbar mit robusten Zustimmungsmechanismen und unerschütterlicher Rechenschaftspflicht verbunden sein muss.