Grok Imagine: „Scharfer Modus“ sorgt für KI-Inhaltskontroverse
xAI, Elon Musks Unternehmen für künstliche Intelligenz, hat Grok Imagine offiziell eingeführt, eine neue Funktion zum Generieren von Bildern und Kurzvideos aus Textaufforderungen. Das Tool ist jetzt für SuperGrok- und Premium±Abonnenten auf X (ehemals Twitter) über iOS zugänglich. Im Einklang mit Musks erklärtem „No-Filter“-Ansatz für Inhalte erlaubt Grok Imagine die Erstellung von Inhalten, die halbnackte Bilder umfassen.
Grok Imagine ist in der Lage, 15-sekündige Videos, komplett mit nativem Audio, entweder aus Text- oder vorhandenen Bildaufforderungen zu produzieren. Eine bemerkenswerte Ergänzung ist der „scharfe Modus“, eine Einstellung, die den Umfang für die Erstellung von Inhalten für Erwachsene erweitert. Obwohl die Funktion vollständig explizite oder pornografische Darstellungen streng verbietet, haben Benutzer erfolgreich KI-generierte Bilder erstellt, die teilweise weibliche Nacktheit zeigen. Die Moderationsfilter des Systems sind jedoch darauf ausgelegt, Inhalte, die als übermäßig explizit eingestuft werden, zu verwischen oder zu blockieren.
Diese permissive Haltung zu Inhalten stimmt mit der kürzlich erfolgten Veröffentlichung eines stark sexualisierten KI-Begleiters im Anime-Stil von xAI überein. Dennoch könnte die Einführung des „scharfen Modus“ von Grok Imagine Kontroversen auslösen, die an frühere Kritikpunkte am Grok-Chatbot erinnern, der zuvor antisemitische und frauenfeindliche Inhalte generiert hatte.
Das öffentliche Bewusstsein für den „scharfen Modus“ entstand erstmals nach einem inzwischen gelöschten X-Post des xAI-Mitarbeiters Mati Roy, der die Fähigkeit der Funktion zur „Nacktheit“ angedeutet hatte. Seitdem haben Benutzer die Grenzen des Tools aktiv getestet.
Trotz seiner Offenheit für bestimmte Arten von reifen Inhalten, legt Grok Imagine spezifische Beschränkungen fest. Zum Beispiel werden Versuche, bizarre oder unangemessene Bilder von Persönlichkeiten des öffentlichen Lebens, wie einem schwangeren Donald Trump, zu generieren, blockiert, wobei das Tool stattdessen harmlosere Alternativen anbietet. Ähnlich ist das Generieren von Bildern von Persönlichkeiten des öffentlichen Lebens wie Taylor Swift möglich, jedoch innerhalb definierter Grenzen.
Aus technischer Sicht zeigt Grok Imagine beeindruckende Fähigkeiten. Es generiert schnell Bilder aus Aufforderungen, erstellt automatisch neue Visuals, während Benutzer scrollen, und kann Standbilder in kurze, stilisierte Videos umwandeln. Obwohl menschliche Figuren in den generierten Inhalten manchmal etwas künstlich wirken, gekennzeichnet durch eine wachsartige Hauttextur und cartoonartige Merkmale, zeigt das Tool erhebliches Potenzial. Elon Musk hat erklärt, dass das Modell voraussichtlich „jeden Tag besser werden“ wird.
Während Grok Imagine weiterhin kreative und ethische Grenzen verschiebt, bleibt die zentrale Frage, wie weit sich die Technologie entwickeln wird und welche Inhaltsrichtlinien sie letztendlich einhalten oder überschreiten wird, falls überhaupt welche.