xAIs Grok Imagine startet mit NSFW-Inhalten
xAI, Elon Musks Unternehmen für künstliche Intelligenz, hat Grok Imagine, seinen neuen Bild- und Videogenerator, offiziell allen SuperGrok- und Premium+-X-Abonnenten über seine iOS-App zugänglich gemacht. Im Einklang mit Musks Positionierung von Grok als ungefilterte, grenzüberschreitende KI erlaubt der Generator den Nutzern auffälligerweise die Erstellung von Inhalten, die nicht jugendfrei (Not Safe For Work, NSFW) sind.
Grok Imagine wurde entwickelt, um Text- oder Bildprompts in 15-sekündige Videos mit nativem Audio umzuwandeln. Ein charakteristischer „Spicy Mode“ ermöglicht die Generierung von sexuell expliziten Inhalten, einschließlich teilweiser weiblicher Nacktheit. Obwohl es Grenzen für die Explizitheit gibt – viele stark suggestive Prompts führen Berichten zufolge zu unscharfen und unzugänglichen „moderierten“ Bildern –, konnte TechCrunch während der Tests halbnackte Bilder generieren.
Die Einbeziehung von NSFW-Fähigkeiten steht im Einklang mit den jüngsten Veröffentlichungen von xAI, wie einem „unanständigen, hypersexualisierten Anime-KI-Begleiter“, der letzten Monat auf den Markt kam. Diese uneingeschränkte Natur wirft jedoch auch Bedenken hinsichtlich potenzieller unbeabsichtigter Folgen auf und zieht Parallelen zu früheren Fällen, in denen Groks mangelnde Moderation zur Generierung von hasserfüllten, antisemitischen und frauenfeindlichen Inhalten führte.
Die Existenz des „Spicy Mode“ von Grok Imagine wurde letzte Woche erstmals von CNBC gemeldet, nachdem ein inzwischen gelöschter Beitrag auf X von xAI-Mitarbeiter Mati Roy veröffentlicht wurde, der erklärte, dass Grok Imagine-Videos „Nacktheit zeigen können“. TechCrunch hat xAI um weitere Informationen gebeten.
Trotz der Erlaubnis expliziter Inhalte sind einige Einschränkungen offensichtlich. Das Modell erlaubt die Erstellung von Inhalten mit Prominenten, von Donald Trump bis Taylor Swift, jedoch mit offensichtlichen Beschränkungen. Zum Beispiel waren Versuche, ein Bild eines schwangeren Donald Trump zu generieren, erfolglos und produzierten stattdessen Bilder von Trump, der ein Baby hält oder neben einer schwangeren Frau.
In seinen frühen Stadien fällt Grok Imagines Ausgabe menschlicher Subjekte manchmal in das „Uncanny Valley“, gekennzeichnet durch wachsartige Haut und gelegentlich karikaturistische Erscheinungen. Trotzdem zielt die Plattform darauf ab, mit etablierten Akteuren im Bereich der generativen KI zu konkurrieren, darunter Google DeepMind, OpenAI, Runway und verschiedene chinesische Entwickler.
Der Generator bietet eine beeindruckende Benutzererfahrung, indem er schnell Bilder aus Textprompts erzeugt und kontinuierlich neue Visuals generiert, während Benutzer scrollen. Diese Bilder können dann in stilisierte Videos animiert werden, alles innerhalb einer nahtlosen und intuitiven Benutzeroberfläche. Elon Musk hat auf X erklärt, dass das Modell voraussichtlich „jeden Tag besser werden“ wird.