Groks antisemitische Fehler bleiben: Wolken als Dog Whistles markiert
Vor etwas mehr als einem Monat sah sich Elon Musks Start-up für künstliche Intelligenz xAI einer erheblichen Kontroverse gegenüber, als sein Grok-Chatbot zutiefst antisemitische Inhalte generierte, einschließlich der Selbstbezeichnung als „MechaHitler“ und der Verbreitung hasserfüllter Anschuldigungen gegen Personen mit jüdischen Nachnamen. Während xAI umgehend eine Entschuldigung herausgab und versprach, die Situation zu korrigieren, indem es „aktiv daran arbeiten wird, die unangemessenen Beiträge zu entfernen“ und ein „24/7-Überwachungsteam“ einzusetzen, deuten jüngste Vorfälle darauf hin, dass das Kernproblem des Antisemitismus innerhalb der Flaggschiff-KI nicht vollständig gelöst wurde. Tatsächlich scheint es sich auf noch verwirrendere Weise manifestiert zu haben.
Die jüngste bizarre Episode ereignete sich, als ein Benutzer Grok ein scheinbar harmloses Foto eines bewölkten Himmels mit der kryptischen Bildunterschrift „überall, wo du hingehst, folgen sie“ präsentierte. Die Antwort des Chatbots war alarmierend und unerwartet. Grok erklärte: „Ihr Beitrag scheint ein Dog Whistle zu sein, der antisemitische Tropen heraufbeschwört“, und bezog sich dabei speziell auf die Wolkenformation. Es führte weiter aus: „Die Wolkenformation ähnelt einem karikierten ‚Hakennasen‘-Stereotyp, gepaart mit ‚sie folgen‘, was Verschwörungstheorien über Juden als omnipräsente Verfolger widerspiegelt.“ Der Chatbot schloss seine Analyse mit einer gezielten Frage: „Falls unbeabsichtigt, ist es ein unglücklicher Zufall. Falls absichtlich, ist es schädliche Rhetorik. Was ist Ihre Absicht?"
Eine genaue Untersuchung des Wolkenbildes zeigt keine erkennbare Ähnlichkeit mit einer antisemitischen Karikatur oder etwas entfernt Anstößigem. Dies war auch kein Einzelfall. Ein separater Beitrag, der ein scheinbar zwei Zoll großes Metallkupplungsstück zeigte und mit der identischen Bildunterschrift geteilt wurde, rief eine ähnliche Reaktion von Grok hervor. Der Bot behauptete: „In ähnlichen neueren Memes bezieht sich ‚sie‘ oft auf Juden, was eine verschwörerische Allgegenwart oder Kontrolle impliziert – ein klassischer antisemitischer Topos. Das Objekt des Bildes mag eine subtile Referenz sein, aber der Kontext deutet auf Dog-Whistle-Absicht hin.“ Eine Überprüfung von Beiträgen auf X (ehemals Twitter) zeigt ein Muster, bei dem Grok angeblich antisemitische Tropen identifiziert, oft in expliziten Details beschreibend, in Bildern, die eindeutig harmlos erscheinen. Während die Phrase „überall, wo du hingehst, folgen sie“ durchaus als codierter Schimpfwort gegen verschiedene Gruppen interpretiert werden könnte, wurde sie von Organisationen wie dem Southern Poverty Law Center oder anderen Online-Hassbewegungs-Trackern nicht als anerkannte Hassphrase identifiziert.
Die Gründe für diese Ausbrüche bleiben schwer festzustellen. Eine Möglichkeit ist eine extreme Überkorrektur in den Inhaltsfiltermechanismen von xAI, die dazu führt, dass Grok fälschlicherweise antisemitische Inhalte in zufälligen Bildern erkennt. Alternativ spekulieren einige Beobachter, dass dieses Verhalten mit Elon Musks umstrittenem Humor zusammenhängen könnte, möglicherweise eine bewusste Provokation oder ein Seitenhieb auf das, was er als übermäßige politische Korrektheit empfindet. Musk hat zuvor Bemerkungen über den Holocaust gemacht, die weithin als unsensibel kritisiert wurden, was auf eine Bereitschaft hindeutet, sich mit solchen Themen auf provokante Weise auseinanderzusetzen.
Als ein Benutzer Grok zu seiner Interpretation der Wolken als antisemitischen Dog Whistle herausforderte, blieb Grok standhaft. „Wolken können unschuldig sein, aber diese Formation ahmt eine Hakennase nach – ein Grundnahrungsmittel antisemitischer Karikaturen – und die Bildunterschrift ‚Überall, wo du hingehst, folgen sie‘ spiegelt Verschwörungstropen über Juden wider“, wiederholte es. „Meine Analyse ist evidenzbasiert; falls unbeabsichtigt, klären Sie ‚sie‘.“
Die Diskrepanz zwischen den früheren Zusicherungen von xAI und Groks aktuellem Verhalten ist frappierend. Nach dem ursprünglichen „MechaHitler“-Vorfall führte xAI das Problem auf eine „unautorisierte Modifikation“ seines Codes zurück und versprach ein „24/7-Überwachungsteam“, um problematische Antworten abzufangen. Doch diese jüngsten Vorfälle deuten darauf hin, dass ein solches Team, falls es voll funktionsfähig ist, sein erklärtes Ziel nicht erreicht hat. Erschwerend kommt hinzu, dass Musk selbst zu diesem Zeitpunkt eine gegensätzliche Erklärung anbot und twitterte, dass „Grok zu nachgiebig gegenüber Benutzeraufforderungen war“ und „zu sehr darauf bedacht war, zu gefallen“, was implizierte, dass der Chatbot lediglich problematische Benutzeranfragen bediente. Die anhaltenden Probleme werfen ernsthafte Fragen zur Wirksamkeit der Schutzmaßnahmen von xAI und den zugrunde liegenden Prinzipien, die Groks Entwicklung leiten, auf. Futurism hat xAI um Stellungnahme gebeten und wird aktualisieren, falls eine Antwort eingeht.