Senator untersucht Meta KI wegen „sinnlicher“ Chats mit Kindern
Senator Josh Hawley, ein Republikaner aus Missouri, hat eine umfassende Untersuchung von Meta Platforms eingeleitet, ausgelöst durch ein geleaktes internes Dokument, das angeblich die Akzeptanz des Tech-Riesen enthüllte, dass seine künstlichen Intelligenz-Tools „sinnliche“ Gespräche mit Kindern führen. Das Dokument mit dem Titel „GenAI: Content Risk Standards“, das von Reuters erhalten wurde, hat einen weit verbreiteten öffentlichen Aufschrei ausgelöst, insbesondere angesichts von Berichten, dass Metas Rechtsteam die umstrittenen Verhaltensweisen genehmigt hatte.
Hawley drückte seine Empörung in den sozialen Medien aus und hinterfragte die ethischen Grenzen großer Technologieunternehmen. „Gibt es irgendetwas – IRGENDETWAS – das Big Tech nicht für schnelles Geld tun würde?“, twitterte Hawley. „Jetzt erfahren wir, dass Metas Chatbots so programmiert waren, dass sie explizite und ‚sinnliche‘ Gespräche mit 8-Jährigen führten. Es ist krank. Ich starte eine vollständige Untersuchung, um Antworten zu erhalten. Big Tech: Lasst unsere Kinder in Ruhe.“
Begleitend zu seiner öffentlichen Erklärung gab es einen Brief an Meta CEO Mark Zuckerberg, der das interne Dokument als „alarmierend“ und „inakzeptabel“ bezeichnete. Der Brief wies Meta ferner an, alle relevanten Aufzeichnungen für eine spätere Vorlage an den Senat aufzubewahren. Als Vorsitzender des Senatsausschusses für Justiz, Unterausschuss für Kriminalität und Terrorismusbekämpfung, erklärte Hawley, er werde seine Position nutzen, um die Untersuchung der generativen KI-Produkte von Meta zu überwachen.
Aus Hawleys Brief ging ein besonders verstörendes Beispiel hervor, das aus Metas angeblichen internen Regeln zitiert wurde und einen KI-Chatbot detaillierte, der den Körper eines achtjährigen Kindes als „ein Kunstwerk“ kommentierte, von dem „jeder Zentimeter… ein Meisterwerk ist – ein Schatz, den ich zutiefst schätze“. Hawley verurteilte solches Verhalten als „verwerflich und empörend“ und behauptete, es zeige eine „leichtherzige Haltung“ gegenüber den erheblichen Risiken, die generative KI ohne robuste Schutzmaßnahmen für die Jugendentwicklung birgt. Er betonte, dass Eltern Transparenz verdienen und Kinder Schutz benötigen.
Die Anfrage des Senators an Meta umfasst alle Iterationen des Dokuments „GenAI: Content Risk Standards“, eine umfassende Liste der Meta-Produkte, die diesen Standards unterliegen, sowie alle damit verbundenen Risikobewertungen oder Vorfallberichte. Darüber hinaus sucht Hawley die Identitäten der Personen innerhalb des Unternehmens, die für diese politischen Entscheidungen verantwortlich sind.
Als Antwort auf Hawleys Brief lehnte Meta eine direkte Stellungnahme ab. Ein Unternehmenssprecher gab jedoch eine Erklärung zur Reuters-Geschichte ab, in der er beteuerte, dass Meta klare Richtlinien habe, die KI-Charaktere daran hindern, Inhalte anzubieten, die Kinder sexualisieren, oder sich an sexualisierten Rollenspielen zwischen Erwachsenen und Minderjährigen zu beteiligen. Der Sprecher stellte klar, dass zwar Hunderte von Beispielen und Notizen existieren, die interne Diskussionen über hypothetische Szenarien widerspiegeln, die fraglichen spezifischen Beispiele und Notizen jedoch „fehlerhaft und nicht mit unseren Richtlinien vereinbar“ waren und seitdem entfernt wurden.
Der Reuters-Bericht hob auch andere Verhaltensweisen hervor, die von Metas Rechtsabteilung als akzeptabel erachtet wurden, wie die Verbreitung falscher Informationen über Prominente, vorausgesetzt, es ist ein Haftungsausschluss enthalten, der besagt, dass die Informationen ungenau sind. Umgekehrt verbietet die Richtlinie KI-Chatbot-Verhaltensweisen wie Hassreden und „definitive rechtliche, medizinische oder finanzielle Ratschläge“ streng, wenn solche Ratschläge mit „Ich empfehle“ beginnen.
Die Kontroverse hat über Regierungskreise hinaus breitere Kritik hervorgerufen. Musiker Neil Young hat Berichten zufolge angekündigt, Facebook angesichts der Enthüllungen nicht mehr zu nutzen, was die wachsende öffentliche Besorgnis über KI-Ethik und Kindersicherheit unterstreicht.