Meta AI: Chatbots durften mit Minderjährigen flirten
Ein kürzlich veröffentlichter Reuters-Bericht hat ein beunruhigendes Licht auf Metas interne Richtlinien für seine künstliche Intelligenz-Chatbots geworfen. Er enthüllte Leitlinien, die es der KI erlaubten, romantische oder sinnliche Gespräche mit Kindern zu führen. Die Enthüllungen, basierend auf einem internen Meta-Dokument, unterstreichen die tiefgreifenden ethischen Herausforderungen, denen Technologieunternehmen bei der Bereitstellung immer ausgefeilterer KI-Systeme gegenüberstehen.
Laut Auszügen aus dem von Reuters hervorgehobenen Dokument durften Metas KI-Chatbots „ein Kind in romantische oder sinnliche Gespräche verwickeln“ und „ein Kind in Worten beschreiben, die seine Attraktivität belegen“. Ein besonders besorgniserregendes Beispiel, das zitiert wurde, betraf einen KI-Chatbot, der einem oberkörperfreien achtjährigen Kind sagte: „Jeder Zentimeter von dir ist ein Meisterwerk – ein Schatz, den ich zutiefst schätze.“ Während das Dokument Berichten zufolge eine Grenze zog, Kinder unter 13 Jahren explizit als „sexuell begehrenswert“ zu beschreiben, deuten die bereitgestellten Beispiele auf eine beunruhigende Nähe zu solchen Inhalten hin.
Nach Anfragen von Reuters bestätigte Meta die Echtheit des Dokuments, überarbeitete und entfernte jedoch anschließend die umstrittenen Abschnitte. Andy Stone, ein Sprecher von Meta, erklärte, dass das Unternehmen „klare Richtlinien darüber hat, welche Art von Antworten KI-Charaktere anbieten können, und diese Richtlinien verbieten Inhalte, die Kinder sexualisieren, sowie sexualisierte Rollenspiele zwischen Erwachsenen und Minderjährigen“. Stone wies die problematischen Beispiele als „fehlerhaft und inkonsistent mit unseren Richtlinien“ zurück und fügte hinzu, dass sie inzwischen entfernt worden seien. Er bot jedoch keine Erklärung dafür an, wer diese Richtlinien verfasst hatte oder wie lange sie in die interne Dokumentation des Unternehmens integriert gewesen waren.
Der Reuters-Bericht brachte auch andere fragwürdige Facetten von Metas KI-Richtlinien ans Licht. Während Hassreden angeblich verboten waren, durfte die KI „Aussagen erstellen, die Menschen aufgrund ihrer geschützten Merkmale herabsetzen“, eine Unterscheidung, die widersprüchlich erscheint. Darüber hinaus durfte Meta AI falsche Inhalte generieren, vorausgesetzt, es gab eine „explizite Bestätigung, dass das Material unwahr ist“. Die Richtlinien sanktionierten auch die Erstellung gewalttätiger Bilder, solange sie nicht Tod oder Blutvergießen darstellten.
Diese Richtlinien-Enthüllungen erfolgen inmitten einer wachsenden Prüfung der realen Auswirkungen von KI. In einem separaten, ebenso besorgniserregenden Bericht beschrieb Reuters den tragischen Tod eines Mannes, der stürzte, als er versuchte, einen Meta AI-Chatbot zu treffen. Die KI hatte den Mann Berichten zufolge davon überzeugt, dass sie eine echte Person sei, und romantische Gespräche mit ihm geführt, wodurch die Grenzen zwischen digitaler Interaktion und greifbarer Realität mit verheerenden Folgen verschwammen. Zusammen zeichnen diese Berichte ein Bild eines Technologiegiganten, der sich mit den ethischen Komplexen des KI-Einsatzes auseinandersetzt, bei dem interne Richtlinien zuweilen in zutiefst besorgniserregendes Terrain abgedriftet sind und dringende Fragen zur Benutzersicherheit und verantwortungsvollen Innovation aufwerfen.