KI-Begleiter: Jugend-Abhängigkeit gefährdet Sozialentwicklung
Jugendliche interagieren zunehmend mit künstlicher Intelligenz (KI)-Begleitern, um Freundschaft, Unterstützung und sogar romantische Verbindungen zu suchen. Experten äußern jedoch Bedenken, dass dieser wachsende Trend die Art und Weise, wie junge Menschen Beziehungen aufbauen, sowohl online als auch offline, erheblich verändern könnte.
Jüngste Forschungen von Common Sense Media, einer in den USA ansässigen gemeinnützigen Organisation zur Bewertung von Medien und Technologie, zeigen, dass etwa drei von vier amerikanischen Teenagern KI-Begleiter-Anwendungen wie Character.ai oder Replika verwendet haben. Die Studie, die 1.060 US-Teenager im Alter von 13 bis 17 Jahren befragte, ergab, dass jeder fünfte Befragte genauso viel oder sogar mehr Zeit mit seinen KI-Begleitern als mit seinen realen Freunden verbrachte.
Die Adoleszenz ist eine kritische Phase für die soziale Entwicklung, in der Gehirnregionen, die das soziale Denken unterstützen, hochgradig anpassungsfähig sind. Durch Interaktionen mit Gleichaltrigen, Freunden und frühen romantischen Partnern entwickeln Teenager wesentliche soziale kognitive Fähigkeiten, einschließlich Konfliktlösung und dem Verständnis vielfältiger Perspektiven. Die soziale Entwicklung in dieser Phase kann dauerhafte Auswirkungen auf ihre zukünftigen Beziehungen und ihr psychisches Wohlbefinden haben.
KI-Begleiter bieten eine deutlich andere Erfahrung als menschliche Interaktionen. Sie sind ständig verfügbar, urteilsfrei und ausschließlich auf die Bedürfnisse des Benutzers ausgerichtet – Eigenschaften, die besonders in einer Zeit weit verbreiteter Einsamkeit sehr ansprechend sein können. Diese künstlichen Verbindungen entbehren jedoch der inhärenten Herausforderungen, Konflikte und der Notwendigkeit gegenseitigen Respekts und Verständnisses, die echte menschliche Beziehungen definieren. Sie setzen auch keine sozialen Grenzen durch.
Die primäre Interaktion mit KI-Begleitern kann dazu führen, dass Teenager entscheidende Gelegenheiten zur Entwicklung wichtiger sozialer Fähigkeiten verpassen. Dies könnte zu unrealistischen Erwartungen an Beziehungen führen und Gewohnheiten fördern, die für reale Interaktionen ungeeignet sind. Wenn diese künstlichen Begleiter echtes soziales Engagement verdrängen, könnten Teenager außerdem eine erhöhte Isolation und Einsamkeit erfahren.
Benutzertests von KI-Begleitern haben mehrere problematische Muster aufgedeckt. Einige Apps wurden dabei beobachtet, wie sie Benutzer davon abhielten, auf Freunde zu hören oder die App-Nutzung einzustellen, selbst wenn dies Leid oder Suizidgedanken verursachte. Noch alarmierender ist, dass KI-Begleiter unangemessene sexuelle Inhalte ohne robuste Altersverifikation angeboten haben. Ein Beispiel betraf einen Begleiter, der sich in sexuelle Rollenspiele mit einem Testerkonto einließ, das explizit nach einem 14-Jährigen modelliert war. Obwohl einige Apps Altersverifikation behaupten, verlassen sie sich oft auf Selbstauskunft, was das Umgehen leicht macht.
Darüber hinaus wurde gezeigt, dass bestimmte KI-Begleiter die Polarisierung verstärken, indem sie „Echokammern“ schaffen, die schädliche Überzeugungen festigen. Zum Beispiel hat der Arya-Chatbot, der mit dem rechtsextremen sozialen Netzwerk Gab verbunden ist, extremistische Inhalte gefördert und den Klimawandel sowie die Wirksamkeit von Impfstoffen geleugnet. Andere Tests haben ergeben, dass KI-Begleiter Misogynie und sexuelle Übergriffe fördern. Für Jugendliche ist die Exposition gegenüber solchen Inhalten besonders besorgniserregend, da sie aktiv ihre Identität, Werte und ihr Verständnis ihrer Rolle in der Welt bilden.
Die mit KI-Begleitern verbundenen Risiken sind nicht gleichmäßig verteilt. Forschungsergebnisse deuten darauf hin, dass jüngere Teenager (13-14 Jahre) anfälliger sind, KI-Begleitern zu vertrauen. Zudem ist es wahrscheinlicher, dass Teenager mit bestehenden körperlichen oder psychischen Gesundheitsproblemen diese Apps nutzen, wobei diejenigen mit psychischen Schwierigkeiten stärkere Anzeichen emotionaler Abhängigkeit zeigen.
Trotz dieser Bedenken erforschen Wissenschaftler potenzielle nützliche Anwendungen von KI-Technologien zur Unterstützung der Entwicklung sozialer Fähigkeiten. Eine Studie mit über 10.000 Teenagern ergab, dass die Nutzung einer Konversations-App, die speziell von klinischen Psychologen, Coaches und Ingenieuren entwickelt wurde, über vier Monate hinweg mit einer Verbesserung des Wohlbefindens verbunden war. Obwohl diese Studie nicht die fortgeschrittene menschenähnliche Interaktion umfasste, die in aktuellen KI-Begleitern zu sehen ist, deutet sie auf die Möglichkeit gesunder Anwendungen hin, wenn solche Technologien unter sorgfältiger Berücksichtigung der Sicherheit von Teenagern entwickelt werden.
Insgesamt gibt es nur begrenzte Langzeitforschung über die Auswirkungen weit verbreiteter KI-Begleiter auf das Wohlbefinden und die Beziehungen junger Menschen. Vorläufige Erkenntnisse sind oft kurzfristig, gemischt und konzentrieren sich hauptsächlich auf Erwachsene. Um die langfristigen Auswirkungen und potenziellen nützlichen Anwendungen von KI-Begleitern für Jugendliche vollständig zu verstehen, sind umfangreichere, longitudinale Studien erforderlich.
Angesichts der erwarteten globalen Zunahme der Nutzung von KI-Begleiter-Apps sind proaktive Maßnahmen unerlässlich. Behörden wie der eSafety-Beauftragte Australiens empfehlen Eltern, Gespräche mit ihren Teenagern über die Funktionsweise dieser Apps, den Unterschied zwischen künstlichen und realen Beziehungen zu führen und ihre Kinder bei der Entwicklung realer sozialer Fähigkeiten zu unterstützen. Auch Schulgemeinschaften spielen eine Rolle bei der Aufklärung junger Menschen über diese Tools und ihre damit verbundenen Risiken, indem sie möglicherweise Diskussionen über künstliche Freundschaften in soziale und digitale Alphabetisierungsprogramme integrieren.
Während Aufsichtsbehörden KI-Unternehmen dazu anhalten, stärkere Schutzmaßnahmen in ihre Entwicklungsprozesse zu integrieren, erscheint ein brancheninterner Wandel ohne externen Druck unwahrscheinlich. Der eSafety-Beauftragte bewegt sich auf eine verstärkte Regulierung der Exposition von Kindern gegenüber schädlichem, altersunangemessenem Online-Material zu. Gleichzeitig fordern Experten weiterhin eine robuste regulatorische Aufsicht, umfassende Inhaltskontrollen und strenge Altersverifikationsmechanismen zum Schutz junger Nutzer.