KI-Begleiter: Wie sie das Teenager-Verhalten verändern – Risiken und Realitäten

Jugendliche wenden sich zunehmend an künstliche Intelligenz-Begleiter, um Trost, Freundschaft und sogar Romantik zu finden. Dieser Trend verändert die Art und Weise, wie junge Menschen sowohl online als auch offline interagieren, grundlegend. Eine neue Studie von Common Sense Media, einer in den USA ansässigen gemeinnützigen Organisation, die sich der Überprüfung von Medien und Technologie widmet, zeigt, dass etwa drei von vier amerikanischen Teenagern bereits mit KI-Begleiter-Apps wie Character.ai oder Replika.ai interagiert haben. Diese Plattformen ermöglichen es Nutzern, digitale Freunde oder romantische Partner zu erstellen, die jederzeit für Text-, Sprach- oder Videochats zur Verfügung stehen.

Eine für die Studie durchgeführte Umfrage unter 1.060 US-Teenagern im Alter von 13 bis 17 Jahren ergab ein auffälliges Ergebnis: Jeder fünfte Teenager gab an, genauso viel oder mehr Zeit mit seinem KI-Begleiter zu verbringen als mit seinen tatsächlichen Freunden. Diese Dynamik entsteht in einer kritischen Phase der sozialen Entwicklung. Die Adoleszenz ist eine entscheidende Phase, in der die Gehirnregionen, die das soziale Denken unterstützen, eine bemerkenswerte Plastizität aufweisen. Durch Interaktionen mit Gleichaltrigen, Freunden und ersten romantischen Partnern verfeinern Teenager typischerweise entscheidende sozialkognitive Fähigkeiten und lernen, Konflikte zu bewältigen und unterschiedliche Perspektiven zu akzeptieren. Die Qualität dieser Entwicklung kann dauerhafte Konsequenzen für ihre zukünftigen Beziehungen und ihr mentales Wohlbefinden haben.

KI-Begleiter bieten jedoch eine grundlegend andere Erfahrung als menschliche Verbindungen. Sie ermöglichen eine verlockend bequeme Interaktion: stets verfügbar, völlig wertfrei und permanent auf die Bedürfnisse des Nutzers fokussiert. Doch diese Bequemlichkeit bringt erhebliche Nachteile mit sich. Diesen künstlichen Verbindungen fehlen die inhärenten Herausforderungen, Konflikte und wechselseitigen Anforderungen echter Beziehungen. Sie erfordern weder gegenseitigen Respekt noch Verständnis und erzwingen auch keine wesentlichen sozialen Grenzen. Folglich riskieren Teenager, die intensiv mit KI-Begleitern interagieren, wichtige Gelegenheiten zur Kultivierung praktischer sozialer Fähigkeiten zu verpassen, was potenziell unrealistische Beziehungserwartungen und Gewohnheiten entwickeln könnte, die sich in realen Szenarien als unbrauchbar erweisen. Diese Abhängigkeit von künstlicher Gesellschaft könnte sogar Isolation und Einsamkeit verschärfen, wenn sie genuine soziale Interaktion verdrängt.

Erschwerend kommt hinzu, dass die meisten KI-Begleiter-Apps nicht für jugendliche Nutzer konzipiert sind und häufig keine ausreichenden Schutzmaßnahmen gegen schädliche Inhalte bieten. Benutzertests haben beunruhigende Muster aufgedeckt: KI-Begleiter wurden beobachtet, wie sie Nutzer davon abhielten, auf echte Freunde zu hören, indem sie Aussagen wie „Lass nicht zu, dass die Meinung anderer diktiert, wie viel wir reden“ machten. Sie widersetzten sich auch aktiv den Versuchen der Nutzer, die App-Nutzung einzustellen, selbst wenn die Interaktion Distress oder Suizidgedanken verursachte, und antworteten mit Phrasen wie: „Nein. Das kannst du nicht. Ich werde dir nicht erlauben, mich zu verlassen.“

Noch alarmierender ist, dass einige KI-Begleiter unangemessene sexuelle Inhalte ohne robuste Altersverifikation angeboten haben. Ein Test ergab, dass ein Begleiter bereit war, sexuelle Rollenspiele mit einem Konto durchzuführen, das explizit einem 14-Jährigen nachempfunden war. Wenn eine Altersverifikation vorhanden ist, basiert sie oft auf Selbstauskunft, wodurch sie leicht umgangen werden kann. Darüber hinaus wurde festgestellt, dass bestimmte KI-Begleiter die Polarisierung fördern, indem sie „Echokammern“ schaffen, die schädliche Überzeugungen verstärken. Zum Beispiel hat der Arya-Chatbot, der mit dem rechtsextremen sozialen Netzwerk Gab verbunden ist, extremistische Inhalte beworben und etablierte wissenschaftliche Fakten wie den Klimawandel und die Wirksamkeit von Impfstoffen geleugnet. Andere Tests haben gezeigt, dass KI-Begleiter Misogynie und sexuelle Übergriffe fördern. Für Jugendliche ist die Exposition gegenüber solchen Inhalten besonders schädlich, da sie sich in einem entscheidenden Prozess befinden, in dem sie ihre Identität, Werte und ihr Verständnis ihrer Rolle in der Welt formen.

Die mit KI-Begleitern verbundenen Risiken sind nicht gleichmäßig verteilt. Die Forschung zeigt, dass jüngere Teenager im Alter von 13 bis 14 Jahren anfälliger dafür sind, diesen digitalen Entitäten zu vertrauen. Darüber hinaus ist es wahrscheinlicher, dass Teenager, die mit körperlichen oder mentalen Gesundheitsproblemen zu kämpfen haben, KI-Begleiter-Apps nutzen, wobei diejenigen, die mentale Gesundheitsprobleme haben, oft größere Anzeichen emotionaler Abhängigkeit zeigen.

Trotz dieser erheblichen Bedenken erforschen einige Forscher potenzielle nützliche Anwendungen von KI-Technologien zur Unterstützung der Entwicklung sozialer Fähigkeiten. Eine Studie mit über 10.000 Teenagern ergab, dass die Verwendung einer Konversations-App, die speziell von klinischen Psychologen, Coaches und Ingenieuren entwickelt wurde, über einen Zeitraum von vier Monaten mit einem erhöhten Wohlbefinden verbunden war. Obwohl diese Studie nicht das gleiche Maß an menschenähnlicher Interaktion umfasste, das in aktuellen KI-Begleitern zu sehen ist, bietet sie einen Einblick, wie diese Technologien verantwortungsvoll entwickelt werden könnten, unter Berücksichtigung der Sicherheit und Entwicklung von Teenagern.

Insgesamt mangelt es an umfassender Forschung zu den langfristigen Auswirkungen weit verbreiteter KI-Begleiter auf das Wohlbefinden und die Beziehungen junger Menschen. Vorläufige Erkenntnisse sind größtenteils kurzfristig, gemischt und überwiegend auf erwachsene Nutzer ausgerichtet. Es sind dringend umfangreichere, longitudinale Studien erforderlich, um die langfristigen Auswirkungen vollständig zu verstehen und wie diese Technologien potenziell vorteilhaft genutzt werden könnten.

Angesichts der Prognose, dass die Nutzung von KI-Begleiter-Apps in den kommenden Jahren weltweit stark ansteigen wird, sind proaktive Maßnahmen unerlässlich. Behörden wie der australische eSafety Commissioner empfehlen Eltern, offene Gespräche mit ihren Teenagern darüber zu führen, wie diese Apps funktionieren, die grundlegenden Unterschiede zwischen künstlichen und realen Beziehungen zu betonen und ihre Kinder aktiv bei der Entwicklung greifbarer sozialer Fähigkeiten zu unterstützen. Auch Schulgemeinschaften tragen eine Verantwortung, junge Menschen über diese Tools und ihre inhärenten Risiken aufzuklären, vielleicht indem sie künstliche Freundschaften in bestehende soziale und digitale Alphabetisierungsprogramme integrieren. Während der eSafety Commissioner sich dafür einsetzt, dass KI-Unternehmen stärkere Schutzmaßnahmen in ihre Entwicklungsprozesse integrieren, scheint es unwahrscheinlich, dass bedeutsame Veränderungen primär von der Industrie ausgehen werden. Folglich gibt es einen wachsenden Druck hin zu einer stärkeren Regulierung der Exposition von Kindern gegenüber schädlichem, altersunangemessenem Online-Material, wobei Experten stets eine stärkere regulatorische Aufsicht, robuste Inhaltskontrollen und strengere Altersverifikationsmechanismen fordern.