Studie warnt: KI-Abhängigkeit führt zu „Deskilling“ bei Ärzten
Künstliche Intelligenz verändert das Gesundheitswesen rasant und verspricht eine verbesserte Diagnosegenauigkeit und bessere Patientenergebnisse. Doch eine neue Untersuchung deutet auf ein besorgniserregendes Paradoxon hin: Während KI-Tools die Leistung kurzfristig erheblich steigern können, könnte übermäßige Abhängigkeit die menschliche Expertise subtil beeinträchtigen und Fachleute potenziell weniger fähig machen, wenn Technologie fehlt.
Eine kürzlich in The Lancet Gastroenterology & Hepatology veröffentlichte Studie beleuchtet diese Dynamik innerhalb der Endoskopie. Die Forschung konzentrierte sich auf den Einsatz von KI-Bilderkennungstechnologie zur Identifizierung und Entfernung präkanzeröser Wucherungen, bekannt als Adenome, während Koloskopien. Erste Ergebnisse bestätigten den Nutzen von KI und zeigten eine Steigerung der Adenom-Erkennungsraten (ADR) um 12,5 Prozent, wenn die Technologie eingesetzt wurde – eine Entwicklung, die Leben retten soll. Die Studie untersuchte jedoch anschließend, was geschah, wenn Endoskopiker, die zuvor an KI-Unterstützung gewöhnt waren, Koloskopien ohne das Tool durchführten.
Die Ergebnisse waren frappierend. Basierend auf Daten von vier Endoskopiezentren in Polen zwischen September 2021 und März 2022 verglich die Analyse die ADRs von Standard-Koloskopien ohne KI-Unterstützung vor und nach der Exposition der Ärzte gegenüber KI in ihren Kliniken. Die Studie ergab, dass die Adenom-Erkennungsrate für Standard-Koloskopien von 28,4 Prozent vor der KI-Exposition auf 22,4 Prozent danach signifikant sank, was einem absoluten Rückgang von 6,0 Prozent entspricht. Dies führte die Autoren zu dem Schluss, dass “kontinuierliche Exposition gegenüber KI die ADR der Standard-Koloskopie ohne KI-Unterstützung reduzieren könnte, was einen negativen Effekt auf das Verhalten des Endoskopikers nahelegt.”
Dieses Ergebnis spiegelt Warnungen wider, die von Berufsverbänden bereits vor Jahren ausgesprochen wurden. Im Jahr 2019 warnte die Europäische Gesellschaft für Gastrointestinale Endoskopie (ESGE) in ihren KI-Leitlinien vor dem Risiko von “Deskilling” und “übermäßiger Abhängigkeit von künstlicher Intelligenz” als erhebliche Bedenken während der Implementierung. Die Autoren des Lancet-Papiers glauben, dass ihre Studie die erste ist, die den Effekt kontinuierlicher KI-Exposition auf klinische Ergebnisse direkt beobachtet, und sie hoffen, dass sie weitere wichtige Forschung zu den umfassenderen Auswirkungen von KI auf medizinisches Fachpersonal anstoßen wird.
Das Phänomen des “Deskilling” aufgrund von Automatisierung ist nicht neu. Vor Jahrzehnten erforschte die Psychologin Lisanne Bainbridge dieses Konzept in ihrer Arbeit von 1983, “Ironies of Automation”, und stellte fest, wie die Automatisierung industrieller Prozesse unbeabsichtigt neue Probleme für menschliche Bediener schaffen konnte, anstatt einfach alte zu lösen. In jüngerer Zeit haben Forscher der Purdue University dieses Prinzip auf moderne Kontexte angewendet und legen nahe, dass Designer, die sich übermäßig auf KI verlassen, ebenfalls eine behinderte Kompetenzentwicklung erfahren könnten.
Diese Bedenken reichen über medizinische und Designbereiche hinaus. Im Juni veröffentlichten MIT-Forscher eine verwandte Studie, die den Einsatz von Large Language Model (LLM) Chatbots mit geringerer Gehirnaktivität in Verbindung bringt, was auf potenzielle kognitive Kosten einer übermäßigen Delegation an KI hindeutet. Der Informatiker Arvind Narayanan von der Princeton University hat ebenfalls Bedenken hinsichtlich des Deskilling von Entwicklern geäußert. Er unterscheidet dies von früheren Befürchtungen, dass Compiler die Notwendigkeit für Programmierer, Maschinencode zu verstehen, eliminieren würden, was sich nie materialisiert hat. Stattdessen befürchtet Narayanan ein Szenario, in dem ein Junior-Entwickler so stark auf KI für “Vibe-Coding” angewiesen ist, dass er die grundlegende Fähigkeit verliert, unabhängig zu programmieren, da ihm ein Verständnis der Kernprogrammierprinzipien fehlt.
Während KI beispiellose Effizienz und Fähigkeiten verspricht, unterstreichen diese Studien gemeinsam eine kritische Herausforderung: die Integration fortschrittlicher Technologie auf eine Weise, die menschliche Fähigkeiten und kritisches Denken wirklich erweitert, anstatt sie unbeabsichtigt zu mindern. Die laufende Forschung unterstreicht die Notwendigkeit eines nuancierten Ansatzes bei der Einführung von KI, der die technologische Unterstützung sorgfältig mit dem Gebot in Einklang bringt, menschliche Expertise zu erhalten und zu kultivieren.