UK setzt auf KI für öffentliche Dienste: Sorge vor „Halluzinationen“

Die Regierung des Vereinigten Königreichs hat eine ehrgeizige Reihe von „Exemplar“-Programmen vorgestellt, die einen bedeutenden Sprung in den Bereich der künstlichen Intelligenz signalisieren, mit dem Versprechen, Milliarden an wirtschaftlichem Wert zu liefern und die öffentlichen Dienste grundlegend neu zu gestalten. Im Mittelpunkt dieser Initiativen steht die Vision von KI-gestützten virtuellen Assistenten, die Bürger durch die labyrinthartigen Komplexitäten von Regierungsformularen und juristischem Fachjargon führen sollen. Während Technologieminister Peter Kyle MP behauptet, dass dies ein „unvorstellbares“ Serviceniveau bieten, Einzelpersonen bei der Jobsuche helfen und den Verwaltungsaufwand reduzieren könnte, weisen Kritiker sofort darauf hin, dass diese Tools dazu gedacht sind, bei der Navigation durch die bestehende Bürokratie zu helfen, anstatt diese von Grund auf zu vereinfachen.

Ein Schlüsselbestandteil dieser bürgernahen Strategie ist die Entwicklung eines Prototyps eines KI-Assistenten in den nächsten sechs bis zwölf Monaten. Sollte diese Evaluierung erfolgreich sein, ist ein landesweiter Rollout ab Ende 2027 geplant. Die Regierung hat jedoch noch nicht klargestellt, welche „weltweit klügsten KI-Entwickler“ an diesem Vorhaben beteiligt waren, noch hat sie Zusicherungen bezüglich der rechtlichen Auswirkungen gegeben, falls diese großen Sprachmodelle (LLMs) „halluzinieren“ – ein Begriff dafür, wenn KI plausible, aber sachlich falsche Informationen generiert. Solche Fehler könnten, wenn sie in offiziellen Regierungsinteraktionen angewendet werden, Bürger potenziell in erhebliche rechtliche Schwierigkeiten bringen. Das Department for Science, Innovation and Technology (DSIT) hat erklärt, dass das bürgernahe Programm „vollständig optional zu nutzen“ sein wird, aber Details zum Benutzerschutz bleiben schwer fassbar.

Über die öffentliche Interaktion hinaus treibt die Regierung auch KI-Anwendungen innerhalb ihrer operativen Rahmenbedingungen voran. Ärzte sollen beispielsweise Zugang zu LLM-Technologie erhalten, um das Verfassen von Entlassungsdokumenten durch Extrahieren entscheidender Details aus Krankenakten, einschließlich Diagnosen und Testergebnissen, zu beschleunigen. Diese Initiative, die bereits beim Chelsea and Westminster NHS Trust mit Mitteln aus dem AI Exemplars-Programm entwickelt wird, wirft ähnliche Bedenken hinsichtlich des „Halluzinations“-Problems und der Grenzen der „Kontextfensterlänge“ eines LLM auf, was potenziell zu Ungenauigkeiten in Patientenakten führen könnte. Ein weiteres Projekt, „Justice Transcribe“, setzt aktiv maschinelle Lernmodelle für die Live-Notizen und Transkription durch Bewährungshelfer ein, mit Plänen für einen nationalen Rollout an die gesamte 12.000 Mitarbeiter starke Belegschaft nach einer Pilotphase. Weitere angekündigte Projekte umfassen einen „KI-Inhaltsspeicher“ für Schulen, ein Tool namens „Extract“ zur schnellen Digitalisierung von Informationen aus alten handschriftlichen Planungsdokumenten und Karten sowie der zuvor enthüllte „Humphrey“-Assistent für Beamte – ein Name, der ironischerweise nach dem machiavellistischen Beamten aus der satirischen Fernsehserie Yes, Minister gewählt wurde.

Diese kollektiven KI-Exemplar-Bemühungen sollen laut Kyle beeindruckende Produktivitätsgewinne von 45 Milliarden Pfund im gesamten Vereinigten Königreich freisetzen. Ein Großteil dieser strategischen Ausrichtung wird von Jade Leung überwacht, die zur KI-Beraterin des Premierministers ernannt wurde und gleichzeitig als Chief Technology Officer am AI Security Institute tätig ist. Leung, mit einem Hintergrund, der eine Oxford-Promotion in KI-Governance und eine Tätigkeit bei OpenAI umfasst, ist damit beauftragt, das Vereinigte Königreich als globalen Führer bei der Nutzung der Vorteile der KI und der Vorbereitung auf deren gesellschaftliche Auswirkungen zu positionieren. Ihre Ernennung unterstreicht das tiefe Engagement der Regierung, KI in ihre Kernfunktionen und öffentlichen Dienste zu integrieren.

Die leidenschaftliche Akzeptanz von KI durch die britische Regierung ist unverkennbar, mit ehrgeizigen Zeitplänen und signifikanten wirtschaftlichen Prognosen. Doch während diese transformativen Technologien vom theoretischen Versprechen zur praktischen Anwendung übergehen, bestehen weiterhin kritische Fragen hinsichtlich der Minderung inhärenter KI-Risiken, insbesondere des Potenzials für sachliche Ungenauigkeiten und deren rechtliche Auswirkungen für Bürger. Der Weg nach vorn ist sowohl mit immensen Chancen als auch mit komplexen Herausforderungen gepflastert, die robuste Lösungen für Sicherheit, Zuverlässigkeit und Rechenschaftspflicht erfordern.