KI-Governance-Lücke bedroht Vertrauen trotz Agenten-KI-Fortschritt
Eine neue Studie von Genesys enthüllt einen besorgniserregenden Graben zwischen der Art und Weise, wie Unternehmen künstliche Intelligenz regieren, und dem grundlegenden Vertrauen, das Verbraucher benötigen, um sich bei der Nutzung dieser zunehmend autonomen Systeme sicher zu fühlen. Während vier von fünf befragten Verbrauchern eine klare Aufsicht für KI-Interaktionen fordern, geben weniger als ein Drittel (31 Prozent) der Unternehmensführer an, dass ihre Organisationen umfassende, unternehmensweite KI-Richtlinien und robuste Aufsichtsmechanismen implementiert haben.
Diese Diskrepanz tritt auf, da „Agenten-KI“ – autonome Systeme, die zu unabhängigem Denken, Handeln und Entscheiden fähig sind – zu einem immer zentraleren Bestandteil der Unternehmensstrategien für die Kundenerfahrung (CX) wird. Beeindruckende 91 Prozent der CX-Führungskräfte glauben, dass diese Systeme ihre Organisationen befähigen werden, schnellere, effektivere und hochgradig personalisierte Dienste zu liefern. Doch trotz dieser weit verbreiteten Begeisterung für das transformative Potenzial der KI zeichnen die Daten ein komplexes Bild: Die Governance-Strukturen hinken kritisch hinterher, was Unternehmen erheblichen Risiken in Bezug auf Verbrauchervertrauen, Markenreputation und regulatorische Compliance aussetzt.
„Agenten-KI erschließt aufregende neue Wege, wie Organisationen ihre Kunden bedienen, aber das Gewinnen des Verbrauchervertrauens muss Hand in Hand mit dieser Innovation gehen“, bemerkte Olivier Jouve, Chief Product Officer bei Genesys. „Da diese Systeme größere Verantwortung übernehmen, ist es unerlässlich, dass Unternehmen bei ihrer Bereitstellung transparent und rechenschaftspflichtig bleiben. Durch die frühzeitige Etablierung der richtigen Schutzmaßnahmen können Unternehmen durch verantwortungsvolle Innovation, die Kundenerlebnisse auf neue Ebenen der Personalisierung und Effektivität hebt, dauerhaftes Vertrauen aufbauen.“
Die Notwendigkeit einer starken Governance ist den CX-Führungskräften nicht entgangen; über 90 Prozent von ihnen stimmen zu, dass sie für den Schutz des Markenrufs (91 Prozent), die Förderung langfristigen Kundenvertrauens und -loyalität (91 Prozent) sowie die Steigerung des Komforts der Verbraucher mit autonomen Systemen (90 Prozent) von entscheidender Bedeutung ist. Dennoch sind viele Organisationen weiterhin schlecht vorbereitet. Mehr als ein Drittel der CX-Führungskräfte (35 Prozent) geben zu, minimale oder gar keine formalen Governance-Richtlinien zu haben. Noch beunruhigender ist, dass 28 Prozent derjenigen, die überhaupt keine Richtlinien haben, immer noch glauben, dass ihre Organisationen bereit sind, Agenten-KI einzusetzen.
Dieses Governance-Defizit nimmt eine noch alarmierendere Dimension an, wenn es den Ängsten der Verbraucher gegenübergestellt wird. Viele Personen hegen Vorbehalte aufgrund eines wahrgenommenen Mangels an Transparenz bezüglich der Nutzung ihrer Daten und einer klaren Abwesenheit von Aufsicht. Tatsächlich erwies sich die Klarheit über die Nutzung persönlicher Daten durch KI als das Hauptanliegen der Befragten. Erschwerend kommt hinzu, dass 37 Prozent der Verbraucher glauben, dass KI „halluziniert“ oder Informationen fabriziert – eine Besorgnis, die von 59 Prozent der CX-Führungskräfte geteilt wird, die anerkennen, dass solche Fabrikationen ernsthafte Bedrohungen für die Kundenloyalität, den Markenruf und sogar potenzielle Rechtsstreitigkeiten darstellen. Diese wahrgenommene Unzuverlässigkeit untergräbt das Vertrauen weiter und unterstreicht den dringenden Bedarf an Schutzmaßnahmen, die Genauigkeit und Rechenschaftspflicht in KI-gesteuerten Erlebnissen garantieren.
Die Diskrepanz zwischen dem, was Führungskräfte als wesentlich anerkennen, und dem, was Organisationen tatsächlich umgesetzt haben, ist angesichts der expliziten Verbraucherforderung nach Transparenz und Aufsicht besonders besorgniserregend. Diese Lücke zu schließen, ist für Unternehmen von entscheidender Bedeutung, bevor sie den großflächigen Einsatz von Agenten-KI in Betracht ziehen. Während robuste 81 Prozent der CX-Führungskräfte Vertrauen in die Nutzung von Agenten-KI für sensible Kundendaten äußern, teilen nur magere 36 Prozent der Verbraucher diese Ansicht. Diese Vertrauenslücke wird in Szenarien mit höherem Risiko noch ausgeprägter. Unternehmen zeigen großes Vertrauen in den Einsatz von Agenten-KI für kritische Kundenfunktionen, wobei sich 74 Prozent mit der Nutzung der Technologie für Abrechnungen, Finanztransaktionen und Kontosicherheit wohlfühlen. Verbraucher sind jedoch erheblich zögerlicher: Nur 35 Prozent fühlen sich wohl dabei, wenn Agenten-KI Geldüberweisungen abwickelt, 49 Prozent bei der Lösung von Abrechnungsproblemen und 50 Prozent bei der Aktualisierung persönlicher Informationen.
Trotz dieser Vorsicht offenbaren die Daten eine bedeutende Chance. Über die Hälfte der Verbraucher (58 Prozent) geben an, dass es ihnen gleichgültig ist, ob ihr Problem von einem Menschen oder einer KI gelöst wird, vorausgesetzt, es wird schnell und umfassend bearbeitet. Dies deutet darauf hin, dass Effizienz und Effektivität in der Kundenerfahrung Skepsis überwinden können, aber nur, wenn sie nahtlos mit unerschütterlicher Transparenz und Rechenschaftspflicht gepaart sind. Um die Vertrauenslücke zu schließen und verantwortungsvoll zu innovieren, müssen Organisationen ihre KI-Initiativen mit einem entschlossenen kundenorientierten Ansatz skalieren.