IA Agissante: La Gouvernance Lacunaire Menace la Confiance
Une nouvelle étude de Genesys révèle un fossé préoccupant entre la manière dont les entreprises gouvernent l’intelligence artificielle et la confiance fondamentale dont les consommateurs ont besoin pour se sentir en sécurité en utilisant ces systèmes de plus en plus autonomes. Alors que quatre consommateurs sur cinq interrogés exigent une surveillance claire pour les interactions avec l’IA, moins d’un tiers (31 pour cent) des dirigeants d’entreprise déclarent que leurs organisations ont mis en place des politiques d’IA complètes et robustes, ainsi que des mécanismes de surveillance à l’échelle de l’entreprise.
Cette déconnexion apparaît alors que l’« IA agissante » — des systèmes autonomes capables de pensée, d’action et de prise de décision indépendantes — devient une composante de plus en plus centrale des stratégies d’expérience client (CX) des entreprises. Un pourcentage frappant de 91 % des leaders CX estiment que ces systèmes permettront à leurs organisations de fournir un service plus rapide, plus efficace et hautement personnalisé. Pourtant, malgré cet enthousiasme généralisé pour le potentiel transformateur de l’IA, les données brossent un tableau complexe : les structures de gouvernance sont gravement en retard, exposant les entreprises à des risques substantiels concernant la confiance des consommateurs, la réputation de la marque et la conformité réglementaire.
« L’IA agissante ouvre de nouvelles voies passionnantes pour la manière dont les organisations servent leurs clients, mais gagner la confiance des consommateurs doit progresser de concert avec cette innovation », a fait remarquer Olivier Jouve, directeur des produits chez Genesys. « À mesure que ces systèmes assument une plus grande responsabilité, il est impératif que les entreprises restent transparentes et responsables dans leur déploiement. En établissant les bonnes sauvegardes dès le départ, les entreprises peuvent cultiver une confiance durable grâce à une innovation responsable qui élève les expériences client à de nouveaux niveaux de personnalisation et d’efficacité. »
L’impératif d’une gouvernance solide n’échappe pas aux leaders CX, dont plus de 90 % conviennent qu’elle est vitale pour protéger la réputation de la marque (91 %), favoriser la confiance et la fidélité des clients à long terme (91 %) et accroître le confort des consommateurs avec les systèmes autonomes (90 %). Néanmoins, de nombreuses organisations restent mal préparées. Plus d’un tiers des leaders CX (35 %) admettent n’avoir que des politiques de gouvernance formelles minimales ou inexistantes. Plus troublant encore, 28 % de ceux qui n’ont aucune politique croient toujours que leurs organisations sont prêtes à déployer l’IA agissante.
Ce déficit de gouvernance prend une dimension plus alarmante lorsqu’il est juxtaposé aux anxiétés des consommateurs. De nombreux individus nourrissent des réserves en raison d’un manque perçu de transparence concernant l’utilisation de leurs données et d’une absence claire de surveillance. En fait, la clarté sur l’utilisation des données personnelles par l’IA est apparue comme la principale préoccupation des répondants. Pour aggraver les choses, 37 % des consommateurs pensent que l’IA « hallucine » ou fabrique des informations – une préoccupation partagée par 59 % des leaders CX, qui reconnaissent que de telles fabrications posent de sérieuses menaces à la fidélité des clients, à la réputation de la marque et même à d’éventuels litiges. Cette perception d’incertitude érode davantage la confiance, soulignant le besoin urgent de garanties qui assurent l’exactitude et la responsabilité dans les expériences basées sur l’IA.
La disparité entre ce que les leaders reconnaissent comme essentiel et ce que les organisations ont réellement mis en œuvre est particulièrement préoccupante compte tenu de la demande explicite des consommateurs en matière de transparence et de surveillance. Combler ce fossé est essentiel pour les entreprises avant qu’elles n’envisagent de déployer l’IA agissante à grande échelle. Alors qu’un solide 81 % des leaders CX expriment leur confiance dans l’utilisation de l’IA agissante pour les données clients sensibles, seulement 36 % des consommateurs partagent ce sentiment. Cet écart de confiance devient encore plus prononcé dans les scénarios à enjeux plus élevés. Les entreprises affichent une forte confiance dans le déploiement de l’IA agissante pour les fonctions client critiques, 74 % étant à l’aise avec l’utilisation de la technologie pour la facturation, les transactions financières et la sécurité des comptes. Les consommateurs, cependant, sont considérablement plus hésitants : seulement 35 % sont à l’aise avec l’IA agissante gérant les virements, 49 % avec la résolution des problèmes de facturation et 50 % avec la mise à jour des informations personnelles.
Malgré cette méfiance, les données révèlent une opportunité significative. Plus de la moitié des consommateurs (58 %) indiquent qu’ils sont indifférents quant à savoir si leur problème est résolu par un humain ou une IA, à condition qu’il soit traité rapidement et de manière exhaustive. Cela suggère que l’efficacité et l’efficience de l’expérience client peuvent surmonter le scepticisme, mais seulement lorsqu’elles sont parfaitement associées à une transparence et une responsabilité inébranlables. Pour combler le fossé de confiance et innover de manière responsable, les organisations doivent étendre leurs initiatives d’IA avec une approche résolument centrée sur le consommateur.