Brecha de Gobernanza en IA Agéntica Amenaza Confianza del Consumidor
Un nuevo estudio de Genesys revela un abismo preocupante entre cómo las empresas gobiernan la inteligencia artificial y la confianza fundamental que los consumidores requieren para sentirse seguros al usar estos sistemas cada vez más autónomos. Si bien un significativo cuatro de cada cinco consumidores encuestados exigen una supervisión clara para las interacciones de IA, menos de un tercio (31 por ciento) de los líderes empresariales informan que sus organizaciones tienen políticas de IA integrales y sólidas, y mecanismos de supervisión implementados en toda la empresa.
Esta desconexión surge a medida que la “IA agéntica” —sistemas autónomos capaces de pensamiento, acción y toma de decisiones independientes— se convierte en un componente cada vez más central de las estrategias de experiencia del cliente (CX) empresarial. Un sorprendente 91 por ciento de los líderes de CX creen que estos sistemas empoderarán a sus organizaciones para ofrecer un servicio más rápido, efectivo y altamente personalizado. Sin embargo, a pesar de este entusiasmo generalizado por el potencial transformador de la IA, los datos pintan un panorama complejo: las estructuras de gobernanza están críticamente rezagadas, exponiendo a las empresas a riesgos sustanciales en cuanto a la confianza del consumidor, la reputación de la marca y el cumplimiento normativo.
“La IA agéntica está abriendo nuevas y emocionantes vías sobre cómo las organizaciones atienden a sus clientes, pero ganarse la confianza del consumidor debe avanzar al mismo ritmo que esa innovación”, comentó Olivier Jouve, director de producto de Genesys. “A medida que estos sistemas asumen una mayor responsabilidad, es imperativo que las empresas sigan siendo transparentes y responsables en su despliegue. Al establecer las salvaguardias adecuadas desde el principio, las empresas pueden cultivar una confianza duradera a través de una innovación responsable que eleva las experiencias del cliente a nuevos niveles de personalización y efectividad.”
La necesidad de una gobernanza sólida no pasa desapercibida para los líderes de CX, de los cuales más del 90 por ciento están de acuerdo en que es vital para proteger la reputación de la marca (91 por ciento), fomentar la confianza y lealtad del cliente a largo plazo (91 por ciento) y aumentar la comodidad del consumidor con los sistemas autónomos (90 por ciento). Sin embargo, muchas organizaciones siguen mal preparadas. Más de un tercio de los líderes de CX (35 por ciento) admiten tener políticas de gobernanza formales mínimas o nulas. Aún más preocupante, el 28 por ciento de aquellos que carecen completamente de políticas todavía creen que sus organizaciones están listas para implementar IA agéntica.
Este déficit de gobernanza adquiere una dimensión más alarmante cuando se yuxtapone con las ansiedades de los consumidores. Muchos individuos albergan reservas debido a una percibida falta de transparencia con respecto a cómo se utilizan sus datos y una clara ausencia de supervisión. De hecho, la claridad sobre el uso de datos personales por parte de la IA surgió como la principal preocupación entre los encuestados. Agravando esto, el 37 por ciento de los consumidores cree que la IA “alucina” o fabrica información, una preocupación compartida por el 59 por ciento de los líderes de CX, quienes reconocen que tales fabricaciones plantean serias amenazas a la lealtad del cliente, la reputación de la marca e incluso posibles litigios. Esta percibida falta de fiabilidad erosiona aún más la confianza, lo que subraya la necesidad urgente de salvaguardias que garanticen la precisión y la rendición de cuentas en las experiencias impulsadas por la IA.
La disparidad entre lo que los líderes reconocen como esencial y lo que las organizaciones realmente han implementado es particularmente preocupante dada la demanda explícita de los consumidores de transparencia y supervisión. Cerrar esta brecha es fundamental para las empresas antes de que consideren desplegar la IA agéntica a escala. Si bien un robusto 81 por ciento de los líderes de CX expresan confianza en el uso de la IA agéntica para datos sensibles de clientes, solo el 36 por ciento de los consumidores comparte este sentimiento. Esta brecha de confianza se hace aún más pronunciada en escenarios de mayor riesgo. Las empresas muestran una gran confianza en el despliegue de la IA agéntica para funciones críticas de clientes, con un 74 por ciento que se siente cómodo utilizando la tecnología para facturación, transacciones financieras y seguridad de la cuenta. Los consumidores, sin embargo, son considerablemente más reacios: solo el 35 por ciento se siente cómodo con la IA agéntica manejando transferencias de dinero, el 49 por ciento con la resolución de problemas de facturación y el 50 por ciento con la actualización de información personal.
A pesar de esta cautela, los datos revelan una oportunidad significativa. Más de la mitad de los consumidores (58 por ciento) indican que les es indiferente si su problema es resuelto por un humano o una IA, siempre que se maneje de manera rápida y completa. Esto sugiere que la eficiencia y la efectividad en la experiencia del cliente pueden superar el escepticismo, pero solo cuando se combinan sin problemas con una transparencia y rendición de cuentas inquebrantables. Para cerrar la brecha de confianza e innovar de manera responsable, las organizaciones deben escalar sus iniciativas de IA con un enfoque resuelto centrado en el consumidor.