代理式AI发展迅猛，治理鸿沟威胁消费者信任

Genesys发布的一项新研究揭示了一个令人担忧的鸿沟：企业管理人工智能的方式与消费者在使用这些日益自主的系统时所需的基本信任之间存在巨大差异。尽管受访消费者中有高达五分之四要求对AI互动进行明确监督，但只有不到三分之一（31%）的企业领导者表示其组织已制定了全面、全公司范围的AI政策和健全的监督机制。

这种脱节出现之际，“代理式AI”——即能够独立思考、行动和决策的自主系统——正日益成为企业客户体验（CX）策略的核心组成部分。高达91%的客户体验领导者认为，这些系统将使他们的组织能够提供更快、更有效、高度个性化的服务。然而，尽管对AI的变革潜力普遍充满热情，数据却描绘了一幅复杂的图景：治理结构严重滞后，使公司在消费者信任、品牌声誉和监管合规方面面临巨大风险。

Genesys首席产品官Olivier Jouve表示：“代理式AI正在为组织服务客户的方式开辟令人兴奋的新途径，但赢得消费者信任必须与这种创新同步进行。随着这些系统承担更大的责任，企业在部署时必须保持透明和负责。通过从一开始就建立正确的保障措施，公司可以通过负责任的创新培养持久的信心，将客户体验提升到新的个性化和效率水平。”

强大的治理对于客户体验领导者来说并非毫无意义，其中90%以上的人认为这对于保护品牌声誉（91%）、培养长期客户信任和忠诚度（91%）以及提高消费者对自主系统的舒适度（90%）至关重要。然而，许多组织仍准备不足。超过三分之一的客户体验领导者（35%）承认其正式治理政策极少或根本没有。更令人担忧的是，28%完全缺乏政策的领导者仍然认为他们的组织已准备好部署代理式AI。

当与消费者焦虑并置时，这种治理赤字呈现出更令人担忧的维度。许多人因数据使用缺乏透明度以及明显缺乏监督而心存疑虑。事实上，AI对个人数据使用的清晰度成为受访者的主要担忧。雪上加霜的是，37%的消费者认为AI会“幻觉”或编造信息——这一担忧也得到了59%的客户体验领导者的认同，他们承认这种编造对客户忠诚度、品牌声誉乃至潜在诉讼构成严重威胁。这种感知到的不可靠性进一步侵蚀了信任，凸显了对保障AI驱动体验的准确性和问责制的紧急需求。

鉴于消费者明确要求透明度和监督，领导者认为必不可少的与组织实际实施的之间存在的差异尤其令人担忧。在考虑大规模部署代理式AI之前，弥合这一差距对企业至关重要。尽管高达81%的客户体验领导者表示有信心将代理式AI用于敏感客户数据，但只有36%的消费者认同这一观点。在更高风险的场景中，这种信任差距变得更加明显。企业对将代理式AI部署到关键客户功能表现出强烈信心，74%的人乐于将该技术用于账单、金融交易和账户安全。然而，消费者则犹豫得多：只有35%的人乐于让代理式AI处理资金转账，49%的人乐于解决账单问题，50%的人乐于更新个人信息。

尽管存在这种警惕，数据显示了一个重要的机会。超过一半的消费者（58%）表示，只要问题得到快速全面的处理，他们对是由人类还是AI解决问题持无所谓态度。这表明，客户体验中的效率和有效性可以克服怀疑，但前提是必须与坚定不透明和问责制无缝结合。为了弥合信任鸿沟并负责任地创新，组织必须以坚定的以消费者为中心的方法来扩展其AI计划。