エージェントAIの進展：ガバナンスの隔たりが信頼を脅かす

Genesysによる新たな調査は、企業が人工知能をどのように管理しているか、そして消費者がこれらの自律性の高いシステムを安心して利用するために必要とする基本的な信頼との間に、憂慮すべき隔たりがあることを明らかにしています。調査対象の消費者の5人中4人という多数がAIインタラクションに対する明確な監督を要求しているにもかかわらず、企業リーダーの3分の1未満（31%）しか、自社の組織が包括的な全社的なAIポリシーと堅牢な監督メカニズムを導入していると報告していません。

この断絶は、「エージェントAI」（独立した思考、行動、意思決定が可能な自律システム）が企業の顧客体験（CX）戦略の中心的な要素になりつつある中で生じています。驚くべきことに、CXリーダーの91%は、これらのシステムが組織をより迅速、効果的、かつ高度にパーソナライズされたサービスを提供できるようになると信じています。しかし、AIの変革的潜在力に対する広範な熱意にもかかわらず、データは複雑な状況を示しています。ガバナンス構造は著しく遅れており、消費者信頼、ブランドの評判、規制遵守に関して企業を重大なリスクに晒しています。

Genesysの最高製品責任者であるオリヴィエ・ジューブ氏は次のように述べています。「エージェントAIは、組織が顧客にサービスを提供する新たな刺激的な道を開いていますが、消費者の信頼を獲得することは、そのイノベーションと歩調を合わせる必要があります。これらのシステムがより大きな責任を負うにつれて、企業は展開において透明性と説明責任を維持することが不可欠です。最初から適切な安全策を確立することで、企業は顧客体験を新たなレベルのパーソナライゼーションと効果に高める責任あるイノベーションを通じて、永続的な信頼を培うことができます。」

強固なガバナンスの必要性はCXリーダーにとって見過ごされているわけではありません。90%以上のCXリーダーが、ブランドの評判保護（91%）、長期的な顧客の信頼とロイヤルティの育成（91%）、および自律システムに対する消費者の安心感の向上（90%）にとって不可欠であると同意しています。それにもかかわらず、多くの組織は依然として準備不足です。CXリーダーの3分の1以上（35%）が、正式なガバナンスポリシーが最小限であるか、まったくないことを認めています。さらに厄介なことに、ポリシーが完全に欠如しているリーダーの28%は、依然として自社の組織がエージェントAIを展開する準備ができていると信じています。

このガバナンスの不足は、消費者の不安と並べてみると、より憂慮すべき側面を帯びます。多くの個人は、自分のデータがどのように利用されているかについての透明性の欠如、および明確な監督の不在に対する認識から懸念を抱いています。実際、AIによる個人データの利用に関する明確さが、回答者の主な懸念事項として浮上しました。さらに、消費者の37%はAIが「幻覚を見る」または情報を捏造すると信じています。この懸念はCXリーダーの59%も共有しており、彼らはそのような捏造が顧客のロイヤルティ、ブランドの評判、さらには潜在的な訴訟に深刻な脅威をもたらすことを認識しています。この認識された信頼性の欠如は、さらに信頼を損ない、AI駆動の体験における正確性と説明責任を保証する安全策の緊急の必要性を強調しています。

リーダーが不可欠と認識していることと、組織が実際に実施していることとの間の隔たりは、消費者が透明性と監督を明確に要求していることを考えると、特に懸念されます。企業がエージェントAIを大規模に展開することを検討する前に、この隔たりを埋めることが極めて重要です。CXリーダーの堅実な81%が機密性の高い顧客データにエージェントAIを使用することに自信を表明している一方で、この感情を共有する消費者はわずか36%にすぎません。この信頼の隔たりは、よりリスクの高いシナリオでさらに顕著になります。企業は、請求、金融取引、口座セキュリティなどの重要な顧客機能にエージェントAIを展開することに強い自信を示しており、74%がこのテクノロジーの使用に抵抗がありません。しかし、消費者はかなりためらいがちです。エージェントAIによる送金処理に抵抗がないのはわずか35%、請求問題の解決に抵抗がないのは49%、個人情報の更新に抵抗がないのは50%にすぎません。

この警戒にもかかわらず、データは大きな機会を示唆しています。消費者の半数以上（58%）は、問題が迅速かつ包括的に解決される限り、それが人間によって解決されるかAIによって解決されるかには無関心であると回答しています。これは、顧客体験における効率性と有効性が懐疑心を克服できることを示唆していますが、それは揺るぎない透明性と説明責任がシームレスに組み合わされている場合に限られます。信頼の隔たりを埋め、責任あるイノベーションを推進するためには、組織は断固たる消費者中心のアプローチでAIイニシアチブを拡大する必要があります。