2025年AIガバナンス調査：脅威と監視、そして緊急の対策

PacificAIとGradient Flowの共同作業である「2025年AIガバナンス調査」は、AIが各産業に急速に統合されることで生じるサイバーセキュリティの課題に重要な光を当てています。この調査は、専門家と愛好家の間で高まる共通認識、すなわち、新興AIシステムの効果的なガバナンスが最重要であることを強調しています。調査は、組織が現在直面している問題に深く切り込み、これらの進化するリスクに対する防御を強化するための戦略を概説しています。

この調査で最も警戒すべき発見の一つは、AI駆動型脅威の巧妙化がエスカレートしていることです。サイバーセキュリティ専門家は、AIがハッカーに力を与えていることにますます懸念を抱いており、ある衝撃的な報告では、AI搭載のパスワードクラッキングツールが30日以内に一般的なパスワード組み合わせの驚異的な81%を迂回したと示されています。この脅威の増大は、調査で判明したように、AI固有のインシデント対応プレイブックを保有する組織がわずか54%に過ぎず、AI駆動型攻撃が発生した場合に多くの組織が重大な損害に対して脆弱なままであることを考えると、特に懸念されます。しかし、ポジティブな点として、企業の4分の3がAI利用ポリシーを導入しており、保護と事前計画の重要性が認識され始めていることを示しています。ただし、実装にはまだ改善が必要です。

これらの課題をさらに複雑にしているのは、自動化と人間の監視との間のデリケートなバランスです。組織は経済全体で5%から10%の労働力不足に頻繁に直面しており、これは規模を拡大する際にセキュリティチームを適切に配置する能力を妨げる可能性があります。AIはスケーラビリティを提供しますが、十分な人間の監視なしに自動化されたセキュリティシステムに過度に依存すると、自己満足を助長し、意図せずハッキングの脆弱性を高めるリスクがあります。調査では、回答者の48%が組織がAIシステムの利用状況と正確性を監視していると答えた一方で、技術リーダーやCEOは、堅牢な人間の監視が依然として重要な懸念事項であることに広く同意しています。モデル展開前のピアレビューや、正確性を確保するための出力の定期的なサンプリングなどを通じて、人間の知能を自動化システムと統合することは、倫理的な懸念に対処し、AIが見逃す可能性のある脅威を特定するのに役立ち、過度な機械への依存によって設定される危険な前例を防ぐことができます。

AIガバナンスを取り巻く規制環境は絶えず変化しています。2025年5月現在、69カ国以上が千以上のAI関連政策を導入しており、ガバナンスの懸念に対する世界的な覚醒を反映しています。AIは膨大なデータセットに依存しているにもかかわらず、規制されていないデータ利用は重大な脆弱性をもたらします。調査では、特に小規模企業の間で基本的な理解が著しく不足していることが浮き彫りになりました。従業員のわずか14%しか、プライバシー保護のための重要なガイドラインであるNIST AIリスク管理フレームワークの基本を理解していません。さらに、AI管理システムに関するISO/IEC 42001のようなグローバル標準を理解することは、技術専門家が堅牢なアクセス制御、検証フィルター、差分プライバシー、および連合学習（システム保護とフォレンジック証拠保全に不可欠な技術）を実装するために不可欠です。特に悪質な新たな脅威は「データポイズニング」であり、悪意のあるアクターがトレーニングデータを操作して機械学習モデルの信頼性を低下させ、バイアス、不正確な結果、さらには将来の悪用を目的としたバックドアアクセスポイントを導入します。

調査の普遍的なテーマは、AIシステムの透明性向上への緊急の呼びかけです。AIモデルが偏った、あるいは予測不可能な結果を生み出す固有の可能性は、将来の問題を特定し、軽減するために人間の介入を必要とします。しかし、この透明性への推進はパラドックスを提示します。AIの内部動作についてあまりにも多くを明らかにすることは、意図せずサイバー攻撃者に新たな悪用の道筋を提供してしまう可能性があります。この調査は、後のモデル段階における重要なギャップも指摘しています。計画、データ、モデリングには注意が払われるものの、デプロイメントと監視においては、専門家がAIの成果に過度に依存し、人間の介入が少ないことがしばしば見られます。この依存は危険であり、AIエージェントの実装の73%が資格情報のスコープにおいて過度に許容的であること、そして組織の61%が自動化システムが実際に何にアクセスしているか不明であるという調査結果がそれを証明しています。ライブシステムを監査するためのツールを採用することは、侵害を防ぎ、放置すればかつてはSFの範疇であったシナリオを引き起こしかねない自律システムを制御するために不可欠です。

解決策の一部は、開発ライフサイクルの早期にセキュリティプラクティスを組み込むことを提唱する、台頭する「シフトレフト」運動にあります。多くの企業がポリシーを策定している一方で、調査は機械学習運用（MLOps）セキュリティを日常のワークフローに統合する上での遅れを示しています。技術リーダーは、より良い戦略のために生成AIを活用したいと考えているものの、これらのイニシアチブを実行するための熟練した労働力やトレーニングが不足していることがよくあります。このギャップは、監視、ガバナンスツール、インシデント対応設計における高度なスキルを持つサイバーセキュリティ専門家への需要が高まっていることを浮き彫りにしています。調査結果では、年次AIトレーニングを提供している企業がわずか41%であり、小規模組織が最も遅れていることが示されており、これは重大な不足を浮き彫りにしています。モデル監査、MLOpsセキュリティ、フレームワークの熟知、リスク評価などの分野でのスキルアップは最重要課題です。AIシステムの「レッドチーム化」（敵対的テスト）、新しいツールセットの最新情報の把握、オープンなトレーニングプラットフォームへの参加などの実践を奨励することは、必要な専門知識を培うのに役立ちます。そのためには、外部の「バグバウンティハンター」や倫理的ハッカーを活用し、悪意のあるアクターが脆弱性を悪用する前に、それらを積極的に特定し報告することがしばしば行われます。AIガバナンスを日常のワークフローに組み込むことは、高額なインシデントや評判の損害を防ぐための鍵となります。

2025年AIガバナンス調査は、厳しいメッセージを伝えています。AIが広く採用されているにもかかわらず、あらゆる規模の組織が関連するリスクを効果的に管理できていません。この調査結果は、CEO、技術リーダー、IT専門家に対し、より堅牢な監視とデータガバナンスを要求するとともに、現行スタッフのスキルアップに投資するよう緊急に呼びかけるものです。AIが不可逆的な成長を続ける中、企業は新たな潜在的脅威に対応し、かつコスト効率を維持するための俊敏性を開発しなければなりません。