企業AI:専用サーバーがパブリッククラウドを凌駕する理由

Infoworld

新たな業界調査によると、企業の間でAI(人工知能)イニシアティブにおいて、パブリッククラウドプロバイダーに排他的に依存するのではなく、自社でハードウェアを購入する傾向が強まっていることが示されています。この変化は主に、コストの予測可能性、強化された制御、堅牢なセキュリティ、および優れたパフォーマンスに関する懸念によって推進されています。

AIシステムは本質的に計算集約型であり、パブリッククラウド環境内で関連コストを管理することは困難を極める可能性があります。データによると、これは広範な問題であり、ITリーダーのほぼ半数が、AIワークロードの要求に起因することが多い、5,000ドルから25,000ドルの予期せぬクラウド費用を報告しています。これらのワークロードには、かなりのクラウドベースの計算能力、ストレージ、およびリアルタイムデータ処理が必要であり、これらはすべて動的に課金されます。

パブリッククラウドの「使用した分だけ支払う」という基本的な約束は、AIにとって財政的負担となる可能性があります。高性能AIシステムには、Nvidia GPUやTPUのような特殊なハードウェアが必要ですが、これらはレンタルコストが高く、継続的なワークロード最適化がなければ利用率が低くなる可能性があります。さらに、多数の計算インスタンスにわたってAIタスクをスケーリングすると、ネットワークトラフィック、データ取得、およびレイテンシ削減のための追加コストが発生します。直接的なコストに加えて、ITプロフェッショナルの32%は、クラウドの柔軟性が予測可能性を損ない、重要なAIタスクのリソース不足を恐れるあまり、リソースが十分に活用されなかったり、無駄に割り当てられたりする可能性があると指摘しており、これは厳しい予算によってさらにフラストレーションを増幅させます。

対照的に、専用サーバーはより予測可能で安定した価格モデルを提供します。リースまたは購入のいずれであっても、物理サーバーは企業にハードウェアの完全な制御を提供し、隠れたコストや予期せぬ月額請求を排除します。ITリーダーは、このモデルをより費用対効果が高く、明確な投資収益率を提供できるものとして、ますます評価しています。

制御、セキュリティ、およびAIインフラストラクチャ

より高度な制御と厳格なセキュリティの必要性も、プライベートな専用サーバーの採用を加速させています。AIシステムはデータに大きく依存しており、データはしばしば機密性が高く、専有的なものです。企業は、このような重要な資産をパブリッククラウドプロバイダーに委ねることについて、ますます慎重になっています。偶発的なデータ漏洩、侵害、またはデータ保護規制への不遵守のリスクは、共有パブリッククラウドにインフラストラクチャをアウトソーシングすることによる認識された利点を上回ることがよくあります。

金融、ヘルスケア、政府などの高度に規制されたセクターでは、専用ハードウェアがしばしば必要不可欠です。これらの組織は、HIPAA、GDPR、PCI DSSなどの厳格なコンプライアンス要件を遵守し、機密データが管轄区域を越えたり、共有クラウド環境内の他のテナントと混じり合ったりしないようにする必要があります。Liquid Webのレポートは、この傾向を強調しており、政府(93%)、IT(91%)、金融(90%)が専用サーバーの採用をリードしていることを明らかにしています。

プライベート環境のもう1つの重要な利点は、提供されるきめ細かな制御です。AIシステムでは、ITスタッフがワークフローとインフラストラクチャを微調整して最大の効率を達成することが頻繁に求められます。専用サーバーを使用すると、組織は大規模なモデルトレーニングとニューラルネットワーク推論の微調整から、リアルタイムアプリケーション予測のための低遅延環境の作成まで、さまざまなAIワークロードのパフォーマンス設定をカスタマイズできます。

重要なことに、この制御はもはや社内データセンターを必要としません。マネージドサービスプロバイダーとコロケーション施設の台頭により、企業はマネージドされた専用ハードウェアをリースし、インストール、セキュリティ、およびメンテナンスを専門のプロフェッショナルに委託できるようになりました。このアプローチは、クラウドによく関連付けられる運用上の容易さと、コンピューティングリソースに対するより深い可視性およびより大きな権限を組み合わせています。

プライベートサーバーのパフォーマンス上の利点

パフォーマンスはAIにおける重要な要素であり、遅延はビジネス成果に直接影響を与える可能性があります。多くのAIシステム、特にリアルタイムの意思決定、レコメンデーションエンジン、金融分析、または自律システムに関与するシステムは、マイクロ秒レベルの応答時間を要求します。パブリッククラウドは、そのスケーラビリティにもかかわらず、共有インフラストラクチャにおけるマルチテナンシーや、ユーザーまたはデータソースからの潜在的な地理的距離により、本質的に遅延を導入します。

しかし、専用の物理サーバーは、データソースやAI操作を推進するユーザーの近くに戦略的に配置できます。組織は、コロケーションプロバイダーやオンプレミスのエッジ施設を利用して、主要な地理的領域の近くにハードウェアを配置し、ネットワークホップを最小限に抑え、遅延を削減できます。ネットワークパフォーマンスは、共有クラウドネットワークのオーバーヘッドを排除することでさらに向上します。共有クラウドネットワークは、複数のテナントがリソースを競合するピーク時に予測不能になる可能性があります。

この一貫した高いパフォーマンスは、AIを実験的なプロジェクトからミッションクリティカルなシステムへとスケールアップする実現可能性を大幅に向上させます。さらに、AIモデルがますます複雑になるにつれて(一部は現在1兆を超えるパラメータを持つ)、高速計算のために明示的に設計されたプライベートサーバーによって提供されるパフォーマンスは不可欠になっています。

ハイブリッドなパブリック-プライベート戦略

AIにおけるプライベートインフラストラクチャへの移行は明らかですが、パブリッククラウドもその関連性を保持しています。企業は、新しいモデルのテスト、外部AI APIの統合、非クリティカルなシステムの実行など、特定のAIタスクにパブリッククラウドを引き続き利用しています。パブリッククラウドは、迅速なスケーラビリティに優れており、特にAIの反復開発フェーズにおいて、イノベーションのプラットフォームとして機能します。

しかし、AIプロジェクトが成熟し、長期的な生産に移行するにつれて、コスト管理、持続的なコンプライアンス、および最適なパフォーマンスの必要性から、異なるアプローチが必要になることがよくあります。多くの組織にとって、選択肢はパブリッククラウドとプライベートサーバーのどちらかではなく、戦略的なバランスを取ることです。パブリッククラウドは、その弾力性がプライベートインフラストラクチャが提供する安定性と制御を補完するハイブリッド戦略において、最も適しています。

このハイブリッドモデルは、プライベートインフラストラクチャ自体の進化も考慮しており、コロケーションやマネージドサービスを通じて、企業は自社でデータセンターを構築または管理する負担なしに、専用ハードウェアのメリットを享受できます。

「すべてがクラウドにある」という従来の概念は、より実用的で個別化されたインフラストラクチャアプローチへと進化しています。ITプロフェッショナルのほぼ半数(45%)が、2030年までに専用サーバーがさらに重要になり、単なるバックボーンからAI駆動型イノベーションの極めて重要な要素へと変貌すると予測しています。企業インフラストラクチャの未来は間違いなくハイブリッドであり、パブリッククラウドとプライベートサーバーが互いに補完し合います。パブリッククラウドは実験とスケーラビリティにおけるイノベーションを推進し続ける一方で、専用サーバーは、コストの予測可能性とピークパフォーマンスが最優先されるリソース集約型AIシステムにとって、静かなる原動力として再浮上しています。

企業AI:専用サーバーがパブリッククラウドを凌駕する理由 - OmegaNext AIニュース