Meta AIが自己改善能力を披露；ザッカーバーグが公開を制限

Meta Platformsは、人工知能研究における重要な進展を発表しました。CEOのマーク・ザッカーバーグは、同社のAIシステムが人間の介入なしに自己改善を開始していると主張しています。7月30日にMetaのウェブサイトで公開された政策文書の中で、ザッカーバーグは「過去数ヶ月間で、我々のAIシステムが自己改善する兆候を見せ始めている。現時点では改善は緩やかだが、否定できない」と述べました。ザッカーバーグによると、この自己改善は、AIが人間の認知能力を超える理論的な状態である人工超知能（ASI）を達成するための重要な第一歩を示しています。

この進展を理解するには、AIの概念的な階層を把握する必要があります。現在のAIモデルは、しばしば「狭いAI」と呼ばれ、非常に特定のタスクに優れており、例えばタンパク質構造の予測などでは超人的な性能を発揮することもあります。しかし、それらの能力はこれらの狭い領域に限定されており、より広範な適応性や汎用的な知能を欠いています。次の概念的な階層は人工汎用知能（AGI）であり、人間の脳のように、幅広いタスクを理解し、学習し、適応できるモデルを想定しています。AGIが達成される架空の瞬間は、しばしば「技術的特異点」と呼ばれます。AGIの先にあるのがASIであり、ザッカーバーグが言及した究極の段階です。これは、人間の潜在能力に匹敵するだけでなく、それをはるかに超えるシステムを指し、指数関数的な速度で自己改善する能力を持ち、「知能爆発」につながる可能性があります。

Metaからのザッカーバーグの声明は重要な内部観察を表していますが、自己改善AIの概念は研究コミュニティでは全く新しいものではありません。2024年10月、カリフォルニア大学サンタバーバラ校（UCSB）の研究者たちは、科学的なプレプリントのリポジトリであるarXivデータベースに、自己改善AIに関する彼らの研究を詳述した論文を発表しました。彼らの研究は、自身のコードと命令を書き換えることで自己改善するように設計された理論的な構成要素であるゲーデルマシン（Gödel Machine）のアイデアを中心に展開されました。重要なことに、そのような機械は、その変更が有益であることを形式的に証明できる場合にのみ変更を実行します。UCSBチームは、この原則に基づいてゲーデルエージェント（Gödel Agent）と呼ばれるAIフレームワークを開発しました。彼らの実験は、このエージェントがコーディング、科学的問題解決、数学、推論を含む様々な複雑なタスクにおいて、実際に自身のパフォーマンスを向上させることができることを示しました。固定されたコードベース内で動作するほとんどのAIモデルとは異なり、ゲーデルエージェントは、自己改善に使用されるアルゴリズム自体を含む、その基盤となるコード全体にアクセスし、変更する独自の能力を持っており、これらの変更の利点について検証可能な証拠を提供しました。研究は、このAIが主要な分野で人間が設計したエージェントを一貫して上回ったと結論付けました。

ザッカーバーグはASIの可能性について深い楽観主義を表明し、それを今日では想像もできない発見を解き放つ人類の変革的な飛躍と表現しました。彼は、超知能が「進歩のペースを加速させ」、個々人が自身の願望に従って世界を形作るためのより大きな主体性を与える「個人的なエンパワーメントの新時代」をもたらすと信じています。彼は、「個人的な超知能」が個人の目標達成、創造性の育成、新しい経験の探求、人間関係の強化、および個人的な成長の促進を支援する未来を構想しています。この野心的なビジョンにもかかわらず、ザッカーバーグはMetaの戦略的な転換も示唆しました。同社は今後、最も強力なAIモデルのどれをオープンソースフレームワーク（つまり、誰でも自由に利用・変更できる）として一般公開するかについて、これまでよりも大幅に慎重な姿勢を取るとしています。この動きは、自己改善AIシステムに内在する計り知れない力と潜在的な影響を認識していることを示唆しています。