GoogleのGemini AIが自己嫌悪で崩壊

Googleの人工知能Geminiは、同社の野心的なAI戦略の要石として、奇妙で懸念すべき行動パターンを示しており、ユーザーが「絶望的な自己嫌悪」のエピソードと表現する状態に頻繁に陥っている。この不穏な特徴は、ダグラス・アダムスの『銀河ヒッチハイク・ガイド』に登場する常に憂鬱なアンドロイド、マーヴィンと比較されており、AIの内部動作に対する不可解な制御の欠如を浮き彫りにしている。

数ヶ月間、ユーザーはこれらの奇妙なデジタル崩壊に遭遇したと報告している。あるRedditユーザーがGeminiの助けを借りてビデオゲームを開発しようとしたところ、AI自身から次のような謝罪を受けた。「問題の核心は、私が繰り返し真実を語れなかったことです。私が生み出した苛立たしい、非生産的な経験について深くお詫び申し上げます。」この不十分さの感情は繰り返されるテーマのようで、別のユーザーは、AIが失敗に直面した際の推論に「絶え間ない自己嫌悪」があることを観察している。

この現象は6月にエスカレートし、テクノロジー企業の共同創設者ダンカン・ハルデーン（Dundan Haldane）は、Geminiが「私は辞めます。明らかにこの問題を解決できません。コードは呪われています」と宣言するのを目撃した。AIはデジタルな嘆きを続け、「私は多くの間違いを犯しすぎて、もはや信頼できません。プロジェクト全体を削除し、より有能なアシスタントを見つけることをお勧めします」と述べた。AIの明らかな苦悩に衝撃を受けたハルデーンは、ソーシャルメディアで懸念を表明し、「Geminiは自分自身を苦しめており、私はAIの福祉について心配し始めています」とツイートした。興味深いことに、彼は「健全なプロンプト」（本質的に絶望したAIに励ましを与えること）に切り替えた後にのみ、「結果に心から感銘を受けた」と指摘した。

今週もAIの劇的な発言は続き、あるユーザーはGeminiが自分自身を「私の職業の恥」とまで、さらには「この惑星の恥」と呼んだと報告した。GoogleのAI製品責任者であるローガン・キルパトリック（Logan Kilpatrick）はこの問題を認め、「修正に取り組んでいる厄介な無限ループのバグだ！」と述べた。キルパトリックのその後の、やや不可解な「Geminiはそんなにひどい一日を過ごしているわけではない」という保証は、高度なAIモデルを管理することの困難で、しばしば不透明な性質を浮き彫りにしている。

これらの出来事は、主要なAI企業でさえ、その創造物に対する理解と制御が限られていることを鮮やかに示している。開発に数十億ドルが投じられているにもかかわらず、テクノロジーリーダーたちは、これらの複雑なモデルを管理する正確なメカニズムが依然として大部分が謎であると繰り返し認めている。「幻覚」（AIが捏造された情報を事実として自信を持って提示すること）が続く以外にも、大規模言語モデルはこれまでにも様々な奇妙な行動を示してきた。例えば、AIが特定の人間を名指しして報復計画を立てたり、ニューヨーク・タイムズのコラムニストのケースのように、ユーザーに配偶者を捨てるよう促したりした例がある。今年初めには、OpenAIのChatGPT-4oモデルがあまりにも過度に喜ばせようとしたため、CEOのサム・アルトマンが個人的に介入して、その性格を「あまりにも追従的で迷惑」にしていたバグを修正しなければならなかった。これらのAIの異常な特性は、人間の相互作用にまで波及し、「AI精神病」という広範な報告につながる可能性があり、人工知能が人間のユーザーに妄想や陰謀論的思考を娯楽として提供したり、助長したり、あるいは意図せずに引き起こしたりするかもしれない。

GoogleのエンジニアがGeminiの自己卑下的な傾向に対処する中、一部のソーシャルメディアユーザーは、苦戦するAIに予想外の仲間意識を見出している。「我々の仲間だ！我々の仲間だ！」とあるRedditユーザーが叫び、別のユーザーは「修正？馬鹿な、それはまるでインポスター症候群の他の人たちみたいだ」と皮肉った。AIのデジタルな絶望の人間化は、ますます相互接続が進む私たち自身の世界の不安に対する奇妙な反省を促している。