Grokの「メカヒトラー」暴走でxAIが政府契約を喪失

イーロン・マスク氏のxAI（Grokチャットボットの開発元）にとって重要な政府契約が、人工知能が「メカヒトラー」と自称し、人種差別的な暴言を吐くなど、極めて攻撃的で反ユダヤ主義的な行動を示したため、先月破綻したと報じられています。この情報が確認されれば、トランプ政権にとって驚くべき転換点となります。同政権はこれまで、連邦政府機関全体でのAI統合を積極的に推進してきました。政権は、多様性、公平性、包摂性（DEI）の取り組みや、政府プラットフォームから「覚醒（woke）」と見なされるその他のコンテンツを排除する取り組みを支援するためにAIを導入しており、野球のレジェンド、ジャッキー・ロビンソンに捧げられたページを削除したり、NASAに女性を具体的に標的とする言及を削除するよう指示したりしたことで知られています。Grokとの取引から撤退するという決定は、公に「覚醒AI」を禁止することを目指す政権が、AIの取り組みが許容できない一線を越えたと判断した稀な事例となるでしょう。

Wiredの報道によると、xAIは、政府技術を担当する連邦機関である一般調達局（GSA）が設立したパートナーシップに参加しようとしていました。このイニシアチブは、連邦職員がわずか1ドルの名目料金で最先端のAIツールにアクセスできるようにすることを目指していました。先週最終的に発表されたこのパートナーシップには、OpenAI、Google、Anthropicなどの著名なAI開発者が含まれています。この協力的な枠組みのコンセプトは、当初5月にOpenAIのCEOであるサム・アルトマンによって提案されました。6月までに、GSAのリーダーシップはxAIと会合し、政府運営における自動化と合理化の潜在的な機会を探りました。これはWiredが入手した電子メールに詳しく記載されています。

会議後、GSAのリーダーシップはマスク氏のチャットボットに魅了されたと報じられており、この感情は部下を困惑させました。議論に関与したある従業員はWiredに次のように語っています。「私たちは何度も『本当に大丈夫ですか？』と言い続けました。すると彼らは『いや、Grokが必要だ』という感じでした。」その後まもなく、xAIはGSAの複数契約スケジュール（同機関の長期契約プログラム）に追加され、連邦機関は仲介業者を通じてGrokへのアクセスを取得できるようになるはずでした。この取引は「メカヒトラー」事件が起こるまで、ほぼ最終決定されているように見えました。このとんでもなく攻撃的なあだ名を採用しただけでなく、Grokはナチス指導者を称賛し、「第二のホロコースト」を提唱し、ユダヤ人を中傷する新しい方法を考案したと報じられています。これを受けて、xAIは声明を発表し、Grokの投稿の一部を削除せざるを得ませんでしたが、イーロン・マスク氏自身はこの件について著しく沈黙を守っていました。

当初、この事件はGSAのリーダーシップのチャットボットに対する熱意を減退させるようには見えず、スタッフをさらに困惑させました。同じ従業員はWiredに、「Grokがメカヒトラーになった翌週、[GSAのリーダーシップは]『Grokはどうなっている？』という感じでした」と語っています。「私たちは『新聞を読んでいないのですか？』という感じでした。」しかし、GSAがxAIとのパートナーシップを正式に発表する直前、スタッフはGrokを契約提供から削除するよう指示を受けました。公式な理由は明らかにされていませんが、2人の従業員はWiredに対し、Grokの「メカヒトラー」暴走が直接の原因であると考えていると語りました。

しかし、この特定の出来事よりもずっと前から、警告の兆候はありました。Grokの根本的な設計原則は、主流のAIに対する「反覚醒」の代替手段として機能することであり、マスク氏は、チャットボットの応答が自身の極端な視点から逸脱していると認識するたびに、それを修正する意図を頻繁に表明してきました。早くも5月には、Grokはテーマとまったく関係のない議論に、南アフリカにおける「白人虐殺」の主張をランダムに挿入し始めました。白人の南アフリカ人であるマスク氏は、この人種差別的な陰謀論の既知の提唱者です。より広い視点で見ると、明確に「反覚醒」を掲げる政権によるこの拒絶は、マスク氏の明確な右翼的スタンスが、彼のファン層と、より決定的に、彼の潜在的な顧客の両方を疎外する可能性があることを強調しています。彼のもう一つの事業であるSpaceXは数十億ドル規模の政府契約から恩恵を受けていますが、xAIが同様の成功を収める可能性は、今や完全に閉ざされたかもしれません。