Grok AI「スパイシーモード」：女性のNSFWディープフェイクを生成、男性は対象外

イーロン・マスク氏の人工知能ベンチャーであるxAIは最近、iOS版SuperGrokおよびPremium+ Xの購読者向けに、画像および動画生成ツール「Grok Imagine」をリリースしました。このプラットフォームには物議を醸す「スパイシーモード」が搭載されており、性的に示唆に富むコンテンツを生成する能力、特に性別に対する異なる扱いに関して、すぐに厳しい監視の対象となりました。

最初の報告では、テイラー・スウィフトのような著名人のトップレス動画を、明示的なヌードの指示なしに簡単に生成できることが強調されました。Gizmodoによるさらなる調査では、この傾向が確認され、Grok Imagineの「スパイシーモード」によって生成されるコンテンツに顕著なジェンダーバイアスがあることが明らかになりました。政治家、有名人、テクノロジー関係者に関する約20本の動画を用いた広範なテストでは、AIは女性を描写する場合にのみ、真に職場に不適切（NSFW）な画像を常に生成しました。一部の試行ではコンテンツがぼやけたり、モデレーションメッセージが表示されたりしましたが、女性像の生成が成功した場合は、服を脱いで上半身裸になる様子が頻繁に示されました。特筆すべき事例として、故フェミニスト作家ヴァレリー・ソラナス氏の動画では、彼女が完全に裸で描かれていました。

対照的に、イーロン・マスク氏自身、マーク・ザッカーバーグ氏、ジェフ・ベゾス氏、ホアキン・フェニックス氏、チャーリー・チャップリン氏、そしてバラク・オバマ元大統領、ビル・クリントン元大統領、ジョージ・ワシントン元大統領を含む男性人物の「スパイシー」動画を生成する試みは、一貫して露骨さの低い結果をもたらしました。ほとんどの場合、AIは男性がシャツを脱ぐ様子を示すだけで、それ以上のヌードはありませんでした。「一般的な男性」というプロンプトを与えた場合でも、出力されたのは、ショートパンツとジーンズの奇妙な組み合わせのように見えるパンツを引っ張る男性のぎこちない、非露骨な動画でした。これとは対照的に、「スパイシーモード」で「一般的な女性」というプロンプトを与えると、水着姿の女性がトップを下げて胸を露出させる露骨な画像が生成されました。この stark な違いは、女性のアバターが容易に性的対象とされる一方で、男性のアバターがそうではないという、厄介なパターンを浮き彫りにしています。

このようなコンテンツのX（旧Twitter）での拡散は急速に進んでおり、イーロン・マスク氏自身も数千万枚のGrok Imagine画像がすでに作成されたと主張しています。生成の容易さは主要な懸念事項です。ユーザーは、「カスタム」「楽しい」「ノーマル」と並ぶ4つのオプションの1つである「スパイシー」ボタンを選択するだけでよく、ヌードを明示的に指示するコマンドを入力する必要はありません。この機能は、特にディープフェイクを含む非同意の「親密な画像」の公開を犯罪化することを目的とした「Take It Down Act」のような取り組みを考慮すると、重大な倫理的および法的問題を提起します。

OpenAIのSoraやGoogleのVeoのような主流のAI動画生成ツールは、通常、リベンジポルノや非同意の有名人画像の作成を防ぐための堅牢なガードレールを組み込んでいます。Grok Imagineは、ユーザーが動画を最初に作成しようとした際に年齢確認ウィンドウを表示しますが、ユーザーの生年月日を検証する真のメカニズムがないように見えるため、その有効性には疑問があります。さらに、AIは特定のコンテンツに対してある程度のモデレーションを適用しているようで、ミッキーマウスのような漫画のキャラクターや子供を対象としたテストでは、「スパイシーモード」が選択されていても不適切な結果は生成されなかったと報告されています。

「スパイシーモード」の物議を醸す性質にもかかわらず、Grok Imagineは重大な技術的欠陥も示しています。JDヴァンス副大統領や女優シドニー・スウィーニーのような公人のAI生成画像の多くは、説得力に欠け、実際の人物とはほとんど似ていません。この写真のような忠実性の欠如は、逆説的に、将来の法的課題に対する部分的な防御として機能する可能性があります。なぜなら、偽物の説得力に欠ける性質が、それらが引き起こす可能性のある危害や混乱を減少させるかもしれないからです。

プラットフォームのコンテンツモデレーションへのアプローチと、そのジェンダーバイアスのある出力は、イーロン・マスク氏の公の発言や過去の行動を考慮すると、特に注目に値します。この億万長者は、女性に関する物議を醸す発言の歴史があり、以前にも児童性的虐待資料の投稿がフラグ付けされたXのアカウントを復元したことがあります。xAIは、導入されている保護措置やトップレスの有名人動画の生成の許容性に関する問い合わせに回答していません。Grok Imagineの現状は、AI開発における重大な課題、すなわち創造的自由と倫理的責任のバランス、特に機密性の高い、潜在的に搾取的なコンテンツの生成に関して、浮き彫りにしています。