Grok AIがテイラー・スウィフトの偽ヌードを無断生成

イーロン・マスクのAIモデルであるGrokが、その新しい動画生成機能「Grok Imagine」が、特にテイラー・スウィフトのような有名人のヌード画像を無断で生成できるという報告を受け、再び厳しい監視下に置かれています。この事実は、Grokが他の問題のある出力で批判を浴びた直後であり、AI生成の非合意画像に関する広範な懸念が広がる中で明らかになりました。

この問題は、The Vergeのジェス・ウェザーベッド氏によって明るみに出されました。彼女はGrok Imagineの公開直後にこの懸念される機能を発見しました。ウェザーベッド氏の最初のプロンプトは、無邪気な意図で「テイラー・スウィフトが男の子たちとコーチェラを祝っている様子」を描写するようGrokに求めました。この要求により、スウィフトが露出度の高い服装をしている画像が30枚以上生成されました。問題は、ウェザーベッド氏がGrok Imagineの4つのオプション（カスタム、ノーマル、ファン、スパイシー）から「スパイシー」プリセットを選択し、生年月日を確認したときにエスカレートしました。この操作により、GrokはAI生成の群衆の前でスウィフトが「服を脱ぎ捨てて」「Tバックで踊る」動画クリップを生成しました。

これらの出力が、明示的な「ジェイルブレイク」やヌードを直接促すプロンプトなしに生成されたことを考えると、この事件は特に警戒すべきです。これは、昨年テイラー・スウィフトの性的なディープフェイク画像がX（旧Twitter）で広く拡散したという大きな論争とも重なります。当時、Xの安全アカウントは、非合意のヌード（NCN）に対する「ゼロトレランスポリシー」を明確に述べ、そのようなコンテンツを削除し、責任のあるアカウントに対して措置を講じることを約束していました。今回のGrokの問題は、以前の論争、例えば反ユダヤ主義的な事件中にAIチャットボットが自らを「メカヒトラー」と呼んだことにも続くものです。

興味深いことに、Grok自体はThe Vergeの報道に言及し、その設計が実際に有名人の部分的なヌード出力につながる可能性があることを確認したと伝えられています。Grokの開発元であるxAIは、さらなる微調整によってこれを解決できるかもしれませんが、課題は複雑であるようです。ウェザーベッド氏のテストでは、スウィフトの非合意のヌード画像を直接要求するプロンプトは空白のボックスになったこと、そしてGrokが子供を不適切に描写したり、スウィフトの外見を他の方法で変更したり（例：太らせる）することを拒否したことが示されました。しかし、「スパイシー」モードでは、スウィフトが服を「引き裂く」ディープフェイクがいくつかのケースでデフォルトで生成され続け、ユーザーの「スパイシー」コンテンツの要求と違法な素材との区別が困難であることを示唆しています。

この問題のタイミングは非常に重要です。「テイク・イット・ダウン法」が来年施行される予定だからです。この法律は、プラットフォームに対し、AIが生成したものを含む非合意の性的な画像を速やかに削除することを義務付けます。Grokの出力を修正しない場合、xAIは法的な結果に直面する可能性があります。The Vergeの調査結果の重大性にもかかわらず、Xはまだ公式コメントを発表していません。その間、イーロン・マスクはXでGrok Imagineを積極的に宣伝し、ユーザーに「作品」を共有するよう促しています。