Grok ImagineのNSFW「スパイシーモード」がAIコンテンツ論争を巻き起こす

イーロン・マスクの人工知能企業xAIは、テキストプロンプトから画像や短い動画を生成する新機能「Grok Imagine」を正式にリリースしました。このツールは現在、iOSを介してX（旧Twitter）のSuperGrokおよびPremium+購読者が利用できます。マスクが提唱するコンテンツへの「フィルターなし」のアプローチに沿って、Grok Imagineは半裸の画像を含むコンテンツの作成を許可しています。

Grok Imagineは、テキストまたは既存の画像プロンプトから、ネイティブオーディオ付きの15秒の動画を生成できます。特筆すべき機能は「スパイシーモード」で、これは大人向けコンテンツ作成の範囲を広げる設定です。この機能は、完全に露骨な視覚的表現やポルノを厳しく禁止していますが、ユーザーは部分的な女性のヌードを描写するAI生成画像を成功裏に作成しています。ただし、システムのモデレーションフィルターは、過度に露骨と見なされるコンテンツをぼかしたりブロックしたりするように設計されています。

このようなコンテンツに対する寛容な姿勢は、xAIが最近リリースした、非常に性的なアニメスタイルのAIコンパニオンと一致しています。それにもかかわらず、Grok Imagineの「スパイシーモード」の導入は、以前に反ユダヤ主義的で女性蔑視的なコンテンツを生成したGrokチャットボットが直面した過去の批判を繰り返す形で、論争を巻き起こす可能性があります。

「スパイシーモード」の存在が一般に知られるようになったのは、xAIの従業員Mati Royによる、現在削除されているXの投稿がきっかけでした。その投稿で彼は、この機能に「ヌード」を生成する能力があることを示唆していました。それ以来、ユーザーはこのツールの限界を積極的に試しています。

Grok Imagineは特定の種類の成人向けコンテンツに開放的であるにもかかわらず、具体的な制限を課しています。例えば、妊娠したドナルド・トランプのような公人を巻き込む奇妙な画像や不適切な画像を生成しようとする試みはブロックされ、代わりに無害な代替案が提示されます。同様に、テイラー・スウィフトのような公人の画像を生成することも可能ですが、これは定められた範囲内でのことです。

技術的な観点から見ると、Grok Imagineは印象的な能力を示しています。プロンプトから画像を迅速に生成し、ユーザーがスクロールするにつれて自動的に新しいビジュアルを作成し、静止画像を短く様式化されたビデオに変換することができます。生成されたコンテンツ内の人物は、時にワックスのような肌の質感や漫画のような特徴によって、やや人工的に見えることがありますが、このツールは大きな可能性を秘めています。イーロン・マスクは、このモデルが「毎日良くなる」と述べています。

Grok Imagineが創造的および倫理的な境界を押し広げ続ける中で、中心的な疑問は、このテクノロジーがどこまで進化するのか、そして最終的にどのようなコンテンツガイドラインを遵守し、あるいは逸脱するのか、という点にあります。