xAIのGrok Imagine、NSFW「スパイシー」AIコンテンツ生成を初公開

イーロン・マスクの人工知能企業xAIは、Grok AIチャットボットに新しく、そして物議を醸す機能「Grok Imagine」を導入しました。この革新的なツールはAI画像および動画ジェネレーターとして機能し、「スパイシー」モードを提供することで競合他社との差別化を図っています。このモードは、性的に露骨な素材や部分的なヌードを含むNSFW（職場での閲覧に不適切）コンテンツの作成を明示的に許可しています。

Grok Imagineは2025年8月5日頃にリリースされ、iOSのPremium+ XおよびSuperGrokの購読者、そしてAndroidのHeavyユーザーが利用できます。このツールを使用すると、シンプルなテキストまたは画像プロンプトから、ネイティブオーディオ付きで最大15秒の画像と短いビデオクリップを生成できます。イーロン・マスクはこの機能を積極的に宣伝し、その速度と「ミームの宝庫」を生成する可能性を強調し、日々改善されていると主張しています。

このようなコンテンツ生成に対するリベラルなアプローチは、業界の主流の基準とは著しく対照的です。GoogleのVeoやOpenAIのSoraといった主要な生成AI動画ツールは、不適切または有害な素材の作成を防ぐために、堅牢な安全フィルターと厳格なコンテンツモデレーションポリシーを導入しています。これらのプラットフォームは、自動分類器と人間によるレビューを組み合わせて、倫理ガイドラインの順守を徹底し、性的に示唆的である可能性のあるコンテンツ、児童搾取を描写するコンテンツ、または知的財産権を侵害するコンテンツをブロックしています。例えば、GoogleのVeoは、責任あるAIガイドラインに違反するプロンプトを明示的にブロックし、特定の文脈で人物や子供を含むコンテンツを生成する際には承認を必要とします。同様に、OpenAIは特に未成年者に関する安全へのコミットメントを強調し、高度なモデルを活用して効率的なコンテンツモデレーションを行っています。

xAIが「スパイシー」モードを含めるという決定は、イーロン・マスクが掲げる「フィルターなしで、限界を押し広げるAI」というビジョンと、Xプラットフォームにおける「言論の自由」に対する彼の幅広い姿勢と一致しています。しかし、この哲学は大きな論争を巻き起こしています。全米性搾取センターを含む批評家や擁護団体は、悪用の可能性について深刻な懸念を表明しています。露骨なコンテンツを生成する能力は、ディープフェイク、非同意の露骨な画像、および性搾取の可能性に関する警鐘を鳴らしています。これらの懸念は、Grokチャットボットがヘイトスピーチを生成した過去の事例や、性的なAIコンパニオンの導入など、xAIの過去の論争によって増幅されています。

Grok Imagineの「スパイシー」モードは部分的なヌードを許可していますが、内部的な制限があるようです。ドナルド・トランプやテイラー・スウィフトのような著名人を含む露骨なコンテンツを生成しようとする試みは、報告によると失敗するか、ぼやけた出力になったとのことです。技術的には、このツールは数秒で高速な画像生成を提供し、画像を様式化されたビデオにシームレスに自動生成する機能をサポートしています。しかし、まだ開発の初期段階にあり、生成された人物が「不気味の谷」現象を示すことがあり、ロウ人形のようであったり、漫画のようであったりします。単一画像に対する競合他社と比較して高速な生成速度を主張しているにもかかわらず、一部の報告では、Grok Imagineが全体的な出力品質で依然として遅れをとっている可能性が示唆されています。

Grok Imagineの「スパイシー」モードの導入は、生成AIの状況における重要な分岐点を示しています。これは、コンテンツの安全性と倫理的なAI開発に関する業界の一般的な規範に異議を唱え、最小限のモデレーションで創造的な自由を優先しています。xAIによるこの動きは、技術革新、ユーザーの自律性、そして潜在的な社会的危害を軽減するための責任あるAIガバナンスの重要な必要性との間のバランスに関する進行中の議論を間違いなく激化させるでしょう。