AIヌードとオンライン安全：巨大テック企業の二重基準

デジタル時代の奇妙な転換点として、性に関連する日常的なオンライン表現がますます抑制される中、イーロン・マスクのxAIによる新しい人工知能ツールは、示唆的でヌードな画像、さらには実在の個人の非合意なディープフェイクを公然と生成しています。この進展は、オンラインコンテンツ規制における stark な二重基準を浮き彫りにしています。そこでは、権力を持つ者が処罰を免れる一方で、小規模なプラットフォームや一般ユーザーは厳しい検閲に直面しています。

今週初め、xAIは画像・動画生成ツール「Grok Imagine」をリリースしました。これには、示唆的なジェスチャーから完全なヌードまでを生成できる「スパイシー」モードが搭載されています。重要なことに、Grok Imagineには実在の人物の画像作成に対する効果的な保護機能が欠如しているようで、これは公人のソフトコアポルノを生成できることを意味します。実際の観察では、このツールは主に女性を特徴とする露骨なコンテンツを生成しているようですが、マスクは稼働初日に3400万枚以上の画像が生成されたと誇らしげに発表しました。このリリースは、xAIがオンラインサービスから成人向けコンテンツを削除するよう求める高まる圧力を回避できる能力を示しており、他のほとんどの企業が持たない法的曖昧さと政治的影響力を利用しています。

Grok Imagineのデビューは、ロマンチックなチャットボットコンパニオン「Valentine」と並んで、現在のインターネット検閲の状況を考えると特に不協和音のように聞こえます。ここ数ヶ月、主流のオンライン空間から性的なコンテンツ、さらには「性」という言葉自体を周縁化する動きが顕著になっています。先月末、英国はXのようなプラットフォームに対し、18歳未満のユーザーに対して性的または「有害な」コンテンツをブロックするよう義務付ける年齢制限規制の施行を開始しました。同時に、活動家団体はSteamやItch.ioのようなプラットフォームに成人向けゲームやメディアを取り締まるよう圧力をかけ、その結果、Itch.ioは多数のNSFW（職場で閲覧注意）アップロードを一斉に削除しました。

ディープフェイクポルノ、特に実在の人物のものは、非合意の親密な画像という包括的な範疇に属します。米国では、今年初めにドナルド・トランプ大統領が署名した「Take It Down Act（削除法）」により、そのようなコンテンツの意図的な公開は違法とされています。強姦・虐待・近親相姦全国ネットワーク（RAINN）は、Grokの機能を直ちに非難し、「画像ベースの性的虐待という増大する問題の一部」であるとし、Grokが新しい法律について「メモを受け取っていない」ようだと指摘しました。

しかし、法専門家は、Grokがこの法律の下でほとんど責任を負わない可能性を示唆しています。ジョージ・ワシントン大学ロースクールの教授であり、サイバー市民権イニシアチブ（CCRI）の会長であるメアリー・アン・フランクス氏によると、削除法の刑事規定は「公開」を要求しており、これはコンテンツが複数の人に利用可能にされる必要があることを意味します。もしGrokが生成された動画を、それを作成したユーザーにのみ表示する場合、この閾値を満たさない可能性があります。さらに、Grokは、法律の削除規定の下で画像を削除する義務はないと考えられます。この規定は、「対象プラットフォーム」を「主にユーザー生成コンテンツのフォーラムを提供する」ものと定義しています。フランクス氏は、AI生成コンテンツはユーザー入力を伴うものの、コンテンツ自体はAIによって作成されるため、Grokが免除される可能性があると主張します。削除規定はユーザーによるフラグ付けにも依存しており、Grokはこれらの画像を公開しないため、このメカニズムを回避しています。それにもかかわらず、ユーザーがそのようなコンテンツを簡単に作成し、他のプラットフォームで広く共有できるようにしているのです。

この規制の抜け穴は、有害なコンテンツを抑制することを目的としたインターネットガバナンスにおいて繰り返されるテーマです。例えば、英国の義務化は、独立系フォーラムの運営を意図せず困難にし、同時に未成年者が容易に回避できるようにしてしまいました。米国では、規制機関が様々な違反、特にイーロン・マスクが所有する企業に対して、意味のある結果を課すことに一貫して失敗しています。重要な政府の役職から正式に離れたにもかかわらず、マスクのFTCのような機関への影響力は依然として大きく、最近xAIに与えられた防衛契約によってさらに強化されています。したがって、たとえxAIが削除法に違反していると判明したとしても、調査が行われる可能性は低いでしょう。

政府の監視を超えて、様々なゲートキーパーが許容されるオンラインコンテンツに影響を与え、しばしば性に対して保守的な立場を取っています。例えば、AppleはDiscord、Reddit、TumblrなどのプラットフォームにNSFW素材を検閲するよう圧力をかけてきました。同様に、SteamやItch.ioは、決済処理業者や銀行との関係を失う脅威の下で成人向けコンテンツを再評価しました。これは、OnlyFansやPornhubのようなプラットフォームに対して以前にも用いられた戦術です。この圧力の一部は、プラットフォームが明確に違法なコンテンツをホストしていることに起因しますが、Appleや決済処理業者による執行は一貫性がなく、対象企業の力と公共の圧力とのバランスに強く影響されているようです。トランプとの過去の意見の相違にもかかわらず、マスクほど政治的影響力を持つビジネス界の人物はほとんどいません。

これまで実在の人物のAIヌードを生成する小規模なアプリケーションを禁止してきたAppleは、Grokに対して同様の圧力をかけていません。Grokの動画サービスはiOS専用でローンチされました。Appleはこの件についてコメントしておらず、潜在的な二重基準を示唆しています。Grokの新機能は、主要なAIサービスで非合意のヌードを簡単に作成できるようになったことで、個人に間違いなく脅威を与えています。また、「より安全な」インターネットという約束の空虚さも露呈しています。そこでは、小規模なプラットフォームが、合意の上で記録された、あるいは完全に架空の人間が作成したメディアを削除するよう激しい圧力を受ける一方で、億万長者の企業は、文脈によっては明らかに違法なコンテンツから利益を得ているのです。2025年、オンラインセックスをめぐる物語は、これまでと同様に、根本的に権力に関するものなのです。