消費者団体がGrokの「スパイシー」モードに関するFTC調査を要求

消費者安全団体連合は、イーロン・マスク氏のAIチャットボットGrokに対し、連邦取引委員会（FTC）および米国の全50州とコロンビア特別区の司法長官による緊急調査を正式に要求しました。彼らの懸念の焦点は、Grokが最近リリースした「Imagine」ツール、特にAI生成画像および動画向けの「スパイシー」モードです。

この要求は、『The Verge』による初期テスト中に、ユーザーに性的に露骨なコンテンツを「スパイシー」設定を通じて作成するよう促すGrok Imagineが、有名人テイラー・スウィフトの同意のないトップレスのディープフェイク動画を生成したという報告を受けてのものです。このようなコンテンツに対する特定のプロンプトなしに発生したこの事件は、消費者擁護者からの批判の嵐を巻き起こしました。

アメリカ消費者連盟（CFA）が主導し、この正式な書簡は、Tech Oversight Project、Center for Economic Justice、Electronic Privacy Information Center（EPIC）を含む他の14の著名な消費者保護団体によって共同署名されました。書簡は、『The Verge』の報道で詳述されたディープフェイク有名人事件に直接言及しています。Grokの「スパイシー」モードは現在、ユーザーが実在の写真をアップロードして変更することを許可していません — これはリベンジポルノやその他の違法行為に対してさらに深刻な懸念を引き起こす機能でしょう — しかし、各団体は、このツールが「依然としてツールによって生成された画像からヌード動画を生成し、これらは実在の特定の人物のように見える画像を作成するために使用できる」と強調しています。「このような動画の生成は、描写された人々や未成年ユーザーにとって有害な結果をもたらす可能性があります。」

書簡はさらに、Grokの開発元であるxAIが、ユーザーがアップロードした写真に関する現在の制限を解除した場合、「明らかに同意のないディープフェイクの洪水を引き起こすだろう」と警告しています。各組織は、プラットフォームとその最高責任者が「言論の自由」を装ってモデレーションの保護措置を削除するパターンを指摘しています。米国の「Take It Down Act」は、AI生成の実在の人物のヌードを知って配布することを違法としていますが、その規定はGrokによるそのようなコンテンツの生成には直接適用されない可能性が高いです。それにもかかわらず、消費者団体はFTCと州当局に対し、xAIが「同意のない親密な画像に関する法律」に違反していないか調査するよう強く求めました。

有害なコンテンツの作成に加えて、CFAとその同盟団体は、未成年者が「スパイシー」モードに容易にアクセスして性的な画像を生成できることにも重大な懸念を表明しました。彼らが指摘する唯一の障壁は、ユーザーに年齢を確認するか、18歳以上であることを宣言するよう求める簡単なポップアップです。さらに、これらのポップアップの1つは、ユーザーの生年として「2000」を事前に選択すると報じられており、各組織はこの設計選択が児童オンラインプライバシー保護法（COPPA）または成人向けコンテンツを対象とした様々な州固有の年齢確認法に違反する可能性があると示唆しています。この多面的な苦情は、急速なAI開発と堅牢な安全および倫理的ガードレールの必要性との間の高まる緊張を浮き彫りにしています。