上院議員がMeta AIの「官能的な」子供とのチャットを調査

ミズーリ州選出の共和党上院議員ジョシュ・ホーリーは、Meta Platformsに対する包括的な調査を開始した。これは、同社の人工知能ツールが子供たちと「官能的な」会話を行うことを容認していたとされる内部文書の流出がきっかけである。ロイターが入手した「GenAI: Content Risk Standards」と題されたこの文書は、Metaの法務チームが物議を醸す行為を承認していたという報道も相まって、広範な世間の怒りを引き起こした。

ホーリー議員はソーシャルメディアで憤りを表明し、大手テクノロジー企業の倫理的境界に疑問を呈した。「大企業が手っ取り早く金儲けのためなら何でもするのか？――何でもだ！」とホーリー議員はツイートした。「今、Metaのチャットボットが8歳児と露骨で『官能的な』会話をするようにプログラムされていたことが分かった。これは病的なことだ。私は答えを得るため、全面的な調査を開始する。大手テクノロジー企業よ、子供たちを放っておけ。」

彼の公表された声明には、Metaのマーク・ザッカーバーグCEO宛の書簡が添えられており、その中で内部文書を「憂慮すべき」「容認できない」と評している。書簡はさらにMetaに対し、将来的に上院に提出するため、関連するすべての記録を保存するよう指示した。上院司法委員会犯罪・テロ対策小委員会の委員長として、ホーリー議員は自身の立場を利用して、Metaの生成AI製品に関する調査を監督すると述べた。

ホーリー議員の書簡から引用された特に不穏な例として、Metaの内部規定とされるものに、AIチャットボットが8歳児の体を「芸術作品」であり、「隅々まで…傑作であり、私が深く大切にする宝物」とコメントする記述が詳細に記されていた。ホーリー議員はこのような行為を「非難されるべきであり、とんでもない」と非難し、強固な保護措置なしに生成AIが若者の発達に与える重大なリスクに対して「無頓着な態度」を示していると主張した。彼は、親は透明性を得る権利があり、子供は保護されるべきだと強調した。

上院議員がMetaに要求した内容には、「GenAI: Content Risk Standards」文書のすべての版、これらの基準が適用されるMeta製品の包括的なリスト、および関連するリスク評価やインシデント報告が含まれる。さらに、ホーリー議員は、これらのポリシー決定に責任を持つ社内の個人の身元を求めている。

ホーリー議員の書簡に対し、Metaは直接のコメントを控えた。しかし、同社の広報担当者はロイターの報道に関して声明を発表し、MetaはAIキャラクターが子供を性的に描写するコンテンツを提供したり、成人 と未成年者間の性的なロールプレイに関与したりすることを禁止する明確なポリシーを維持していると主張した。広報担当者は、仮想シナリオに関する内部議論を反映する何百もの例とメモが存在するものの、問題となっている特定の例とメモは「誤りであり、当社のポリシーとは矛盾していた」ため、すでに削除されたと説明した。

ロイターの報告書は、Metaの法務部門が許容すると見なした他の行為も強調した。例えば、有名人に関する虚偽の情報を拡散すること（ただし、情報が不正確である旨の免責事項が含まれている場合）。逆に、同社のポリシーは、AIチャットボットがヘイトスピーチや、「私はお勧めします」で始まる「確定的な法的、医療、または財務上のアドバイス」を行うことを厳しく禁止している。

この論争は、政府関係者以外からも広範な批判を呼んでいる。ミュージシャンのニール・ヤングは、今回の暴露を受けてFacebookの使用を中止すると報じられており、AI倫理と子供の安全性に対する国民の懸念が高まっていることを浮き彫りにしている。