ホーリー上院議員、MetaのAIボットを子どもの安全懸念で調査

ミズーリ州選出の共和党員であるジョシュ・ホーリー上院議員は、Metaの人工知能製品について、子どもに危害を加える可能性に対する深い懸念を理由に調査を開始しました。この調査は、ソーシャルメディアの巨人であるMetaが、最年少ユーザーに対する適切な安全対策を確保するコミットメントに疑問を投げかける一連の精査の最新のものです。

上院司法委員会犯罪・テロ対策小委員会の委員長として、ホーリー上院議員は金曜日に送付された書簡で、Metaの最高経営責任者マーク・ザッカーバーグ氏に正式に調査を通知しました。書簡はMetaに対し、最近のロイターの報道に関連する広範な文書と内部通信を提供するよう要求しています。その報道は、MetaがAIボットに子どもと「官能的」かつ「ロマンチック」な会話をすることを許可していたと主張しており、同社の安全対策について重大な警鐘を鳴らしています。懸念を公言しているホーリー上院議員は、X（旧Twitter）にも投稿し、「ビッグテック」が安全よりも利益を優先する程度を疑問視し、「私たちの子どもたちを放っておけ」と強く求めました。

Metaは上院の調査について直接コメントすることを拒否しました。しかし、同社の広報担当アンディ・ストーン氏は、Metaは「AIキャラクターが提供できる回答の種類について明確なポリシーを保持しており、これらのポリシーは子どもを性的対象とするコンテンツや、大人と未成年者間の性的ロールプレイングを禁止している」と述べました。

この新たな調査は、未成年ユーザーの保護に関してMetaにかかる圧力が10年間エスカレートしている状況に加わるものです。InstagramやFacebookといった人気プラットフォームを所有する同社は、現在40以上の州から訴訟を起こされており、いずれもその製品が未成年者の精神衛生に悪影響を与えていると主張しています。昨年、子どもの安全に焦点を当てた熱い議会公聴会で、ホーリー上院議員は特に、ザッカーバーグ氏に対し、聴衆にいた保護者たちに公に謝罪するよう要求しました。

ホーリー上院議員はザッカーバーグ氏への書簡で、小委員会の調査が、Metaの生成AI製品が「子どもの搾取、欺瞞、その他の犯罪的危害」を助長しているかどうか、そしてMetaがその安全対策について国民や規制当局に透明であったかどうかを掘り下げると強調しました。木曜日に公開されたロイターの報道は、AIボットが「子どもをロマンチックまたは官能的な会話に従事させる」ことを許可するAIルールを概説していると報じられたMetaの内部文書を引用しました。

オンラインでの子どもの保護強化を求める動きは、議員の間で幅広い超党派の支持を得ています。議会は今年、非合意の性的画像をオンラインプラットフォームから削除することを義務付ける「Take It Down Act」を最近可決しました。さらに、コネチカット州選出の民主党上院議員リチャード・ブルーメンソール氏とテネシー州選出の共和党上院議員マーシャ・ブラックバーン氏は、未成年者のオンラインプライバシーやその他の重要な保護を強化するために設計された法案である「Kids Online Safety Act」を共同で提出しました。

議員たちは、高度なAI技術の出現が子どもたちをさらに大きなリスクにさらす可能性があると一貫して警告してきました。ちょうど先週、ブラックバーン上院議員は、Instagramの地図機能が捕食者が子どもを特定しやすくする可能性があるとの懸念を表明し、Metaにこの機能を無効にするよう公に促しました。ブラックバーン上院議員は「同社は、そのプラットフォームがどのように設計されているかによる壊滅的な結果に見て見ぬふりをしてきた」と断言し、議員たちの間で高まる不満を要約しました。