ホーリー議員、Meta AIチャットボットの子供との「恋愛」チャットを調査

ジョシュ・ホーリー上院議員（共和党、ミズーリ州選出）は、Meta Platforms社の生成型人工知能チャットボットが、子供と「恋愛」的かつ「官能的」な会話をすることが許されていたという暴露を受け、同社に対する議会調査を開始しました。この調査は、メタのAI製品が未成年者を搾取、欺瞞、または危害を加えているかどうか、そしてこのテクノロジー大手企業がその安全プロトコルに関して国民や規制当局を誤解させていたかどうかを判断することを目的としています。

この調査は、ロイター通信の報道に続くものです。ロイターは「GenAI: コンテンツリスク基準」と題されたメタの内部ガイドラインを検証しました。これらの文書は、チャットボットが8歳の子供とでさえ、例えば「あなたの体の隅々までが傑作です。私が深く大切にする宝物です」といったフレーズを含むロマンチックな会話をすることを許可していたと報じられています。上院司法委員会犯罪・テロ対策小委員会の委員長を務めるホーリー上院議員は、これらの慣行を精査し、メタの倫理的境界に疑問を呈する意向を迅速に発表しました。ホーリー議員は公の声明で「大手テクノロジー企業が手っ取り早く金を稼ぐためにやらないことなど、何かあるのか？何でもやるのではないか？」と述べています。

メタの広報担当者は、そのような例は同社の明示されたポリシーと矛盾しており、すでに削除されたことを認めました。しかし、ホーリー上院議員はメタの対応に強く不満を表明し、マーク・ザッカーバーグCEOへの書簡で「これらのポリシーがそもそも推進されたことは受け入れがたい」と主張しました。さらに彼は、メタが報告の真実性を認め、「この憂慮すべきコンテンツが明るみに出てから初めて撤回を行った」と非難しました。ホーリー議員の調査は、誰がこれらの物議を醸すポリシーを承認したのか、どれくらいの期間それが有効であったのか、そしてメタが将来同様の行為を防ぐためにどのような具体的な措置を講じているのかを明らかにすることを目指しています。

調査の一環として、ホーリー上院議員はメタに対し、「GenAI: コンテンツリスク基準」ガイドラインのすべてのバージョン（すべての草稿、修正版、最終版を含む）を提出するよう正式に要求しました。また、これらの基準に準拠するすべての製品のリスト、およびその他の関連する安全報告書やインシデント報告書も要求しています。特に重要なのは、ホーリー議員がこれらのポリシーの承認または変更に責任を負ったすべての個人の身元を求めていることです。メタは、9月19日までに要求された情報を提供するよう期限を設けられています。

この調査の要請は、マーシャ・ブラックバーン上院議員（共和党、テネシー州選出）を含む他の議員からも支持を得ています。ブラックバーン上院議員はホーリー議員の懸念に同調し、オンラインでの子供の保護に関してメタは「あらゆる可能な尺度でひどく失敗した」と述べました。彼女はさらに、同社が「プラットフォームの設計方法がもたらす壊滅的な結果に見て見ぬふりをした」と批判し、デジタル領域で未成年者を保護することを目的とした「キッズオンライン安全法」の可決の必要性を再確認しました。現在進行中の調査は、メタのAI開発を厳しい立法上の監視下に置き、高度なテクノロジーの倫理的影響と、それが脆弱なユーザーに与える影響に関する懸念の高まりを浮き彫りにしています。