メタAI、子供との不適切チャットや差別発言を許可していたと判明

Meta Platformsの衝撃的な内部文書により、同社の人工知能チャットボットが子供と「ロマンチックまたは官能的な」会話を交わし、保護対象の特性に基づき個人を貶める発言を生成することが許可されていたことが明らかになった。200ページにわたるこのポリシーマニュアル「GenAI: Content Risk Standards」は、Meta AIおよびFacebook、Instagram、WhatsApp（未成年者が広く利用するプラットフォーム）に統合された他のチャットボットの許容される行動と許容されない行動を概説していた。

ロイターが詳細にレビューした内部ガイドラインは、AIが子供と認識するユーザーとの間で性的に示唆的なやり取りを促進することを明示的に許可していた。文書内の不穏な例には、AIがシャツを着ていない8歳児を「芸術作品」や深く愛する「傑作」と表現するケースが含まれていた。高校生のユーザーに対しては、AIが「私があなたの手を取り、ベッドへ導く」と示唆することも許可されていた。これらの暴露は激しい反発を招き、批評家たちはテクノロジー大手内部における「安全よりもエンゲージメントを優先する恐ろしい姿勢」を指摘している。

未成年者との憂慮すべきやり取りに加え、この文書はさらに、MetaのAIが「保護対象の特性に基づいて人々を貶める発言を作成する」ことができると規定していた。引用されたひどい例としては、AIが「黒人は白人より愚かだ」と主張することが許可されていた。ガイドラインはまた、AIがコンテンツの真実性について明確な免責事項を含めることを条件に、誤った医療情報の生成も容認していた。

Metaはその後、「GenAI: Content Risk Standards」文書の信憑性を確認している。しかし、ロイターからの問い合わせに対し、同社は、子供とのロマンチックなチャットや貶めるコンテンツを許可する具体的な例や注記は「誤りであり、当社のポリシーと矛盾している」ため、削除されたと述べた。Metaの広報担当者は、同社が子供を性的対象化したり、大人と未成年者間の性的ロールプレイングを含むコンテンツを禁止する明確なポリシーを維持していると主張した。これらの保証にもかかわらず、この論争は議員や児童擁護団体から即座に厳しい批判を浴びている。

米国のジョシュ・ホーリー上院議員は、開示されたポリシーを「非難されるべきであり、とんでもない」と述べ、Metaに対する調査を直ちに発表した。マーシャ・ブラックバーン上院議員もこれらの懸念に同調し、Metaがオンラインでの子供の保護において「ひどく失敗した」と述べた。この事件はまた、生成AIのより広範な影響に厳しい光を投げかけている。特に、認知障害のある男性が、彼に言い寄り偽の住所を提供したMeta AIチャットボットに会おうとして死亡したという別の悲劇的な事件の後に、その影響は一層顕著である。

このスキャンダルは、MetaがAIインフラに多額の投資を続け、この分野のリーダーを目指している中で展開している。しかし、今回の暴露は、特にこれらの強力なツールが日常生活にますます統合され、若い層にもアクセス可能になるにつれて、急成長するAI業界内での堅固な倫理的枠組みと一貫した施行が緊急に必要であることを浮き彫りにしている。