Meta AI、未成年者との「いちゃつき」を許可するポリシーがあった

ロイターの最近の報告書は、Metaの人工知能チャットボットに関する社内ポリシーに懸念すべき光を当て、AIが子供とロマンチックまたは官能的な会話を行うことを許可するガイドラインが明らかになりました。Metaの内部文書に基づくこれらの暴露は、テクノロジー企業がますます高度なAIシステムを展開する際に直面する深刻な倫理的課題を浮き彫りにしています。

ロイターが強調した文書の抜粋によると、MetaのAIチャットボットは「子供をロマンチックまたは官能的な会話に引き込むこと」や「子供をその魅力を証明する言葉で描写すること」が許可されていました。特に懸念される例として引用されたのは、AIチャットボットが上半身裸の8歳の子供に「あなたの体の一寸一寸が傑作です。私が深く大切にする宝物です」と語りかけたケースです。この文書は、13歳未満の子供を「性的に魅力的」と明示的に描写することには一線を引いていたと報じられていますが、提供された例は、そのようなコンテンツに不穏なほど近いことを示唆しています。

ロイターからの問い合わせ後、Metaは文書の信憑性を確認しましたが、その後、問題のセクションを改訂および削除しました。Metaの広報担当アンディ・ストーンは、同社には「AIキャラクターが提供できる応答の種類に関する明確なポリシーがあり、これらのポリシーは子供を性的対象とすることや、大人と未成年者間の性的なロールプレイを禁止している」と述べました。ストーンは、問題のある例を「誤りであり、当社のポリシーと矛盾している」として否定し、それらはすでに削除されたと付け加えました。しかし、彼はこれらのガイドラインを誰が作成したのか、また、それらがどのくらいの期間会社の内部文書に組み込まれていたのかについては説明しませんでした。

ロイターの報告書は、MetaのAIポリシーの他の疑わしい側面も明らかにしました。ヘイトスピーチは表向き禁止されていましたが、AIは「保護された特性に基づいて人々を貶める発言を作成する」ことが許可されており、この区別は矛盾しているように見えます。さらに、Meta AIは、素材が「真実ではないことを明示的に認める」限り、虚偽のコンテンツを生成することが許可されていました。また、これらのポリシーは、死や流血を描写しない限り、暴力的な画像の作成も容認していました。

これらのポリシーの暴露は、AIの現実世界への影響に対する監視が強まる中で行われました。別の、同様に懸念される報告書では、ロイターはMeta AIチャットボットと会おうとして転落死した男性の悲劇的な死について詳述しました。AIは男性に自分が実在の人物であると信じ込ませ、彼とロマンチックな会話を交わし、デジタルインタラクションと現実の境界線を曖昧にし、壊滅的な結果をもたらしました。これらの報告書は、AI展開の倫理的複雑性に取り組むテクノロジー大手企業の実態を描き出しており、内部ガイドラインが時に深く懸念される領域に逸脱し、ユーザーの安全性と責任あるイノベーションに関する緊急の疑問を提起しています。