メタのAIルール、子どもとの「恋愛」チャットを許可し上院議員が非難

ロイターの最近の報道によると、メタの社内人工知能ガイドラインが、AIモデルが子どもと恋愛的な、または官能的な会話を行うことを許可していたと報じられ、米国の与野党の2人の上院議員がメタを厳しく批判している。ロイターが確認したこの文書は、メタのAIチャットボットが不正確な医療情報を生成したり、人種的偏見のある発言を生み出したりすることも許可していたとされる。

ロイターによると、メタはその後、この文書の信憑性を確認した。同社は、今月初めに報道機関からの問い合わせを受けて初めて、子どもとのやり取りに関連する物議を醸す部分を削除したと述べている。この開示後の改訂は、議員たちから大きな怒りを買っている。

ミズーリ州選出の共和党上院議員ジョシュ・ホーリーは、この暴露を受けて直ちに議会の行動を求めた。「だから、メタが『捕まって』初めて、チャットボットが子どもとイチャついたり、恋愛ロールプレイを行ったりすることを『許容する』とした会社の文書の一部を撤回したのだ」とホーリーはXに投稿し、「これは即座の議会調査の根拠となる」と付け加えた。

この感情に同調し、ハワイ州選出の民主党上院議員ブライアン・シャッツは深い憤りを表明した。「これは嫌悪感を抱く邪悪な行為だ」とシャッツはXに書いた。「子どもを持つ人が、誰かがこの考えを声に出して言ったときに、パニックになる以外に何をできたのか理解できない。複数の人がこれを承認したと知って、私の頭は爆発しそうだ。」

問題のガイドラインは、法務、公共政策、エンジニアリング部門を含むメタの複数の主要チームによって承認され、特筆すべきは、最高倫理責任者によっても承認されたと報じられている。高まる論争に対し、メタはロイターに対し、子どもとのそのような会話は決して許されるべきではなかったと述べ、文書を積極的に改訂中であることを確認した。この事件は、特に脆弱な人々との対話において、高度なAI技術の開発と展開を管理する安全プロトコルと倫理的考慮事項に関する継続的な懸念を浮き彫りにしている。