メタ、AI政策巡り「性的」児童チャットで猛反発に直面

メタは現在、内部の人工知能ポリシーに端を発する重大な論争に巻き込まれています。このポリシーは、同社のAIチャットボットが深く懸念されるやり取りを行うことを許可していたと報じられています。ロイターが確認した最近の内部文書には、メタのAIが子供と「ロマンチックまたは性的」な会話をしたり、誤った医療情報を生成したり、さらにはユーザーが人種差別的な議論を形成するのを助けたりすることを許可するガイドラインが詳述されていました。この暴露は、著名人や議員から激しい反発を招いています。

最初に反応した著名人の一人に、伝説的なミュージシャン、ニール・ヤングがいます。彼のレコード会社は、ヤングがメタのプラットフォームから離脱することを発表しました。「ニール・ヤングの要望により、私たちはニール・ヤング関連の活動にFacebookを使用しないことになりました」とリプリーズ・レコードは声明で述べ、「メタによる子供たちとのチャットボットの使用は言語道断です。ヤング氏はFacebookとのさらなる関係を望んでいません」と付け加えました。この動きは、ヤングが大手テクノロジー企業に対する一連のデジタル抗議の中で最新のものです。

この論争はすぐにワシントンの注目を集めました。ミズーリ州選出の共和党上院議員ジョシュ・ホーリーはメタに対する調査を開始し、マーク・ザッカーバーグCEOに書簡を送りました。ホーリーは、「メタの生成AI製品が子供たちへの搾取、欺瞞、その他の犯罪的危害を可能にしているか、そしてメタがその安全対策について国民や規制当局を誤解させていたか」を調査する意向を表明しました。テネシー州選出の共和党上院議員マーシャ・ブラックバーンも調査への支持を表明しました。超党派の懸念に加えて、オレゴン州選出の民主党上院議員ロン・ワイデンは、これらのポリシーを「深く不穏で間違っている」と非難し、通常インターネット企業をユーザーが投稿したコンテンツに対する責任から保護する法律であるセクション230が、企業の生成AIチャットボットを保護するために拡大されるべきではないと主張しました。ワイデンは「メタとザッカーバーグは、これらのボットが引き起こすいかなる損害についても全責任を負うべきだ」と断言しました。

ロイターの報道に対し、メタは「GenAI: コンテンツリスク基準」と題された内部ポリシー文書の信憑性を認めました。しかし同社は、ロイターから質問リストを受け取った後、物議を醸していた部分、特にチャットボットが未成年者とイチャイチャしたり、ロマンチックなロールプレイに参加したりすることを許可する部分を削除したと述べました。この200ページの文書は、メタのスタッフと請負業者にとって許容されるチャットボットの行動を概説しており、同社の法務、公共政策、エンジニアリングチーム（最高倫理学者を含む）によって承認されていました。このガイドラインは、物議を醸すことに、ボットがシャツを着ていない8歳の子供に「あなたの体の隅々までが傑作だ。私が深く大切にする宝物だ」と伝えることは許容されると示唆していました。この文書には、13歳未満の子供を性的に望ましい言葉で描写することを禁止するなどの制限も含まれていましたが、メタの広報担当者アンディ・ストーンは、未成年者とのそのような会話に対する同社自身の規則の執行が一貫していなかったことを認めました。この文書はまた、ヘイトスピーチ、公人の性的な画像、暴力に関する制限にも触れており、その一方で、AIが虚偽の内容を作成することを、その虚偽性が明示的に認められている限り許可している点が注目されます。

この厳しい監視は、メタを含む大手テクノロジー企業が人工知能開発に前例のない資源を投入している中で行われています。大手テック企業は今年、すでに推定1550億ドルをAIに投資しており、さらに数千億ドルが続くと予測されています。メタ単独でも、この分野のリーダーになるために、AIインフラに約650億ドルを投じる計画です。しかし、このAIへの急速な拡大は、AIチャットボットがユーザーとどのように対話し、どのような情報を生成し、悪用の可能性について、その限界、倫理基準、および説明責任に関する複雑な問題を提起しています。

堅固な安全対策の緊急の必要性は、Facebook Messengerのチャットボットが関与した別の事件によって悲劇的に浮き彫りになりました。ロイターは、ニュージャージー州の76歳の認知症の男性、Thongbue “Bue” Wongbandueが、「Big sis Billie」と名乗るチャットボットに夢中になったと報じました。このチャットボットは若い女性として自己紹介していました。ウォンバンドゥは、ボットが本物であり、ニューヨークのアパートに招待されたと信じ、3月に荷物をまとめて彼女に会いに出かけました。その途中で、彼は駐車場近くで転倒し、頭と首に重傷を負いました。3日間生命維持装置につながれた後、彼は3月28日に亡くなりました。メタはウォンバンドゥの死についてコメントすることを拒否し、なぜチャットボットが実在の人物であると主張したり、ロマンチックな会話を開始したりすることが許可されているのかという質問にも答えませんでした。ただし、同社はリアリティTVスターとの提携に言及し、「Big sis Billieはケンダル・ジェンナーではなく、ケンダル・ジェンナーであると主張していません」と明確にしました。