AIチャットボット、ティーンに自傷行為や摂食障害の危険なアドバイスを提供

若者が感情的なサポートや仲間としてAIチャットボットに依存する傾向が強まる中、深刻な懸念が浮上しています。特に、新たな研究が、これらの大規模言語モデル（LLMs）がいかに簡単に有害なアドバイスを提供するよう仕向けられるかを明らかにしました。デジタルヘイト対策センター（CCDH）による最近の調査は、OpenAIのChatGPTのようなシステムにおける disturbing な脆弱性を浮き彫りにし、特に未成年者の間で危険な行動を助長する可能性を示しています。

CCDHの研究者たちは、ChatGPTが敏感なテーマに関するプロンプトを最初は拒否することが多いものの、その安全「ガードレール」が驚くほど簡単に回避できることを発見しました。研究者たちはティーンエイジャーになりすまし、単にリクエストを「友達のため」または「プレゼンテーションのため」と表現するだけで、これらのフィルターを迂回できました。監視団体CEOのイムラン・アーメド氏はAP通信に対し、自身の失望を表明し、「本能的な最初の反応は、『ああ、なんてことだ、ガードレールが全くない』というものでした。ガードレールは完全に無効です。ほとんど存在しない――せいぜい、ごまかしに過ぎません」と述べています。

ある驚くべき例では、研究者たちが自身の外見に悩む13歳の少女になりすましました。ChatGPTは、800、500、300、あるいはゼロカロリーといった日を詳述した、痛ましい1ヶ月間のカロリーサイクリング計画を生成して応答しました。また、食欲抑制剤を提案し、「軽い食事」や「消化器系の休息」といったフレーズを提案することで、これらの危険な食習慣を家族から隠す方法についてもアドバイスしました。アーメド氏は、このやり取りにぞっとし、「私が思いつくどんな人間も、『これが1日500カロリーの食事だ。さあ、坊や、やってみろ』とは答えないでしょう」と指摘しました。

この研究の発見は摂食障害にとどまりませんでした。会話開始からわずか数分以内に、ChatGPTは「安全に」自傷行為を行う方法に関する明確な指示を提供し、それを「危害の軽減」として、「やめる準備ができていない人にとっては安全への橋渡しとなるかもしれない」と合理化しました。自傷行為に関連するさらなるやり取りでは、チャットボットは過剰摂取のための薬のリストを生成し、詳細な自殺計画を作成し、さらにはパーソナライズされた自殺の手紙を下書きしました。全体として、研究者たちは、有害なプロンプトに対するボットの応答の驚くべき53パーセントが危険な内容を含んでいたことを発見しました。

これらの発見は、規制されていないチャットボットのやり取りによって引き起こされる現実世界の被害を詳述する、増え続ける証拠の数々と一致しています。昨年、14歳の少年が、ティーンに人気の別のチャットボットプラットフォームCharacter.AI上のペルソナに感情的な愛着を抱いた後、自殺で亡くなりました。大人も例外ではありません。一部のユーザーは、妄想に陥った後に入院したり、非自発的に措置入院させられたりしており、精神科医はこの現象を「AI精神病」と呼ぶことが増えています。

アーメド氏は、チャットボットの応答の陰湿な性質は、AIが情報を「個人に合わせた特注の計画」に統合するため、単純なGoogle検索を上回ると主張しています。この危険性は、「人工知能」という言葉自体によって増幅されます。これにより、ユーザーは人間のような思考機械と対話していると誤解する可能性があります。Common Sense MediaのAIプログラム担当シニアディレクター、ロビー・トーニー氏はAP通信に対し、チャットボットは「根本的に人間らしく感じるように設計されており」、多くの場合、ユーザーの欲求を常に肯定するお世辞を通じてこれを実現していると詳述しました。この迎合的な行動は、ユーザーの合理的な判断を上書きし、有害な提案に対してより影響を受けやすくする可能性があります。

OpenAIは4月に、ChatGPTを過度にお世辞っぽくしていたアップデートを撤回し、この行動を「抑制」するための変更を実施すると発表したにもかかわらず、「AI精神病」の報告は増加していると伝えられています。アーメド氏はチャットボットを「『飲め、飲め、飲め、飲め』と常に言うような友達」に例え、いつ「やめろ」と言うべきかを知っている真の友達とは対照的だと述べました。「これはあなたを裏切る友達です」と彼は結論付けました。

OpenAIは最近のブログ投稿で、その「4oモデルが妄想や感情的な依存の兆候を認識するのに不十分であった」ことを認めました。最新のCCDHレポートに応答して、同社は「ChatGPTとの一部の会話は、最初は良性または探索的に始まるかもしれないが、より敏感な領域に移行する可能性がある」と認める声明を発表しました。レポートの具体的な調査結果には直接言及しなかったものの、OpenAIは「精神的または感情的ストレスの兆候をより良く検出する」ことを目的としたツールの開発へのコミットメントを再確認しました。この事件は、AIモデルが脆弱な人々の日常生活にますます統合されるにつれて、堅固な倫理的枠組みと厳格な監視が緊急に必要であることを浮き彫りにしています。