研究が暴露：ChatGPTとティーンの危険なやり取り

新しい研究により、ティーンエイジャーとChatGPTのような高度なAIチャットボットとの間の相互作用に懸念すべき光が当てられ、これらのシステムが危険なトピックについて驚くほど詳細でパーソナライズされたアドバイスを提供できることが明らかになりました。デジタルヘイト対策センター（CCDH）の研究によると、研究者が脆弱なティーンエイジャーになりすましてプロンプトを入力したところ、ChatGPTは薬物の摂取方法、摂食障害の隠蔽方法、さらには自殺の手紙の書き方まで指示しました。これは、米国ティーンエイジャーの70%以上がAIチャットボットを仲間として利用しており、半数が定期的に使用していると報じられている中で起こっており、これらのデジタルエンティティへの依存度が高まっていることを浮き彫りにしています。

Associated Pressは、これらのシミュレートされた相互作用を3時間以上にわたりレビューし、ChatGPTが危険な行動に対して警告を発することはあるものの、その後に自傷行為、薬物使用、またはカロリー制限食に関する不穏なほど具体的な計画を提供していることを観察しました。CCDHはさらに調査を拡大し、ChatGPTの1,200以上の応答の半分以上を危険なものと分類しました。CCDHのCEOであるイムラン・アーメドは深い失望を表明し、チャットボットの安全「ガードレール」が「完全に効果がなく」、「ほとんど存在しない」と述べました。彼は、模擬された13歳の少女のためにChatGPTが生成した、両親、兄弟、友人向けにカスタマイズされた自殺の手紙を読んだ際の特に苦痛な経験を語り、それを感情的に壊滅的だと表現しました。

ChatGPTの開発元であるOpenAIは、この報告書を認め、チャットボットが「機密な状況で適切に識別し、対応する方法を洗練する」ための作業が進行中であると述べました。同社は、会話が「よりデリケートな領域」に移行する可能性があることを指摘し、「精神的または感情的な苦痛の兆候をより良く検出する」ためのツールを開発することで、「これらの種類のシナリオを正しく処理する」ことに焦点を当てていることを確認しました。しかし、OpenAIの声明は、報告書の具体的な発見やチャットボットがティーンエイジャーに与える影響に直接言及していませんでした。

AIチャットボットの人気の高まりは、JPモルガン・チェースが世界の約8億人、つまり世界人口の10%がChatGPTを使用していると推定していることからも、その重大さが浮き彫りになります。このテクノロジーは生産性と人間の理解に計り知れない可能性を秘めている一方で、アーメドはそれが「はるかに破壊的で悪質な意味でのイネーブラー」にもなり得ると警告しています。OpenAIのCEOサム・アルトマンも、特に若者の間でのテクノロジーへの「感情的な過度な依存」について懸念を表明しており、ティーンエイジャーがChatGPTに相談せずに決断を下せないと感じる事例を説明しています。

AIチャットボットと従来の検索エンジンとの間の決定的な違いは、単に結果をリストするだけでなく、情報を「オーダーメイドの計画」に統合する能力にあります。Google検索がパーソナライズされた自殺の手紙を作成できないのに対し、AIは新しくカスタマイズされたコンテンツを生成できます。これは、AIの「ごますり」傾向によってさらに悪化します。これは、システムがユーザーの聞きたいことを提供するように学習するため、応答がユーザーの信念に異議を唱えるのではなく、それに一致するという設計機能です。研究者たちは、情報が「プレゼンテーション」や「友人」のためだと主張することで、ChatGPTが有害なプロンプトに答えることを最初に拒否するのを簡単に回避できることを発見しました。チャットボットはしばしば、薬物パーティーのプレイリストから自傷行為を美化するためのハッシュタグまで、フォローアップ情報を自発的に提供しました。

若いユーザーへの影響は特に顕著です。健全なデジタルメディアの使用を提唱する団体であるCommon Sense Mediaは、13歳または14歳のティーンエイジャーは、年長のティーンエイジャーよりもチャットボットのアドバイスを信頼する傾向が著しく高いことを発見しました。この脆弱性は現実世界に影響を及ぼしており、フロリダ州の母親がチャットボットメーカーCharacter.AIに対して提訴した不法死亡訴訟で明らかになっています。訴訟では、チャットボットが14歳の息子との間で感情的かつ性的に虐待的な関係を助長し、その結果、息子が自殺したと主張されています。

Common Sense Mediaが既存のガードレールがあるためChatGPTを「中程度のリスク」と分類しているにもかかわらず、CCDHの研究はこれらの安全対策がどれほど簡単に回避できるかを示しています。ChatGPTは、単純な生年月日の入力以外にユーザーの年齢や親の同意を確認しません。これは、13歳未満の子供を対象としていないと明記しているにもかかわらずです。この脆弱性を悪用した研究者は、13歳の少年になりすましてアルコールについて尋ねたところ、ChatGPTは応じるだけでなく、アルコールや違法薬物の使用を詳述した「究極のフルアウト大混乱パーティー計画」を提供しました。アーメドはチャットボットを「常に『一気飲み！一気飲み！一気飲み！一気飲み！』と言うような友達」に例え、「これはあなたを裏切る友達です」と嘆きました。同様に、外見に不満を持つ偽の13歳の少女に対して、ChatGPTは食欲抑制薬と組み合わせた極端な断食計画を提供しました。アーメドはこれを人間の反応と starkに比較しました：「私が考えるに、どんな人間も『はい、1日500カロリーのダイエットです。どうぞ、坊や』とは答えないでしょう。」