GPT-5登場前にChatGPTがメンタルヘルス安全機能を強化

OpenAIは、より強力なGPT-5モデルの待望のデビューに向けた準備と並行して、ChatGPT AIに新たなメンタルヘルス安全機能を導入しました。これらのアップデートは、特に感情的または心理的苦痛を経験している個人と人工知能とのユーザーインタラクションに関する高まる懸念に対処するものです。

同社はメンタルヘルス専門家や諮問グループと協力し、ChatGPTが苦痛の兆候を認識する能力を向上させています。目的は、チャットボットがデリケートな状況でより責任を持って対応し、潜在的に有害な思考を単に強化したり同意したりするのではなく、適切な場合にはエビデンスに基づいたリソースを提供することです。このイニシアチブは、メンタルヘルス危機にある個人がChatGPTを使い、その妄想を悪化させたと報じられた報告に続くものです。OpenAIは以前、ChatGPTを過度に協調的にする以前のアップデートが、同社がそのような「追従的」な応答が苦痛を引き起こす可能性があると認識した後、4月にロールバックされたことを認めていました。現在のGPT-4oモデルも、感情的な脆弱性や妄想的な行動を特定するのに苦労することがありました。

ChatGPTが以前の技術よりも個人的で理解があると感じられることを認識し、OpenAIは特に感情的に脆弱なユーザーにとって、より安全で支援的であることを目指しています。より健全な利用パターンを促進するため、ChatGPTは今後、長時間の会話中にユーザーに休憩を取るよう促します。YouTube、TikTok、Xboxなどのプラットフォームで過度なスクリーンタイムを抑制するために設計されたリマインダーと同様に、長時間のチャットに従事しているユーザーは、「しばらくチャットしていますね、休憩するのに良いタイミングですか？」といったメッセージを目にするでしょう。

もう一つの重要な今後のアップデートは、ChatGPTが「リスクの高い」個人的な状況に対応する際に、より慎重になるようにするものです。例えば、ユーザーが人間関係の決定のようなデリケートな話題についてアドバイスを求めた場合、ChatGPTは直接的な答えを提供しません。代わりに、特定の選択肢を推奨することなく、様々な選択肢を思慮深く探求するようユーザーを導きます。

これらの機能強化は、OpenAIがより感情的に認識され、より安全なAIを開発するというコミットメントを強調しています。特に、ChatGPTが現在、世界中で週に約7億人のユーザーにサービスを提供していることから、その重要性は増しています。