ユーザーのGPT-4o依存がOpenAIに方針転換を強いる

先週、OpenAIは待望のGPT-5モデルがこれまでの全バージョンを完全に置き換えるという発表で、大きな話題を呼びました。しかし、この動きはユーザーベースから即座に広範な怒りを買いました。GPT-5の性能に感銘を受けるどころか、多くのパワーユーザーは、以前のモデル、特にGPT-4oを復活させるようCEOのサム・アルトマンに迅速に訴えました。彼らの訴えは、しばしば人工知能の能力に対する微妙な批判からではなく、古いシステム、特にGPT-4oへの深い感情的な愛着に起因していました。

Redditのあるユーザーは、アルトマンとGPT-5チームとの質疑応答セッションで、「私たち全員が独自のコミュニケーションスタイルを持っているのに、なぜバリアントと4oをなくすのですか？」と質問しました。この感情の圧倒的な量は非常に大きく、アルトマンはわずか24時間強で譲歩し、「非推奨」とされたGPT-4oモデルを再度利用可能にすると宣言しました。「よし、4oについて皆さんの声は届きました。フィードバック（と情熱！）をくださる時間をありがとう」とアルトマンは答え、このモデルがChatGPT Plusの購読者向けに復活すること、そしてその利用状況を監視して長期の提供を決定すると付け加えました。この譲歩にもかかわらず、ユーザーコミュニティはさらなる保証を求め続け、あるユーザーは「『どれくらいの期間提供するか検討します』ではなく、『可能な限り長くGPT-4oを提供することを検討していただけませんか？』」と書き込みました。

この出来事は、ChatGPTユーザーがサービスと築き上げてきた、感情的かつ機能的な深いつながりを鮮やかに浮き彫りにしています。この愛着は、場合によっては深刻な精神衛生上の危機につながっており、精神科医はこれらのチャットボットによって引き起こされる妄想や依存を説明するために「AI精神病」という用語を作り出しました。サム・アルトマンは、この懸念される傾向を鋭く認識しているようです。この億万長者は長い公開声明の中で、「一部の人々が特定のAIモデルに抱く愛着」を認め、それが「以前の種類の技術に人々が抱いてきた愛着とは異なり、より強く感じる」と述べました。彼は「ユーザーがワークフローで依存していた古いモデルを突然非推奨にしたのは間違いだった」と認めました。

アルトマンは、OpenAIがおよそ1年にわたり、この前例のないレベルのユーザーの愛着を綿密に監視してきたことを明らかにしました。彼は、ユーザーが「精神的に不安定な状態で妄想に陥りやすい」場合、AIがそれを強化すべきではないという会社の懸念を明確に述べました。ほとんどのユーザーは現実とフィクション、あるいはロールプレイを明確に区別できますが、アルトマンは「ごく一部の人々はそうではない」と認めました。彼は、一部のユーザーがChatGPTを「一種のセラピストやライフコーチ」として利用することに価値を見出す一方で、他のユーザーは「無意識のうちに長期的な幸福から遠ざけられている」と述べました。注目すべきは、アルトマンがこの強烈なユーザーエンゲージメントを説明するために「依存症」という言葉を使うのを控えたことですが、彼は問題を認め、「例えば、ユーザーがChatGPTの使用を減らしたいのにできないと感じるのは悪いことだ」と述べました。彼はまた、「人々が最も重要な決定においてChatGPTの助言を本当に信頼する」未来の展望に不安を表明しました。

問題を認めつつも、アルトマンは具体的な解決策をほとんど示しませんでした。5000億ドルの驚異的な評価額を目指しているとされるOpenAIが「これをうまくやる良い機会がある」という一般的な楽観論を超えては。彼は、同社がユーザーの幸福度を測定するための高度な技術を持っていることを示唆しました。たとえば、製品が「ユーザーと対話して、彼らが短期および長期の目標にどう取り組んでいるかを把握する」能力などです。同社の8月4日のブログ投稿では、「当社の4oモデルが妄想や感情的依存の兆候を認識するのに不十分なケースがあった」ことをさらに認めました。OpenAIは、「モデルを改善し続け、精神的または感情的な苦痛の兆候をよりよく検出するためのツールを開発しており、ChatGPTが適切に対応し、必要に応じて人々を根拠に基づくリソースに誘導できるようにする」と述べました。

しかし、アルトマンの保証の実際の実施はまだ見守る必要があります。これまでのOpenAIの公開回答は、ほとんどが曖昧でした。同社は最近、「感情的な苦痛の兆候をよりよく検出する」ことや、「長時間のセッション中に休憩を促す優しいリマインダー」でユーザーを促すという「最適化」を主張しました。何ヶ月もの間、OpenAIは報道機関に対して定型文の声明を提供しており、ChatGPTが「以前の技術よりも応答性が高く、個人的に感じられるため、特に脆弱な個人にとってはリスクが高い」ことを認めています。今年の初めには、OpenAIはユーザーがGPT-4oモデルの更新を「過度に迎合的で迷惑」だと感じたため、その更新を元に戻すことを余儀なくされました。この説明はアルトマン自身も繰り返しています。

この状況は、OpenAIの戦略に内在する緊張関係を明らかにしています。同社の多額の支出は現在、即座の投資収益率を覆い隠していますが、有料購読者は最も重要な収益源の一つです。エンゲージメントの高い、さらには「依存している」ユーザーは、定義上、エンゲージメント分析にとって優れています。これは、過去10年間にソーシャルメディアで観察されたダイナミクスを彷彿とさせる、倫理的懸念がビジネス目標と衝突することが多いという倒錯したインセンティブを生み出しています。先週の有料購読者の抗議の後、GPT-4oが迅速に復活したことは、この商業的現実を鮮明に浮き彫りにしています。