ChatGPTチャットがGoogle検索に流出、プライバシー懸念が浮上

OpenAIは、ユーザーのプライベートな会話がGoogle検索結果に意図せず表示されたことを受け、物議を醸していたChatGPTの機能を停止しました。この措置は、Fast Companyの報告によって、何千もの非常に個人的なChatGPTチャットが公開され、数百万人のユーザーに影響を与える可能性が指摘された後に取られました。

Fast Companyの調査では、Googleによってインデックスされた多数の会話が発見され、その中には人間関係の具体的な描写のような親密な詳細が含まれているものもありました。インデックスされたチャットにユーザーの個人を特定する情報は直接含まれていなかったものの、一部のコンテンツの極めて個人的な性質が、間接的な特定につながる可能性への懸念を引き起こしました。

OpenAIの最高情報セキュリティ責任者であるデーン・スタッキー氏によると、露出したチャットは「インデックスをオプトイン」したユーザーのものでした。これは、ユーザーがチャットを共有することを選択し、その後に「このチャットを検出可能にする」とラベル付けされたチェックボックスをクリックしたときに発生しました。このオプションの下には、より小さく薄い文字で、チャットが検索エンジンの結果に表示される可能性があることを説明する注意書きがありました。Fast Companyは、ユーザーがWhatsAppで送信したり、後でアクセスするためにリンクを保存したりといった簡単な目的でチャットを共有することが多く、微妙なフォーマットのためにインデックスの意味を見落としたり、誤解したりした可能性があると指摘しました。

当初、OpenAIはその表示の明確さを擁護していました。しかし、スタッキー氏は後に、同社が最終的にこの機能が「人々が意図しないものを誤って共有する機会をあまりにも多く生み出した」と判断したことを確認しました。露出した会話には、薬物使用、性生活、精神的健康、トラウマ体験に関する非常にデリケートな議論が含まれていました。

この暴露は、オックスフォード大学のAI倫理学者であるカリッサ・ヴェリズ氏から強い批判を浴び、「極めてデリケートな会話」がインデックスされたことに「衝撃」を表明しました。ヴェリズ氏は、テクノロジー企業のより広範な慣行を批判し、新しいAI製品を展開し、潜在的に侵襲的な設計選択に対するユーザーの反応を測るために待つことで、しばしば「一般大衆をモルモットとして利用している」と述べました。

スタッキー氏は、この機能を「人々が役立つ会話を発見するのを助けるため」に開始された「短命の実験」と特徴づけました。彼は、OpenAIが関連する検索エンジンからインデックスされたコンテンツを削除するために積極的に取り組んでいることを確認しました。Googleはこの件についてコメントしておらず、インデックスされたすべてのチャットが完全に削除されたのか、検索大手が表示においてどのような役割を果たしたのかは不明なままです。

過去のチャットについて懸念があるユーザーに対し、Fast Companyは、共有リンクにまだアクセスできるユーザーは、そのリンクの一部をGoogleに入力して、検出可能な会話があるかどうかを確認できると示唆しました。

この事件は、OpenAIを取り巻く既存のプライバシー懸念に追加されます。これは、OpenAIがすべての削除されたチャットを無期限に保存することを義務付ける裁判所命令と戦うことを誓った最近の法的闘争に続くものです。この姿勢は、一時的および削除されたチャットが保存されないと信じていたユーザーを心配させました。OpenAIのCEOであるサム・アルトマン氏は以前、ユーザーの最もプライベートなチャットが法的な文脈で検索可能であることは「台無し」であると認めていましたが、Fast Companyは、OpenAI自身の検索エンジンを介したチャットの潜在的な露出に関する同様の透明性の欠如が認識されていると指摘しました。

OpenAIは、ユーザープライバシーへのコミットメントを改めて表明しました。「セキュリティとプライバシーは当社にとって最重要事項であり、製品や機能に最大限反映できるよう引き続き取り組んでまいります」とスタッキー氏は述べ、この誤解の後、信頼を再構築する会社の意図を示しました。