ChatGPT聊天记录惊现谷歌搜索,引发隐私大担忧
OpenAI已停用一项备受争议的ChatGPT功能,此前有消息称该功能无意中将用户的私人对话暴露在谷歌搜索结果中。此举是在Fast Company报道称数千条高度个人化的ChatGPT聊天记录可被公开发现,可能影响数百万用户之后采取的。
Fast Company的调查发现,谷歌索引了大量对话,其中一些包含亲密细节,例如人际关系的具体描述。虽然索引的聊天记录中未直接包含用户身份信息,但某些内容的高度个人化性质引发了对潜在间接身份识别的担忧。
根据OpenAI首席信息安全官戴恩·斯塔基(Dane Stuckey)的说法,暴露的聊天记录属于那些“选择加入”索引的用户。这种情况发生在用户选择分享聊天并随后点击名为“使此聊天可被发现”的复选框时。该选项下方,以较小、较浅的文字说明了聊天随后可能出现在搜索引擎结果中。Fast Company指出,用户通常为了简单的目的分享聊天,例如通过WhatsApp发送或保存链接以便将来访问,并且可能由于微妙的格式而忽略或误解了索引的含义。
最初,OpenAI为其标签的清晰性进行了辩护。然而,斯塔基后来证实,该公司最终决定该功能“为人们无意中分享他们不打算分享的内容创造了太多机会”。暴露的对话包括关于吸毒、性生活、心理健康和创伤经历的高度敏感讨论。
这一披露引起了牛津大学人工智能伦理学家卡丽莎·维利兹(Carissa Veliz)的强烈批评,她对如此“极其敏感的对话”被索引表示“震惊”。维利兹批评了科技公司的普遍做法,指出它们经常通过部署新的人工智能产品并等待评估用户对潜在侵入性设计选择的反应,从而“将普通民众用作小白鼠”。
斯塔基将该功能描述为一项“短暂的实验”,旨在“帮助人们发现有用的对话”。他证实OpenAI正在积极努力从相关搜索引擎中删除已索引的内容。谷歌尚未对此事发表评论,目前尚不清楚所有索引的聊天记录是否已完全删除,以及这家搜索巨头在显示这些聊天记录方面扮演了什么角色。
对于担心其过去聊天记录的用户,Fast Company建议,那些仍然可以访问其共享链接的用户可以将其部分链接输入谷歌,以检查是否存在可被发现的对话。
这一事件加剧了围绕OpenAI的现有隐私担忧。此前,OpenAI曾卷入一场法律纠纷,并誓言要对抗一项要求其无限期保存所有已删除聊天的法院命令,这一立场令那些认为其临时和已删除聊天不会被保存的用户感到担忧。尽管OpenAI首席执行官萨姆·奥特曼(Sam Altman)此前承认用户最私密的聊天记录在法律背景下可被搜索是“搞砸了”,但Fast Company指出,OpenAI在通过搜索引擎可能暴露聊天记录的自身做法方面,缺乏类似的透明度。
OpenAI重申了其对用户隐私的承诺。斯塔基表示:“安全和隐私对我们至关重要,我们将继续努力在我们的产品和功能中最大限度地体现这一点。”这表明该公司打算在这次失误后重建信任。