隐私引爆舆论:OpenAI紧急下线ChatGPT公开聊天功能,删除泄露数据

Fastcompany

在私人用户对话开始出现在谷歌搜索结果中后,OpenAI已停止了其ChatGPT应用程序中一项备受争议的自愿加入功能。此前,《快公司》的一篇报道强调了敏感对话(其中一些涉及高度个人化的话题)是如何变得公开可访问的。

本周早些时候,该报道揭露,私人ChatGPT对话,包括关于吸毒和性健康等主题的讨论,竟意外地可以通过谷歌搜索引擎被发现。问题的根源似乎在于该应用程序的“分享”功能,它提供了一个选项,可能无意中导致用户将其聊天内容设置为公开可搜索。

当用户选择“分享”选项时,他们可以选择勾选一个标有“使此聊天可发现”的方框。尽管该选项下方有较小、较浅的文字解释说,对话随后可能会出现在搜索引擎结果中,但据报道,许多用户忽略或误解了这一关键警告,导致了意想不到的公开披露。

在这一问题在社交媒体上引发广泛关注的几小时内,OpenAI迅速采取行动,禁用了该功能,并着手将已曝光的对话从搜索引擎索引中移除。

OpenAI首席信息安全官戴恩·斯塔基(Dane Stuckey)在一份公开声明中回应了这一情况。斯塔基表示:“最终,我们认为这项功能为人们意外分享他们不打算分享的内容提供了太多机会,因此我们正在移除该选项。”他补充说:“我们还在努力从相关搜索引擎中移除已索引的内容。”这一声明标志着该公司此前立场的重大转变,该公司曾坚持认为该功能的标签足够清晰。

OpenAI的迅速回应受到了网络安全分析师、SocialProof Security首席执行官雷切尔·托巴克(Rachel Tobac)的赞扬。托巴克承认,公司在实施影响用户隐私或安全的功能时可能会犯错。“很高兴看到ChatGPT团队在此迅速果断地采取行动,关闭该功能,并将用户隐私置于首位,”她评论道。

然而,此次事件也引发了对此类功能性质的批评。OpenAI的斯塔基将现已移除的选项描述为“一次短暂的实验”。但牛津大学的人工智能伦理学家卡里萨·维利兹(Carissa Véliz)对这类试验的影响表示担忧。维利兹评论道:“科技公司把普通民众当作试验品。他们做一些事情,在人群中试用,然后看看是否有人抱怨。”

此次事件凸显了科技公司在平衡创新与用户隐私及数据安全方面所面临的持续挑战和责任,尤其是在人工智能等快速发展的领域。