Chats ChatGPT dans Google : Votre vie privée exposée ?
OpenAI a désactivé une fonctionnalité controversée de ChatGPT suite à la révélation qu’elle exposait par inadvertance des conversations privées d’utilisateurs dans les résultats de recherche Google. Cette décision intervient après un rapport de Fast Company qui a souligné que des milliers de chats ChatGPT très personnels étaient publiquement découvrables, impactant potentiellement des millions d’utilisateurs.
L’enquête de Fast Company a révélé de nombreuses conversations indexées par Google, certaines contenant des détails intimes tels que des descriptions spécifiques de relations interpersonnelles. Bien que les informations d’identification des utilisateurs ne soient pas directement incluses dans les chats indexés, la nature profondément personnelle de certains contenus a soulevé des préoccupations quant à une potentielle identification indirecte.
Selon Dane Stuckey, Chief Information Security Officer d’OpenAI, les chats exposés appartenaient à des utilisateurs qui avaient “opté pour” l’indexation. Cela s’est produit lorsque les utilisateurs ont choisi de partager un chat et ont ensuite cliqué sur une case à cocher intitulée “Rendre ce chat découvrable”. Sous cette option, en texte plus petit et plus clair, figurait un avertissement expliquant que le chat pourrait alors apparaître dans les résultats des moteurs de recherche. Fast Company a noté que les utilisateurs partagent souvent des chats à des fins simples, comme les envoyer via WhatsApp ou sauvegarder un lien pour un accès ultérieur, et peuvent avoir négligé ou mal compris l’implication de l’indexation en raison du formatage subtil.
Initialement, OpenAI a défendu la clarté de son étiquetage. Cependant, Stuckey a confirmé plus tard que l’entreprise avait finalement décidé que la fonctionnalité “introduisait trop d’opportunités pour que les gens partagent accidentellement des choses qu’ils n’avaient pas l’intention de partager”. Les conversations exposées incluaient des discussions très sensibles sur la consommation de drogues, la vie sexuelle, la santé mentale et les expériences traumatisantes.
La révélation a suscité de vives critiques de la part de l’éthicienne de l’IA Carissa Veliz de l’Université d’Oxford, qui a exprimé son “choc” face à l’indexation de conversations aussi “extrêmement sensibles”. Veliz a critiqué la pratique plus large des entreprises technologiques, déclarant qu’elles “utilisent souvent la population générale comme cobayes” en déployant de nouveaux produits d’IA et en attendant d’évaluer les réactions des utilisateurs face à des choix de conception potentiellement invasifs.
Stuckey a qualifié la fonctionnalité d’“expérience de courte durée” lancée “pour aider les gens à découvrir des conversations utiles”. Il a confirmé qu’OpenAI travaille activement à la suppression du contenu indexé des moteurs de recherche pertinents. Google n’a pas commenté la question, laissant incertain si tous les chats indexés ont été entièrement supprimés ou quel rôle le géant de la recherche a joué dans leur affichage.
Pour les utilisateurs préoccupés par leurs anciens chats, Fast Company a suggéré que ceux qui ont encore accès à leurs liens partagés pourraient saisir des parties de ces liens dans Google pour vérifier les conversations découvrables.
Cet incident s’ajoute aux préoccupations existantes en matière de confidentialité concernant OpenAI. Il fait suite à une récente bataille juridique où OpenAI s’est engagé à lutter contre une ordonnance du tribunal l’obligeant à préserver indéfiniment tous les chats supprimés, une position qui a inquiété les utilisateurs qui pensaient que leurs chats temporaires et supprimés n’étaient pas sauvegardés. Bien que Sam Altman, PDG d’OpenAI, ait précédemment reconnu le caractère “bancal” de la possibilité de rechercher les chats les plus privés des utilisateurs dans un contexte juridique, Fast Company a noté un manque de transparence similaire perçu concernant les propres pratiques d’OpenAI exposant potentiellement les chats via les moteurs de recherche.
OpenAI a réitéré son engagement envers la confidentialité des utilisateurs. “La sécurité et la confidentialité sont primordiales pour nous, et nous continuerons à travailler pour le refléter au maximum dans nos produits et fonctionnalités”, a déclaré Stuckey, indiquant l’intention de l’entreprise de reconstruire la confiance après ce faux pas.