OpenAI annule la recherche des conversations ChatGPT
OpenAI a rapidement annulé une fonctionnalité récente qui permettait aux utilisateurs de rendre leurs conversations privées avec ChatGPT détectables par les moteurs de recherche, citant des préoccupations de confidentialité. Ce retour en arrière intervient au milieu d’un examen croissant de la confidentialité des données dans les interactions d’IA et de récentes révélations selon lesquelles des conversations ChatGPT partagées étaient indexées par Google.
La décision a été annoncée par le responsable de la sécurité de l’information d’OpenAI, qui a déclaré que la société annulait la fonctionnalité pour répondre aux préoccupations des utilisateurs en matière de confidentialité. Cette mesure fait suite à des rapports selon lesquels Google indexait des liens ChatGPT partagés, rendant les échanges privés, contenant potentiellement des informations personnelles ou commerciales sensibles, publiquement consultables. Les utilisateurs qui ont utilisé la fonction “Partager” de ChatGPT pour générer des URL uniques pour les conversations, souvent avec l’intention de les partager avec un public limité, ont découvert que ces liens pouvaient être découverts via des recherches web générales, exposant ainsi les invites et les réponses.
Ce développement souligne les défis persistants de la confidentialité des données dans le paysage de l’IA en évolution rapide. Bien qu’OpenAI ait précédemment introduit une fonction de “recherche ChatGPT” en novembre 2024, conçue pour permettre à ChatGPT de rechercher des informations sur le web et de fournir des réponses avec des sources, le problème en question concerne spécifiquement la capacité de recherche des conversations privées des utilisateurs qui ont été partagées.
Le PDG d’OpenAI, Sam Altman, a également récemment averti les utilisateurs que les conversations avec ChatGPT ne sont pas légalement privilégiées, contrairement aux discussions avec des professionnels médicaux ou juridiques, et pourraient potentiellement être soumises à divulgation dans le cadre de procédures judiciaires. Cet avertissement, couplé au récent problème de recherche, met en évidence un écart significatif dans les attentes des utilisateurs concernant la confidentialité de leurs interactions avec les modèles d’IA. De nombreux utilisateurs, en particulier les jeunes, auraient utilisé ChatGPT pour des questions très personnelles, y compris la thérapie et les conseils de vie, en partant du principe de la confidentialité.
OpenAI a travaillé activement au renforcement de ses initiatives de sécurité. En octobre 2024, Dane Stuckey, anciennement responsable de la sécurité de l’information chez Palantir Technologies, a rejoint OpenAI en tant que nouveau CISO, travaillant aux côtés de Matt Knight, qui avait été précédemment promu chef de la sécurité. Stuckey a souligné que la sécurité est au cœur de la mission d’OpenAI de développer une intelligence artificielle générale sûre et de maintenir des normes élevées de conformité et de confiance. La société déclare également que ses produits API, ChatGPT Enterprise, ChatGPT Team et ChatGPT Edu sont couverts par des rapports SOC 2 Type 2, indiquant le respect des normes de l’industrie en matière de sécurité et de confidentialité.
Malgré ces mesures de sécurité, l’incident des conversations privées consultables démontre la complexité de la gestion des données utilisateur dans les systèmes d’IA qui sont de plus en plus intégrés dans la vie quotidienne. Il est conseillé aux utilisateurs de faire preuve de prudence et de considérer toute conversation ChatGPT partagée comme potentiellement publique, même si elle était initialement destinée à un public restreint.