Chats de ChatGPT en Google: ¿Tu privacidad expuesta?
OpenAI ha desactivado una controvertida función de ChatGPT tras revelarse que exponía inadvertidamente conversaciones privadas de usuarios en los resultados de búsqueda de Google. La medida surge después de que un informe de Fast Company destacara que miles de chats de ChatGPT altamente personales eran públicamente descubribles, lo que podría afectar a millones de usuarios.
La investigación de Fast Company encontró numerosas conversaciones indexadas por Google, algunas con detalles íntimos como descripciones específicas de relaciones interpersonales. Aunque la información de identificación del usuario no se incluía directamente en los chats indexados, la naturaleza profundamente personal de algunos contenidos generó preocupaciones sobre una posible identificación indirecta.
Según Dane Stuckey, Director de Seguridad de la Información de OpenAI, los chats expuestos pertenecían a usuarios que habían “optado por” la indexación. Esto ocurrió cuando los usuarios eligieron compartir un chat y posteriormente hicieron clic en una casilla de verificación etiquetada como “Hacer este chat descubrible”. Debajo de esta opción, con un texto más pequeño y claro, había una advertencia que explicaba que el chat podría aparecer en los resultados de los motores de búsqueda. Fast Company señaló que los usuarios a menudo comparten chats con fines simples, como enviarlos por WhatsApp o guardar un enlace para acceso posterior, y pueden haber pasado por alto o malinterpretado la implicación de la indexación debido al formato sutil.
Inicialmente, OpenAI defendió la claridad de su etiquetado. Sin embargo, Stuckey confirmó más tarde que la compañía finalmente decidió que la función “introdujo demasiadas oportunidades para que la gente compartiera accidentalmente cosas que no pretendían”. Las conversaciones expuestas incluían discusiones altamente sensibles sobre el consumo de drogas, la vida sexual, la salud mental y experiencias traumáticas.
La revelación provocó fuertes críticas de la eticista de IA Carissa Veliz de la Universidad de Oxford, quien expresó “conmoción” por la indexación de conversaciones tan “extremadamente sensibles”. Veliz criticó la práctica más amplia de las empresas tecnológicas, afirmando que a menudo “usan a la población general como conejillos de indias” al desplegar nuevos productos de IA y esperar a evaluar las reacciones de los usuarios a las opciones de diseño potencialmente invasivas.
Stuckey caracterizó la función como un “experimento de corta duración” lanzado “para ayudar a las personas a descubrir conversaciones útiles”. Confirmó que OpenAI está trabajando activamente para eliminar el contenido indexado de los motores de búsqueda relevantes. Google no ha comentado sobre el asunto, dejando claro si todos los chats indexados han sido completamente eliminados o qué papel jugó el gigante de las búsquedas en su visualización.
Para los usuarios preocupados por sus chats anteriores, Fast Company sugirió que aquellos que aún tienen acceso a sus enlaces compartidos podrían introducir partes de estos enlaces en Google para verificar si hay conversaciones descubribles.
Este incidente se suma a las preocupaciones de privacidad existentes en torno a OpenAI. Sigue a una reciente batalla legal donde OpenAI prometió luchar contra una orden judicial que le exigía preservar indefinidamente todos los chats eliminados, una postura que preocupó a los usuarios que creían que sus chats temporales y eliminados no se guardaban. Si bien el CEO de OpenAI, Sam Altman, reconoció previamente que la naturaleza “desordenada” de los chats más privados de los usuarios podía ser buscada en un contexto legal, Fast Company señaló una percibida falta de transparencia similar con respecto a las propias prácticas de OpenAI que potencialmente exponen chats a través de los motores de búsqueda.
OpenAI ha reiterado su compromiso con la privacidad del usuario. “La seguridad y la privacidad son primordiales para nosotros, y seguiremos trabajando para reflejarlo al máximo en nuestros productos y funciones”, afirmó Stuckey, indicando la intención de la compañía de reconstruir la confianza después de este paso en falso.