Casi 100K chats de ChatGPT expuestos en Google Search
Una importante falla de privacidad ha salido a la luz, revelando que casi 100,000 conversaciones realizadas en ChatGPT de OpenAI fueron indexadas por Google y otros motores de búsqueda, haciéndolas públicamente accesibles. Esta exposición, inicialmente reportada por Fast Company y detallada posteriormente por 404Media.co, se originó a partir de una "función para compartir" diseñada para permitir a los usuarios generar enlaces a sus conversaciones, lo que inadvertidamente expuso datos personales y profesionales sensibles a la web abierta.
El problema surgió de una casilla de verificación "Hacer este chat detectable" que se presentaba a los usuarios cuando optaban por compartir una conversación de ChatGPT. Si bien la función incluía letra pequeña que indicaba que el chat podría aparecer en los resultados de búsqueda, muchos usuarios, según se informa, hicieron clic en esta opción sin comprender completamente las implicaciones de la exposición pública. El resultado fue un vasto conjunto de datos de conversaciones, recopilado por un investigador, que OpenAI no disputó que fueran alrededor de 100,000 chats indexados.
Los datos expuestos son alarmantemente diversos y sensibles. Incluyen supuestos textos de acuerdos de confidencialidad, discusiones de contratos confidenciales, problemas de relaciones profundamente personales, confesiones de salud mental, quejas laborales, detalles sobre el uso de drogas y la vida sexual, e incluso solicitudes de empleo. Algunos chats indexados contenían nombres completos, ubicaciones, información de contacto, cargos, nombres de empresas y procesos internos, convirtiendo intercambios privados en posibles minas de oro de inteligencia de código abierto (OSINT) para actores maliciosos o competidores.
En respuesta a la preocupación generalizada y la atención de los medios, el Director de Seguridad de la Información (CISO) de OpenAI, Dane Stuckey, anunció en X (anteriormente Twitter) que la compañía había eliminado por completo la "función de detectabilidad". OpenAI la describió como un "experimento de corta duración" destinado a ayudar a los usuarios a descubrir conversaciones útiles. La compañía ahora está trabajando con los motores de búsqueda para desindexar los chats compartidos, aunque reconoció que las versiones en caché podrían permanecer visibles durante algún tiempo.
Este incidente subraya desafíos críticos en la gobernanza de la IA y la higiene de los datos a medida que las herramientas de IA generativa se integran cada vez más en los flujos de trabajo diarios. Destaca la importancia primordial de un diseño de interfaz de usuario claro y sin ambigüedades y de valores predeterminados de privacidad sólidos para evitar la exposición involuntaria de datos. La rápida respuesta de OpenAI, retirando la función a las pocas horas de la reacción, sugiere un reconocimiento de la gravedad de la violación de la confianza del usuario.
Para los usuarios preocupados por sus datos, se aconseja verificar si alguna de sus conversaciones ha sido indexada realizando una búsqueda en Google usando "site:chatgpt.com/share" seguido de su nombre o términos únicos de sus chats. Los usuarios pueden eliminar cualquier enlace compartido que ya no deseen que sea público navegando a su configuración de ChatGPT, luego a "Controles de datos" y finalmente a "Enlaces compartidos". Además, el incidente sirve como un claro recordatorio para tener precaución al compartir cualquier información sensible con chatbots de IA, tratando dichas interacciones como registros digitales potencialmente permanentes.