La IA impulsa el fraude científico: un problema creciente de la industria
El pilar del progreso científico se enfrenta a una amenaza sin precedentes, ya que la investigación fraudulenta pasa de ser incidentes aislados a una empresa sofisticada y a escala industrial. Esto no es meramente obra de unos pocos individuos deshonestos; en cambio, estamos presenciando el auge del fraude científico organizado y sistemático, impulsado por entidades como las “fábricas de artículos” que producen artículos formulados en masa, las agencias que garantizan la publicación a cambio de una tarifa, y las “revistas depredadoras” que eluden los mecanismos esenciales de garantía de calidad. Estas operaciones a menudo se disfrazan bajo etiquetas inofensivas como “servicios de edición” o “consultores académicos”, pero su modelo de negocio central se basa en subvertir el propio proceso científico.
Las fábricas de artículos funcionan de forma muy parecida a las granjas de contenido, inundando las revistas con envíos para abrumar los sistemas tradicionales de revisión por pares. Su estrategia implica la “orientación a revistas”, donde se envían múltiples artículos a una sola publicación, y el “salto de revista”, al enviar el mismo artículo a varias publicaciones simultáneamente. Es un juego de números calculado: si incluso una pequeña fracción de estas presentaciones fraudulentas se cuela, los autores obtienen grandes beneficios.
La proliferación de estos servicios no es simplemente una cuestión de indolencia académica; refleja un ecosistema más complejo y problemático. Los investigadores de hoy operan bajo una presión inmensa, particularmente la arraigada cultura de “publicar o perecer”, donde una producción continua de nuevas investigaciones es crucial para asegurar financiación y el avance profesional. Esta presión se ve agravada por las restricciones financieras globales, lo que lleva a los gobiernos a recortar los presupuestos de investigación. La reducción de fondos intensifica la competencia, creando un “dilema” para los científicos que necesitan publicaciones para obtener subvenciones, pero requieren subvenciones para realizar investigaciones publicables. Además, en un panorama de investigación cada vez más globalizado, las voces individuales pueden sentirse perdidas en un mar de competencia, lo que convierte la promesa de publicación garantizada en un trato cada vez más tentador, aunque fáustico.
La llegada de la inteligencia artificial generativa ha amplificado drásticamente esta industria del fraude. Los investigadores están observando una explosión de artículos que parecen explotar el software de IA para producir documentos a velocidades sin precedentes. Estos artículos generados apresuradamente a menudo extraen datos superficiales de conjuntos de datos públicos y presentan las características reveladoras de la producción de fábricas de artículos, incluyendo la fabricación de pruebas, la manipulación de datos, la mala conducta ética y el plagio descarado. Donde un revisor por pares podría haber manejado diez envíos anualmente, ahora se ven inundados con 30 o 40 en un plazo de seis meses, enterrando la investigación legítima bajo una avalancha de contenido dudoso. Esto ha degenerado en un juego del gato y el ratón, con revisores abrumados que a veces recurren a herramientas de IA para resumir o identificar lagunas, solo para encontrarse con investigadores que incrustan texto oculto en los envíos para anular las indicaciones de la IA y manipular las revisiones.
El salvaguarda tradicional de la academia contra el fraude, el sistema de revisión por pares, se enfrenta a sus propios desafíos inherentes. Si bien es indispensable para garantizar la calidad, es un proceso notoriamente lento, que exige un examen y una prueba cuidadosos de las nuevas ideas. Históricamente, incluso figuras como Albert Einstein expresaron desdén por su ritmo. Esta lentitud ha impulsado el auge de las plataformas de prepublicación, donde los hallazgos pueden compartirse de inmediato. Para cuando una investigación se somete a una rigurosa revisión por pares y llega a una revista legítima, las versiones no revisadas por pares pueden haberse difundido ampliamente, creando presión para ser el primero y reclamar el crédito por los descubrimientos, un dilema que recuerda el avance del cálculo de Isaac Newton que languideció inédito mientras Gottfried Leibniz reclamaba el crédito. Sin embargo, lo que ha cambiado es la magnitud y la sistematización de estos atajos.
Un claro indicador de este problema a escala industrial es el alarmante aumento de las “retracciones en lote”, la retirada simultánea de diez o más artículos. En la década de 1990, tales retracciones eran prácticamente inexistentes. Para 2020, había aproximadamente 3.000, y en 2023, esta cifra se disparó a más de 6.000. Para poner esto en perspectiva, las retracciones en lote en 2023 fueron tres veces más frecuentes que las retracciones de un solo artículo, que se situaron en torno a las 2.000.
Abordar esta crisis requiere más que simplemente erradicar a los científicos poco éticos. Exige un ajuste de cuentas fundamental sobre cómo las propias estructuras de la comunidad científica —sus métricas de publicación, mecanismos de financiación e incentivos profesionales— han creado inadvertidamente vulnerabilidades que estos sistemas fraudulentos explotan. Hasta que estos problemas sistémicos sean confrontados y resueltos, la industria del fraude seguirá prosperando, socavando la misma empresa que ha hecho nuestro mundo más seguro, limpio y accesible. La pregunta no es si podemos permitirnos arreglar este sistema, sino si podemos permitirnos no hacerlo.