Integridad de la Ciencia

Los investigadores se enfrentan a una tendencia preocupante que amenaza los cimientos del progreso científico: el fraude científico se ha convertido en una industria [1]. Y está creciendo más rápido de lo que las revistas científicas legítimas revisadas por pares son capaces de abarcar.

Ya no se trata de casos aislados de malos investigadores. Estamos presenciando el surgimiento de una estrategia organizada y sistemática de fraude científico [2]. Esto incluye fábricas de artículos científicos (“paper mills”) que producen artículos de investigación poco originales en masa, agencias que garantizan la publicación, a cambio de una tarifa, y revistas depredadoras, que eluden por completo el control de calidad [3, 4].

Estas organizaciones se ocultan tras etiquetas que suenan respetables, como “servicios de edición” o “consultores académicos” [5]. En realidad, su modelo de negocio se basa en corromper el proceso científico.

Las fábricas de artículos científicos funcionan como cultivos de contenido, inundando las revistas con envíos, para saturar los sistemas de revisión por pares. Utilizan las estrategias de selección de revistas —enviando múltiples artículos a una sola de ellas—, y la de salto de revistas —enviando el mismo artículo a múltiples agencias simultáneamente—. Es un juego de números [6]. Solo con que una fracción logre colarse, el servicio fraudulento obtiene ganancias.

¿Se trata simplemente de un caso de pereza por parte de los científicos? La respuesta es más compleja y preocupante. Los investigadores actuales se enfrentan a limitaciones que hacen que estos servicios fraudulentos resulten cada vez más tentadores. La presión de producir continuamente nuevas investigaciones, o correr el riesgo de que les recorten los fondos (lo que se conoce como la cultura de “publicar o perecer”), es un problema que existe desde hace tiempo [7].

Además, los gobiernos de todo el mundo se enfrentan a dificultades financieras y buscan recortar gastos, lo que se traduce en que haya menos financiación para la investigación [8]. Menos financiación significa más competencia.

Esto crea un callejón sin salida para los investigadores, puesto que necesitan publicaciones para obtener financiación, pero necesitan financiación para llevar a cabo investigaciones aptas para publicarse. Los factores ambientales agravan el problema [9]. La globalización hace que los investigadores individuales se pierdan en un mar de competidores, lo que aumenta aún más la tentación de manipular el sistema.

En este entorno, la posibilidad de tener una publicación asegurada puede parecer más una salvación que un pacto con el diablo.

IA: Aceleración, ¿a qué precio?
El auge de la IA generativa ha impulsado esta industria del fraude. Los investigadores están siendo testigos de una avalancha de artículos de investigación que parecen sacar provecho del software de IA para producir artículos a una velocidad sin precedentes [10]. Estos artículos analizan bases públicas de datos que ofrecen evidencias superficiales [11]. Estos artículos generados apresuradamente llevan las marcas distintivas de un proceso de producción en serie de una fábrica de artículos, lo que incluye la creación de evidencias, la manipulación de datos, la falta de ética laboral, y el plagio descarado [12].

Mientras que antes un revisor podía recibir diez propuestas para una conferencia o revista en un año, ahora se ve inundado por 30 o 40 propuestas en un plazo más corto (seis meses o menos), por lo que las investigaciones legítimas quedan sepultadas bajo la avalancha de artículos.

A su vez, los revisores abrumados se ven tentados a utilizar herramientas de IA para resumir artículos, identificar lagunas en la evidencia e incluso redactar las cartas de respuesta con sus revisiones. Esto está creando una carrera armamentística. Algunos investigadores han comenzado a incluir texto oculto en sus envíos (como texto blanco sobre fondo blanco o fuentes microscópicas), con instrucciones creadas para anular las indicaciones que se le dan a la IA, para que así el artículo solo reciba críticas positivas [13].

El sistema de revisión por pares, la salvaguarda del mundo académico contra el fraude, se enfrenta a sus propios problemas. Aunque su objetivo es garantizar la calidad, se trata de un proceso lento en el que las nuevas ideas se deben analizar y comprobar minuciosamente. La historia nos recuerda que la revisión por pares es esencial, pero imperfecta. Albert Einstein la detestaba [14].

Debido a que el proceso es lento, muchos investigadores comparten primero sus hallazgos en plataformas de prepublicación, donde el trabajo se puede compartir de forma inmediata [15]. Para cuando la investigación llega a una conferencia o revista científica legítima, las publicaciones que no están revisadas por pares ya se han distribuido por todo el mundo. Esperar al proceso de revisión por pares significa que un investigador corre el riesgo de perder el reconocimiento por su descubrimiento.

La presión por ser el número uno no ha cambiado desde que Isaac Newton dejó que su descubrimiento del cálculo quedara en el olvido sin publicarse, mientras que Gottfried Leibniz se llevaba todo el mérito [16]. Lo que ha cambiado es la escala y la sistematización de los atajos.

El aumento de las retractaciones en serie (diez o más artículos retirados simultáneamente) indica que no estamos tratando con incidentes aislados, sino con un problema a escala industrial [17]. En la década de 1990 casi no se produjeron retractaciones en serie. En 2020 hubo alrededor de 3.000, y en 2023, más de 6.000.

En comparación, en 2023 se produjeron 2.000 retractaciones de artículos individuales. Esto significa que las retractaciones en serie, de más de diez artículos, fueron tres veces superiores a las retractaciones de artículos individuales.

El camino a seguir
Si el objetivo fuera simplemente deshacerse de los científicos poco éticos, los sistemas con los que ya contamos podrían ser suficientes. Sin embargo, estamos enfrentando el desafío a la red de mecanismos de control que hace que la ciencia funcione. Ahora que las publicaciones fraudulentas aumentan más rápido que la ciencia legítima, y que el contenido generado por la inteligencia artificial supera la capacidad de revisión humana, necesitamos soluciones mejores.

La comunidad científica debe tener en cuenta cómo sus propias estructuras —las métricas de publicación, los mecanismos de financiación y los incentivos profesionales— han creado vulnerabilidades de las que se pueden aprovechar los sistemas poco éticos.

Hasta que no abordemos estas cuestiones sistémicas, la industria del fraude seguirá prosperando, socavando la labor que ha hecho que nuestro mundo sea más seguro, más limpio y más accesible [18-20]. La pregunta no es si podemos permitirnos arreglar este sistema, sino si podemos permitirnos no hacerlo.