El año pasado, Irfan Biswas, un estudiante de secundaria estadounidense, publicó un artículo en el *Journal of Medical Ethics* como único autor, explorando la aplicación de la inteligencia artificial en la industria farmacéutica. Sin embargo, el artículo fue retractado formalmente hace poco. Una investigación reveló que Biswas había utilizado IA generativa para «recuperar e interpretar fuentes de referencia» sin verificar su existencia real, lo que resultó en la cita de múltiples referencias totalmente inventadas.

El caso de Biswas no es un incidente aislado. En otra revista de ética, el *Journal of Academic Ethics*, los lectores descubrieron que al menos 19 de las 29 referencias de un artículo sobre la denuncia de irregularidades (*whistleblowing*) eran completamente ficticias. Irónicamente, el tema del artículo era precisamente la denuncia de irregularidades.

Según *Retraction Watch*, el problema de las referencias falsas se ha ido extendiendo silenciosamente a diversos niveles en los últimos años. Todos los indicios apuntan a una única fuente: la IA generativa, ejemplificada por ChatGPT. La comunidad académica se enfrenta a algo más que unos pocos artículos retractados; todo el sistema de verificación del conocimiento —que depende en gran medida de las citas bibliográficas— está empezando a desmoronarse.

La retractación del artículo de un estudiante de secundaria revela la punta del iceberg de las invenciones mediante IA.

En septiembre de 2025, el *Journal of Medical Ethics* publicó un artículo que analizaba el uso de la IA en la industria farmacéutica. El texto presentaba un argumento claro: los algoritmos sesgados agravan las desigualdades dentro del sistema sanitario. El único autor del artículo era Biswas, un estudiante de secundaria de Shrewsbury, Massachusetts.

Sin embargo, este artículo, aparentemente común, ocultaba un problema importante. Las investigaciones revelaron que Biswas había utilizado IA generativa para «recuperar e interpretar fuentes de referencia», pero no las verificó antes de enviar el trabajo. Como consecuencia, el artículo citaba múltiples referencias que no existían.

El 28 de mayo de 2026, la revista emitió una declaración formal de retractación. En ella se afirmaba: «La revista llevó a cabo una investigación sobre la calidad del contenido del artículo y la exactitud de sus referencias; múltiples señales de alerta indicaban que varias referencias habían sido inventadas».

En otras palabras, las citas del artículo —que parecían académicamente rigurosas— eran producto exclusivo de «alucinaciones académicas» inventadas de la nada por un modelo de lenguaje de gran tamaño. Peor aún, la investigación reveló pruebas de una «revisión por pares manipulada», lo que sugiere que pudo haber otras maniobras no reveladas detrás de la publicación del artículo.

Poco después se produjo un incidente similar en otra revista especializada en ética. El *Journal of Academic Ethics* también publicó una retractación este año. Un lector descubrió numerosas referencias falsas en un artículo titulado «Experiencias de denuncia de irregularidades por parte de personas con discapacidad en instituciones educativas públicas de Etiopía». Mientras leía el artículo, la investigadora independiente finlandesa Erja Moore intentó localizar varias referencias que parecían valiosas, solo para descubrir que «las fuentes no existían en absoluto».

Moore procedió a verificar las 29 referencias citadas en el artículo y descubrió que al menos 19 parecían ser falsas. Estas referencias apócrifas presentaban diversas formas: casos en los que los autores sí habían publicado otros artículos sobre el tema pero los títulos citados no existían; casos en los que los títulos eran similares pero las revistas y los autores eran totalmente diferentes; y situaciones en las que el volumen, el número y las páginas de la revista remitían a contenidos completamente ajenos a la entrada citada. Cabe destacar que 11 de las referencias falsas pretendían citar el *Journal of Business Ethics*, una publicación de Springer Nature.

Aún más alarmante es el hecho de que este fenómeno haya penetrado en instituciones internacionales de gran prestigio. En marzo de 2025, el Banco Mundial publicó un informe titulado *Nourishing the Future: Addressing Obesity in South Asia through Food Systems* (Nutrir el futuro: abordar la obesidad en el sur de Asia a través de los sistemas alimentarios). El académico paquistaní Muhammad Azam descubrió referencias falsas en este informe, que había sido elaborado en colaboración con personal del Banco Mundial.

Azam, investigador con amplia experiencia en revistas depredadoras, fue alertado sobre el problema por un miembro de un grupo de debate sobre investigación en ciencias del deporte. Tras un examen más detenido, identificó numerosas «entradas de referencia problemáticas». Resultó aún más preocupante descubrir que, de las 218 referencias —que incluían informes, documentos de políticas y artículos de prensa—, al menos 14 no pudieron localizarse ni verificarse.

En respuesta a las consultas de *Retraction Watch*, el Banco Mundial retiró el informe de su sitio web e inició una revisión, declarando que «se incluirá una nota detallando claramente todas las revisiones cuando se vuelva a publicar». Sin embargo, para entonces el informe ya se había descargado 133 veces.

Datos alarmantes: uno de cada 277 artículos contiene referencias inventadas.

Estos casos, aparentemente aislados, apuntan a un problema sistémico.

En mayo de este año, *The Lancet* publicó una carta que revelaba cifras impactantes: tras examinar cerca de 2,5 millones de artículos indexados en PubMed, un equipo de investigación descubrió que aproximadamente uno de cada 277 artículos publicados en las primeras siete semanas de 2026 citaba bibliografía inexistente. El número de citas inventadas en la literatura biomédica se ha multiplicado por doce en los últimos dos años.

Esta tasa representa un aumento exponencial en comparación con 2023 (uno de cada 2.828 artículos) y 2025 (uno de cada 458 artículos). El equipo, dirigido por Maxim Topaz del Instituto de Ciencia de Datos de la Universidad de Columbia, utilizó inteligencia artificial para identificar 4.406 referencias inventadas —distribuidas en 2.810 artículos— de un total de 97,1 millones de referencias.

El momento en que esto ocurre es especialmente significativo. El equipo de Topaz detectó un repunte en las referencias falsas generadas por IA a mediados de 2024, coincidiendo precisamente con la adopción generalizada de diversas herramientas de redacción basadas en IA. Además, informes anteriores de *Nature* indicaban que decenas de miles de publicaciones de 2025 «podrían contener referencias no válidas generadas por inteligencia artificial».

Sin embargo, la industria editorial académica ha tardado en reaccionar ante estas cifras alarmantes. Los datos de verificación muestran que más del 98% de los artículos señalados por contener referencias falsas no fueron objeto de «ninguna acción por parte de las editoriales» en el momento de la investigación.

Los enfoques varían según las distintas editoriales.

Por ejemplo, un portavoz de Taylor & Francis declaró que el grupo está invirtiendo recursos en desarrollar tecnología de detección, contratar personal especializado y perfeccionar los procesos para filtrar citas problemáticas. El portavoz señaló que, si las referencias parecen cuestionables, los manuscritos se devuelven a los autores para su revisión, y añadió: «Si la proporción de citas falsas es excesiva, o si comprometen seriamente la credibilidad científica general del manuscrito, el artículo suele ser rechazado directamente».

Renee Hoch, responsable de ética editorial de la Public Library of Science (PLOS), reveló que la editorial está «explorando una solución de filtrado a nivel de sistema para garantizar la integridad de las referencias». Hoch también declaró que la Public Library of Science (PLoS) no clasificaría automáticamente las referencias inventadas como mala conducta académica: «La mala conducta académica tiene una definición clara que requiere un elemento de intención subjetiva; si un problema específico constituye mala conducta es algo que determina la institución del autor, no la revista ni la editorial».

Sin embargo, Howard Bauchner, exeditor jefe de *JAMA*, y Frederick Rivara, exeditor jefe de *JAMA Pediatrics*, mantienen una postura muy firme. Argumentan que cualquier artículo que contenga referencias inventadas o generadas por IA debería ser retractado inmediatamente, ya que «una vez que los investigadores ponen sus nombres en un trabajo como autores, asumen la responsabilidad de todo el contenido del artículo».

La retractación de un joven de 16 años sienta un ejemplo positivo.

En medio de la crisis de integridad académica provocada por la IA, no todas las historias que involucran a autores en edad escolar y retractaciones son desalentadoras. En 2012, Nathan Georgette, por entonces estudiante de último año en la Facultad de Medicina de Harvard, retractó voluntariamente un artículo que había escrito a los 16 años. Descubrió que una premisa errónea en su primer trabajo había invalidado las conclusiones de un segundo artículo publicado en *PLoS ONE*.

La secuencia de los hechos fue la siguiente: en 2007, con tan solo 16 años, Georgette publicó su primer trabajo académico —un artículo sobre inmunología— en el *Journal of Internet Epidemiology*. Este trabajo le ayudó a obtener una prestigiosa beca para la escuela secundaria. En 2009, basándose en su investigación anterior, Georgette publicó un segundo artículo en *PLoS ONE*.

Más tarde, Georgette ingresó como estudiante de grado en la Universidad de Harvard. En 2012, descubrió una premisa errónea en su primer artículo. Si bien dicha premisa no comprometía gravemente el artículo de 2007, invalidaba directamente las conclusiones del trabajo publicado en *PLoS ONE*.

Georgette podría haber mantenido el asunto en silencio y haberlo dejado pasar. En lugar de eludir su error, solicitó proactivamente a *PLoS ONE* que retractara el artículo. En aquel momento, *Retraction Watch* elogió su «rigor académico y honestidad», y *The Boston Globe* publicó un editorial alabando sus acciones.

Más de una década después, cuando Georgette estaba a punto de terminar sus estudios en la Facultad de Medicina de Harvard y solicitaba plazas de residencia, aquella experiencia pasada resultó ser una ventaja en lugar de un obstáculo. «Cuando decidí retirar el artículo inicialmente, pensé que perjudicaría mis perspectivas laborales», admitió Georgette, «pero todos los entrevistadores valoraron enormemente esa franqueza». Él mismo indicó proactivamente en su currículum que el artículo había sido «retirado voluntariamente por los autores» y relataba con gusto la historia completa a los entrevistadores. La experiencia le llevó a comprender profundamente que, ya sea en la práctica clínica o en la investigación científica, la autocrítica reflexiva es esencial en todas las etapas.

En marcado contraste con Georgette se encuentran los autores cuyos artículos fueron retirados debido a referencias inventadas por inteligencia artificial. En 2025, un artículo publicado en *DARU Journal of Pharmaceutical Sciences* —una revista de Springer Nature— contenía cinco referencias inexistentes de un total de diecisiete; una de estas citas falsas incluso atribuía un artículo a Ivan Oransky, cofundador de *Retraction Watch*, afirmando que había escrito un texto titulado «New Oversight Forces Are Reshaping the Scientific Research Industry» (Nuevas fuerzas de supervisión están remodelando la industria de la investigación científica) en la revista *Nature* en 2019, un artículo que en realidad nunca existió.

Mohammad Abdollahi, editor jefe de la revista y autor principal de correspondencia del artículo, ya ha sufrido la retirada de once de sus propios trabajos. Al abordar la polémica, reconoció que, como editor jefe, «no supervisó adecuadamente el proceso de revisión de los manuscritos», y la revista está llevando a cabo una investigación exhaustiva sobre el incidente. «Hubo múltiples fallos en el proceso estándar de gestión de manuscritos, y estamos rastreando el origen y las causas de estos problemas».

Abdollahi señaló que la revista utiliza dos sistemas de software distintos —uno para detectar plagio y otro para identificar contenido generado por IA— y que ambas herramientas arrojaron resultados negativos para este manuscrito. Dos de los autores que revisaron la versión final habían «utilizado específicamente ChatGPT para verificar las referencias en un intento de detectar errores; sin embargo, visto en retrospectiva, esa revisión no solo fue inútil, sino que generó una serie de nuevos problemas».

La IA está transformando todos los aspectos de la investigación académica, y las «referencias alucinatorias» son solo la punta del iceberg. Cuando se incorpora información fabricada como referencia en bases de datos académicas, cuando los clínicos elaboran planes de tratamiento basados ​​en evidencia inexistente y cuando los estudios fundamentales citados en revisiones sistemáticas son, en sí mismos, ficticios, el impacto de esta crisis de confianza es mucho más profundo de lo que sugieren las cifras brutas de artículos retractados.

Como señaló Topaz: «Independientemente de si los grandes modelos de lenguaje logran finalmente eliminar el problema de la generación de contenido falso, el daño ya está hecho». La «contaminación informativa» derivada de las más de 4.000 referencias fabricadas identificadas por su equipo no desaparecerá simplemente a medida que mejore la tecnología de IA. Para la comunidad académica, el verdadero desafío podría no residir únicamente en identificar el contenido generado por IA, sino en reconstruir la confianza fundamental que los lectores depositan en las «referencias»: una piedra angular de la labor académica.