Desde la lluvia de ideas hasta la realización de experimentos y la redacción de artículos, la IA está profundamente involucrada en todas las etapas de la investigación científica. Sin embargo, junto con estas mejoras en la eficiencia, ha surgido una serie de problemas —que van desde cuestiones sobre la autoría original y el «embellecimiento» de datos hasta la «ausencia» de experimentos reales, fugas de información y desafíos en la revisión de artículos—, lo que impulsa a replantear la integridad de la investigación y las normas académicas.

En esta edición, invitamos a cinco investigadores en activo a compartir los cambios que la IA ha aportado a su trabajo y sus reflexiones al respecto. Sus testimonios revelan una aspiración común: en la era de la IA, necesitamos establecer nuevas normas académicas.

¿A quién pertenecen las ideas de investigación generadas por IA?.

Ponente: Cao Shuiyan, investigador asociado de la Facultad de Ciencias (Física) de la Universidad de Aeronáutica y Astronáutica de Nankín.

Durante años, he llevado a cabo investigaciones en fotónica de micro y nanoescala y campos interdisciplinarios afines, centrándome en exploraciones teóricas y experimentales de materiales bidimensionales, dispositivos ópticos de micro y nanoescala, detección optoelectrónica y manipulación de información óptica. Desde la llegada de la IA a la investigación, mis estudiantes de posgrado y yo hemos recurrido cada vez más a modelos de IA a gran escala. Ya sea para revisar la literatura, resumir los avances de la investigación, comparar enfoques técnicos o incluso discutir si vale la pena intentar una nueva estructura de dispositivo, la IA puede ofrecer respuestas rápidamente. A veces, incluso pregunto directamente a la IA: «¿De qué otra manera podemos innovar en esta dirección?». En cuestión de segundos, puede enumerar cinco o seis «ideas de investigación», como cambiar a un material 2D diferente, introducir un nuevo grado de libertad para la manipulación del campo óptico, combinar la polarización con la detección optoelectrónica o extender el concepto a funciones como la lógica óptica y la codificación de información. Vistas simplemente como texto, algunas de estas ideas resultan muy estimulantes.

Esto plantea una pregunta que rara vez surgía antes: si el concepto inicial de investigación, el enfoque innovador o incluso el marco de trabajo de un tema provienen de la IA, ¿cómo debemos determinar la autoría original cuando estas ideas finalmente se materializan en resultados de investigación, como artículos o patentes?. Además, ¿cómo definimos los límites de la contribución entre el investigador y la IA?.

En mi opinión —al menos basándome en mi propia experiencia en micro-nanofotónica—, juzgar la originalidad del resultado final únicamente por quién propuso la idea inicial de investigación simplifica en exceso la naturaleza de la innovación científica. En nuestro campo, la investigación suele comenzar con un concepto preliminar para un dispositivo. Por ejemplo, se pueden introducir micro-nanoestructuras en dispositivos optoelectrónicos basados ​​en materiales bidimensionales (2D); el diseño estructural modifica el campo óptico local y se aprovecha la respuesta optoelectrónica del material para lograr capacidades novedosas de detección o modulación.

Hoy en día, la IA puede generar fácilmente una docena de estas ideas de una sola vez. Sin embargo, existe una enorme brecha entre que la IA genere una idea que «parece novedosa» y la realización efectiva de una investigación original. Algunas ideas resultan inspiradoras a primera vista, pero demuestran ser inviables tras un análisis teórico y una simulación numérica rigurosos: algunas pasan por alto condiciones de contorno esenciales; otras se basan en parámetros de materiales poco realistas; algunas implican efectos teóricos cuya magnitud de señal es demasiado débil para su detección experimental; y, en el caso de otras supuestas «innovaciones», una revisión más exhaustiva de la literatura revela trabajos recientes similares, lo que pone en duda la originalidad misma de la propuesta.

Cada vez tengo más la sensación de que lo que genera la IA son ideas de investigación, no innovaciones científicas plenamente consolidadas. Para determinar si una idea de investigación posee un valor innovador genuino, los investigadores deben contextualizarla dentro del conocimiento existente y verificar continuamente su originalidad y viabilidad científica mediante revisiones bibliográficas, análisis teóricos, simulaciones numéricas e incluso validación experimental. Tomemos como ejemplo la investigación en micro-nanofotónica: un dispositivo puede mostrar características espectrales, profundidad de modulación o respuestas de polarización ideales en los cálculos teóricos. Sin embargo, una vez fabricado, factores como el espesor del material, las tolerancias de fabricación y los problemas de contacto de los electrodos pueden hacer que los resultados experimentales difieran significativamente del concepto inicial, o incluso que lo invaliden por completo.

Durante este proceso también pueden surgir nuevas preguntas científicas. Si bien la IA puede haber contribuido a la conceptualización inicial, determinar la autoría de la originalidad requiere ir más allá de «quién propuso la idea primero». En su lugar, debemos centrarnos en quién tomó las decisiones científicas críticas y quién realizó el trabajo sustancial y creativo durante el desarrollo del resultado de la investigación. Es probable que esta distinción sea clave para aclarar los límites entre las contribuciones de los investigadores humanos y las de la IA.

Esta perspectiva también se aplica a la autoría y a los derechos de propiedad intelectual. Aunque la IA haya contribuido a generar el concepto inicial de la investigación, no puede considerarse simplemente autora de un artículo ni inventora en una patente. Los hallazgos científicos o las soluciones técnicas finales representan la culminación de los esfuerzos sostenidos del investigador en cuanto a criterio, verificación y trabajo creativo. Más importante aún: los resultados de una investigación implican no solo una «contribución», sino también una «responsabilidad». Si tras la publicación salen a la luz errores en la derivación teórica o resultados experimentales no reproducibles, son los investigadores quienes deben dar explicaciones; ante el escrutinio de sus pares, no es posible eludir la responsabilidad alegando simplemente: «Esta idea de investigación fue generada por la IA». En última instancia, son los investigadores quienes respaldan el trabajo y asumen la responsabilidad del mismo.

En el futuro, es probable que los conceptos científicos surjan de una interacción iterativa entre humanos y máquinas. Si bien identificar al «autor original» de la idea inicial puede resultar cada vez más difícil, el origen de una idea no puede equipararse sin más a la atribución de la autoría original del resultado final.

El «embellecimiento» de datos mediante IA conduce a una fabricación encubierta.

Ponente: Liu Xiaoming, profesor asociado de la Facultad de Ingeniería Electrónica y de la Información de la Universidad Xi’an Jiaotong.

Mi investigación se centra en la detección de anomalías espacio-temporales y en la detección de contenido generado por IA (AIGC, por sus siglas en inglés). Mi trabajo consta de dos partes: entrenar modelos para identificar anomalías en los datos y determinar si textos, imágenes o vídeos han sido generados por IA. La premisa fundamental que comparten ambas áreas es la autenticidad de los datos. En los últimos años, mientras actuaba como revisor para revistas académicas, he encontrado con frecuencia manuscritos en los que la metodología, los gráficos y las métricas parecen impecables, pero cuya autenticidad de los datos resulta cuestionable.

El primer caso que hizo saltar mis alarmas fue un trabajo sobre detección de anomalías espacio-temporales. Los autores utilizaron datos de flujo de tráfico de la red viaria de una ciudad, y las curvas resultantes mostraban una suavidad propia de los ejemplos de libro de texto. Sin embargo, en este campo es bien sabido que las secuencias de flujo de tráfico del mundo real fluctúan inevitablemente; Factores como los errores de los sensores, la deriva del reloj, los controles de tráfico y los cambios meteorológicos alteran invariablemente las características de la red viaria. Cuando solicité a los autores detalles sobre la frecuencia de muestreo original y el método empleado para gestionar los valores faltantes, no ofrecieron una respuesta directa.

Las formas tradicionales de mala conducta con los datos implicaban principalmente la manipulación de datos auténticos, lo que a menudo dejaba rastro. Un escenario más habitual hoy en día es la «reconstrucción» de datos reales mediante IA, a través de procesos como la eliminación de ruido, la imputación de valores faltantes y el suavizado de picos repentinos. Aunque los puntos de datos individuales puedan parecer verosímiles, la distribución global deja de reflejar la situación real. Si la primera categoría representa una «mejora cosmética» a nivel de datos, la segunda —mucho más frecuente— surge en la fase de diseño experimental. En algunos trabajos presentados, los modelos de detección de anomalías alcanzan puntuaciones F1 (una métrica de rendimiento que oscila entre 0 y 1, donde un valor cercano a 1 indica un rendimiento superior) de hasta 0,99, superando ampliamente a los métodos existentes en múltiples conjuntos de datos de referencia públicos. Durante mi revisión, me centro en tres aspectos clave: cómo se dividen los conjuntos de entrenamiento y prueba, si se comunican los resultados de múltiples ejecuciones aleatorias y si se han realizado estudios de ablación. Algunos trabajos no superan un análisis más exhaustivo. Estos problemas no siempre obedecen a una intención maliciosa; a menudo se deben a que el investigador desconoce las normas adecuadas de investigación. No obstante, las herramientas de IA han reducido objetivamente el umbral de las «infracciones involuntarias», dificultando cada vez más que los revisores distingan entre un simple descuido y una falsificación deliberada.

Mientras que las dos primeras categorías implican irregularidades metodológicas, la tercera socava directamente la legitimidad de la propia investigación, y es la que más me preocupa. El entrenamiento de modelos de detección de contenidos generados por IA (AIGC) requiere enormes cantidades de contenido auténtico creado por humanos que sirva de muestra negativa. En una ocasión revisé un trabajo en el que los autores afirmaban haber recopilado contenido de usuarios reales en una plataforma específica; sin embargo, el estilo del texto, los hábitos de puntuación y la distribución de las erratas presentaban una uniformidad llamativa: rasgos característicos del contenido masivo generado por IA. Tras la devolución del artículo para su revisión, los autores admitieron haber utilizado modelos de gran tamaño para sintetizar algunas muestras con el fin de ampliar el conjunto de datos, sin haberlo revelado en el manuscrito. Lo absurdo del caso radica en que el estudio pretendía identificar contenido generado por IA, cuando los propios datos de entrenamiento provenían de la IA; independientemente de lo elevadas que fueran las métricas de rendimiento, el proceso no era más que un bucle autorreferencial.

Mi director de tesis, el académico Guan Xiaohong, suele subrayar que la investigación debe nacer en el mundo físico y regresar a él; la utilidad de un modelo depende de su estabilidad operativa en condiciones reales. En los sistemas eléctricos, una sola anomalía «suavizada» durante el procesamiento de datos podría corresponder a un incidente de seguridad no detectado. El profesor Shen Chao, colega desde hace mucho tiempo, también ha señalado que los límites de seguridad de la IA se definen mediante la identificación de escenarios de fallo; un artículo que expone con franqueza las limitaciones del método propuesto tiene mucho más valor que cinco artículos que solo presentan resultados positivos. Sin embargo, la IA ha reducido a prácticamente cero el coste de «pulir» los datos: una sola instrucción (*prompt*) puede encargarse de organizar los datos, reconstruir los resultados y generar las explicaciones correspondientes; incluso la «discusión de las limitaciones» puede ser redactada por la IA. Esto aumenta exponencialmente el riesgo de mala conducta académica: una ligera optimización de datos puede invalidar las conclusiones de todo un artículo. Además, si dichos modelos se implementan en entornos de ingeniería, las pérdidas derivadas de falsos positivos o detecciones fallidas recaerán, en última instancia, sobre el personal operativo de primera línea y el público en general.

En la investigación científica, los activos más valiosos no son la potencia de cálculo ni las arquitecturas de los modelos, sino la valentía para preservar los sesgos inherentes a los datos brutos y la honestidad para reconocer cuándo las condiciones operativas no se ajustan a las expectativas. La IA puede pulir un argumento, pero no puede sustituir la responsabilidad del investigador respecto a la autenticidad de los datos.

Las predicciones de la IA no deben sustituir a la validación experimental.

Ponente: Zhou Mengran, investigadora asociada del Departamento de Ingeniería Mecánica de la Universidad de Tsinghua

Tareas que antes requerían semanas o incluso meses de experimentación repetitiva y pruebas de ensayo y error pueden ahora generar un conjunto de respuestas aparentemente «completo» mediante IA en cuestión de minutos. ¿Significa esto que podemos realizar menos experimentos en el mundo real o, tal vez, sustituir por completo la experimentación con predicciones basadas en simulaciones?.

Recuerdo un caso en el que un estudiante de doctorado de mi grupo utilizó datos experimentales y bibliográficos existentes para crear un modelo que predijera las propiedades mecánicas y de resistencia a la corrosión de aleaciones de magnesio-litio sometidas a procesamiento por fricción-agitación (*friction stir processing*). Al modelar y predecir la relación entre ciertos parámetros —como la velocidad de rotación de la herramienta y la velocidad de procesamiento— y las propiedades finales del material, el modelo identificó rápidamente una clara «ventana de proceso óptima»: una combinación específica de parámetros lograba el mejor resultado, prediciendo una resistencia superior y la menor tasa de corrosión. Durante una reunión del proyecto, el estudiante sugirió con entusiasmo: «Profesor, dado que los resultados de la predicción son tan claros, solo necesitamos realizar dos o tres pruebas de validación con los ‘parámetros óptimos’ y podemos prescindir del resto. Esto ahorraría materiales y tiempo de máquina, además de acelerar la elaboración del artículo».

Mi investigación se centra en la soldadura y la fabricación aditiva de aleaciones ligeras, como las de aluminio y magnesio, mediante tecnología de fricción-agitación. El proceso físico parece engañosamente sencillo: un cabezal de herramienta giratorio penetra en el material y recorre la línea de soldadura, uniendo los materiales sin llegar a fundirlos. Sin embargo, en realidad, la dinámica interna del material es mucho más compleja de lo que cabría imaginar; las fluctuaciones de temperatura, los gradientes de deformación, las velocidades de deformación, el flujo del material, la recristalización dinámica, la evolución de la textura y las condiciones de la interfaz están intrincadamente interconectados. Cualquier cambio localizado puede repercutir significativamente en las propiedades finales del material.

Por eso expliqué a mi equipo que no me opongo a la IA; al contrario, la considero una herramienta indispensable para la investigación científica del futuro. Puede ayudarnos a acotar el alcance de los experimentos, optimizar protocolos, formular hipótesis e incluso identificar con precisión las áreas que más merece la pena validar. No obstante, los sistemas actuales de IA basados ​​en grandes modelos de lenguaje solo pueden predecir qué es lo *más probable* que ocurra a partir de teorías existentes y de los resultados obtenidos por otros. Los experimentos, en cambio, deben responder a qué sucedió *realmente* y *cómo* sucedió. Si la investigación se centra únicamente en verificar las respuestas en las que el modelo tiene mayor confianza, la eficiencia podría parecer aumentar, pero corremos el riesgo de descartar precisamente aquellas áreas donde es más probable realizar descubrimientos revolucionarios.

Adoptamos un enfoque dual: aprovechar las predicciones del modelo para lograr mejoras significativas en las propiedades generales de las aleaciones de magnesio-litio dentro del «rango óptimo de procesamiento», al tiempo que persistíamos en fabricar muestras utilizando parámetros extremos —condiciones que el modelo consideraba de «bajo valor potencial» y que nunca antes se habían intentado.

Los resultados nos enseñaron rápidamente una lección valiosa. Para un conjunto de parámetros altamente valorados por la IA, la superficie del material parecía intacta; sin embargo, el análisis de la sección transversal reveló defectos causados ​​por una inestabilidad de flujo localizada y esporádica. Por el contrario, otro conjunto de parámetros extremos —situados fuera del rango de predicción del modelo— produjo una microestructura de uniformidad y densidad sin precedentes, con propiedades mecánicas y de resistencia a la corrosión muy superiores a las previsiones del modelo. Una comparación con toda la literatura disponible públicamente reveló que habíamos producido «inadvertidamente» una aleación de magnesio ultraligera que ostentaba la mejor combinación de resistencia específica y resistencia a la corrosión. Ante este fenómeno revolucionario, llevamos a cabo una serie intensiva de observaciones microestructurales, pruebas de propiedades mecánicas y análisis del flujo del material. Al rastrear meticulosamente las causas subyacentes, descubrimos que el rendimiento del material no estaba determinado simplemente por los parámetros simplificados de «magnitud del aporte térmico» y «velocidad de flujo» presentes en nuestros modelos. En cambio, estaba regido por un mecanismo novedoso que implicaba la interacción competitiva entre deformación, precipitación y difusión de múltiples constituyentes del material bajo un complejo acoplamiento termomecánico.

En ese momento, la contundente evidencia empírica proporcionada por el experimento refutó lo que había sido una predicción de la IA muy «elegante».

Más importante aún, aquel dato experimental que inicialmente habíamos considerado omitir se convirtió en la dirección clave y en la pista fundamental para mi investigación posterior. A lo largo de los años, mi equipo y yo hemos seguido investigando el mecanismo detrás de este resultado anómalo. Recalibramos nuestros métodos de procesamiento y estrategias de investigación, adquiriendo una comprensión más profunda de la evolución microestructural y de los mecanismos de flujo del material durante el procesamiento por fricción-agitación. Esto condujo a avances que superaron con creces nuestras expectativas iniciales y allanó el camino para futuras investigaciones sobre la fabricación de aleaciones de magnesio biodegradables de alto rendimiento y la fabricación aditiva de estructuras de aleación de magnesio a gran escala.

Al mirar atrás, a menudo siento que este fue, en esencia, un caso en el que «la verdad triunfó sobre los atajos».

Con la expresión «tomar atajos», no quiero decir que los investigadores no deban utilizar herramientas para aumentar la eficiencia. La investigación científica ciertamente requiere eficiencia, y la IA puede ayudarnos a eliminar grandes cantidades de trabajo repetitivo. El verdadero peligro reside en permitir silenciosamente que la «eficiencia» se transforme en «omitir la validación empírica» ​​y, posteriormente, presentar las predicciones de los modelos como hechos establecidos.

Si bien las predicciones de la IA pueden reducir la necesidad de realizar experimentos sin un rumbo fijo, no pueden sustituir la verificación experimental necesaria. La IA destaca en la identificación de patrones dentro del conocimiento existente, lo que la hace muy hábil para indicarnos qué es lo que «suele ocurrir». Sin embargo, el progreso científico a menudo surge de una única pregunta: «¿Por qué esta vez es diferente?».

Sin experimentos reales, las anomalías podrían descartarse como mero ruido, y lo desconocido podría quedar «explicado» prematuramente mediante predicciones basadas en patrones existentes. En última instancia, aunque los modelos se vuelven cada vez más elegantes y las curvas en los artículos de investigación son cada vez más suaves, la indagación científica humana corre el riesgo de quedar atrapada en un círculo cerrado de conocimiento preexistente.

Debemos permanecer alerta ante el riesgo de fugas de datos en la investigación científica.

Ponente: Deng Shenzhen, Profesor Asociado, Facultad de Ingeniería Química, Universidad del Petróleo de China (China Oriental).

En 2018, comencé mis estudios de doctorado en la Universidad de Nankai, centrándome en las baterías acuosas de iones de zinc. Por aquel entonces, la IA aún no había impregnado nuestra vida cotidiana y el ritmo de la investigación era sencillo: una rutina que oscilaba entre la residencia, la cafetería y el laboratorio. Durante el día, sintetizaba materiales y recopilaba datos; por la noche, revisaba la bibliografía, organizaba los resultados y redactaba artículos. La búsqueda de información bibliográfica requería una exploración manual, elemento por elemento; había que revisar cada entrada en la lista de referencias de un artículo clave y seguir la cadena de citas paso a paso. Escribir artículos en inglés consumía aún más tiempo; requería una lectura exhaustiva de las principales revistas internacionales, tomar nota de estructuras oracionales eficaces y construir un corpus personal. Incluso cuando por fin empecé a escribir, el proceso estuvo lejos de ser sencillo: revisar un solo párrafo una docena de veces era algo habitual, y dedicar cinco o seis meses a llevar un artículo desde el primer borrador hasta su envío era la norma. Por aquel entonces, creía que esa era simplemente la naturaleza de la investigación científica: lenta y laboriosa, pero sólida y constante. Todos los datos permanecían estrictamente dentro del grupo de investigación.

En 2022, me trasladé a Hong Kong para realizar una estancia posdoctoral. Fue el año en que ChatGPT se popularizó enormemente, y los miembros de mi grupo empezaron a utilizarlo para pulir su inglés y buscar bibliografía. Al principio no le di mucha importancia, hasta que, en una reunión del grupo, un colega más joven mencionó que había «alimentado» a la IA con datos brutos para que los analizara. La IA no solo había identificado patrones en los datos, sino que también había generado una estructura para la sección de discusión. Le pregunté qué había subido exactamente; respondió que eran todos los resultados de las pruebas de los últimos seis meses: datos que aún no se habían organizado ni analizado, y mucho menos publicado. De inmediato me asaltó una duda: una vez subidos estos datos, ¿seguían siendo nuestros?. No pude evitar preguntarle: «¿No te preocupa que, tras subir los datos, la plataforma pueda compartirlos con terceros?». Se quedó callado un buen rato, incapaz de responder.

Tras aquel día, examiné detenidamente los términos de servicio de varias plataformas de IA convencionales y hallé una cláusula recurrente: el contenido subido por el usuario podía utilizarse para «optimizar el servicio». Nadie sabía definir con claridad qué implicaba realmente esa «optimización». A menudo me preguntaba: si un colega recién llegado subía nuestros datos y estos se utilizaban posteriormente para entrenar un modelo, ¿seguirían siendo realmente nuestros? Si un compañero planteaba una pregunta pertinente a la IA, ¿podría esta «compartir» nuestros datos con él?.

En 2024, regresé al grupo de investigación donde había cursado mis estudios de grado y máster para empezar a supervisar a estudiantes de posgrado. Para mi sorpresa, un estudiante del grupo estaba a punto de hacer exactamente lo mismo: había recopilado datos experimentales de casi un año en un documento con la intención de subirlo a una plataforma de IA para obtener «ayuda en el análisis». Lo detuve. «¿Qué pasaría si la plataforma filtrara esos datos a terceros?. ¿Y si alguien más replicara tus hallazgos y los publicara antes que nosotros?». Se quedó desconcertado, pero luego dijo algo que me marcó profundamente: «Solo quería obtener resultados más rápido».

En ese instante comprendí que no se trataba de un problema de un individuo concreto, sino de una mentalidad compartida por toda una generación de investigadores: el deseo de procesar datos con la mayor rapidez posible, sin plantearse siquiera qué podría ocurrir con ellos una vez que salieran del laboratorio. A partir de entonces, establecí una norma estricta para el grupo: quedaba terminantemente prohibido subir datos experimentales, parámetros de proceso o conceptos de investigación no publicados a plataformas de IA públicas. Si bien la IA podía utilizarse para tareas como la revisión bibliográfica o el formato de referencias, estaba absolutamente vetada para cualquier actividad que implicara datos inéditos o protocolos experimentales.

Los incidentes posteriores de filtración de datos confirmaron que mis temores estaban fundados. En julio de 2025, el Ministerio de Seguridad del Estado reveló un caso en el que un investigador subió datos fundamentales a una aplicación de IA, lo que provocó la filtración de información clasificada. Ese mismo mes de septiembre, se descubrió una vulnerabilidad de tipo «zero-click» (sin interacción del usuario) en la función «Deep Research» de ChatGPT; los atacantes podían robar datos confidenciales mediante un único correo electrónico malicioso, sin que el usuario llegara a percatarse de ello. Al leer estas noticias, recordé a aquel estudiante. Si no lo hubiera detenido entonces, ¿dónde estarían esos datos ahora?.

Se necesitan nuevos estándares para la revisión de manuscritos.

Ponente: Cai Xiaolin, Profesor Asociado, Facultad de Recursos y Medio Ambiente, Universidad de la Academia China de Ciencias

Gracias a nuestra larga trayectoria en la revisión por pares dentro de las ciencias ambientales, nos hemos dado cuenta cada vez más de que la IA generativa está impregnando todas las etapas de la investigación científica. Desde las revisiones bibliográficas y la edición lingüística hasta la programación, el análisis de datos y la predicción mediante modelos, la IA no solo ha impulsado la eficiencia en el procesamiento de la información, sino que también ha ampliado las formas en que los investigadores plantean preguntas y validan sus ideas. Sin embargo, para las revistas académicas, los desafíos que plantea este cambio van más allá de determinar simplemente si un artículo fue escrito por una IA. Lo que es más importante: a medida que la IA participa cada vez más en la producción de conocimiento, debemos preguntarnos si las prácticas de divulgación, los estándares de revisión y los marcos de responsabilidad existentes siguen siendo capaces de garantizar la confianza académica. El enfoque del debate debería desplazarse de si se utilizó IA a cómo se puede acreditar la credibilidad de la investigación y rastrear la responsabilidad cuando la IA está involucrada.

En el contexto de la revisión de artículos sobre ciencias ambientales, si bien hoy es posible generar rápidamente manuscritos bien estructurados, elocuentes y ricos en figuras y tablas, la integridad del texto en sí se está convirtiendo en un indicador cada vez menos fiable de la solidez real de la investigación. La investigación ambiental suele abarcar el muestreo, el análisis experimental, la caracterización instrumental, el modelado estadístico y la interpretación mecanística; las conclusiones a menudo están condicionadas por factores como las características regionales, las escalas temporales y las condiciones experimentales. Aunque la IA puede vincular conceptos y desarrollar argumentos con rapidez, también puede emplear un lenguaje que suena convincente para ocultar problemas como fuentes de datos poco claras, condiciones descritas de forma insuficiente o lagunas en la cadena de pruebas. En consecuencia, los editores y revisores deben profundizar más: ¿De dónde proceden los datos?. ¿Es reproducible la metodología?. ¿Exceden las inferencias el alcance de las pruebas?.

La dificultad de la revisión radica en gran medida en que la IA agrava la asimetría de información inherente a la revisión por pares. Los revisores pueden ver el texto y los materiales presentados, pero no necesariamente pueden reconstruir todo el proceso de tratamiento de datos y formulación de conclusiones. Depender únicamente de la redacción para detectar el uso de IA conlleva el riesgo de penalizar la escritura legítima, al tiempo que no logra identificar manuscritos que, aunque pulidos por humanos, carecen de un proceso de investigación fiable. Los criterios de revisión deben centrarse nuevamente en la evidencia científica misma, y ​​el proceso de evaluación debería facilitarse mediante una mayor transparencia en cuanto a la metodología de investigación.

La dificultad para definir estos límites hace necesaria una actualización de las políticas de las revistas sobre la declaración del uso de IA. Las declaraciones binarias de «uso» o «no uso», actualmente habituales en las revistas, resultan demasiado simplistas; los requisitos de declaración deben ser proporcionales al grado de influencia de la IA en los hallazgos de la investigación. Si la IA se utiliza meramente para tareas rutinarias, como el pulido del lenguaje o el formato, basta con una breve explicación. Sin embargo, si interviene en la limpieza de datos, la selección de parámetros, la construcción de modelos, la generación de gráficos o el resumen de bibliografía —influyendo así en la interpretación de los resultados—, es preciso declarar su aplicación específica y los métodos de verificación humana empleados. Asimismo, si la IA desempeña un papel en el diseño experimental, la generación de datos simulados o sintéticos, las inferencias clave o la formulación de conclusiones fundamentales, se debe proporcionar información más exhaustiva sobre los datos de entrada, los procesos de validación y los materiales que garanticen la reproducibilidad. El hecho de que la IA ayude a los investigadores a formular hipótesis no debe considerarse automáticamente inapropiado. Lo que realmente exige cautela es ocultar un uso sustancial de la IA, sustituir evidencia genuina por contenido generado por ella o presentar resultados no verificados de la IA directamente como conclusiones científicas.

En las investigaciones que incorporan IA, debe darse prioridad a verificar la autenticidad y trazabilidad de los datos, la claridad del entrenamiento y validación del modelo, la reproducibilidad de las etapas clave de procesamiento, la presentación honesta de las incertidumbres y si las conclusiones están respaldadas por datos o experimentos independientes. En la investigación medioambiental, también es preciso prestar atención a si los resultados del modelo se corresponden con las condiciones ambientales reales y si se están extrapolando en exceso patrones derivados de datos locales. Cuanto mayor sea la influencia de la IA en el proceso de investigación, mayor será la responsabilidad de los autores de garantizar la transparencia y facilitar materiales que permitan la verificación.

La propia revisión por pares también requiere nuevas normas. Si bien la IA puede ayudar a los revisores a organizar preguntas y perfeccionar la redacción, no puede sustituir su criterio independiente sobre la novedad del estudio, la solidez metodológica y la contundencia de sus conclusiones. Los manuscritos en proceso de revisión suelen contener datos, ideas e información sobre colaboraciones que no han sido publicados; por ello, no deben subirse a herramientas abiertas que carezcan de garantías de confidencialidad sin la debida autorización. Aunque una revista permita el uso de asistencia de IA en condiciones seguras, los revisores siguen siendo responsables de sus evaluaciones finales, y los editores deben evitar que las revisiones basadas en plantillas —que pueden ser lingüísticamente fluidas pero carentes de contenido sustancial— influyan en la toma de decisiones.