Si las instituciones evalúan la labor académica basándose únicamente en la escritura, quedarán atrapadas en una competición interminable contra máquinas cada vez más capaces.

La nueva carrera armamentística en el ámbito de la inteligencia artificial (IA) ya no trata sobre redactar mejores textos. Se centra en lograr que los escritos generados por IA parezcan indistinguibles de la obra humana.

Una herramienta académica de «humanización» lanzada recientemente promete eliminar los rasgos estilísticos que delatan los manuscritos generados por IA, haciendo que los artículos de investigación y las propuestas de financiación parezcan escritos por humanos. Su creador la describe como una ayuda para la edición y no como una herramienta de engaño; sin embargo, muchos científicos temen que fomente el uso no declarado de la IA y difumine aún más la frontera entre la labor académica auténtica y la escritura asistida por máquinas.

Este debate suele plantearse como una competición tecnológica entre generadores y detectores de IA. Ese enfoque es erróneo. La verdadera cuestión es la confianza.

La ciencia moderna se basa en un contrato social no escrito. Los investigadores confían en que los métodos publicados se llevaron a cabo realmente. Las agencias de financiación confían en que las propuestas reflejan las contribuciones intelectuales propias de los solicitantes. Los revisores por pares confían en que los manuscritos reflejan con exactitud el razonamiento del autor, en lugar de ser una invención automatizada. Sin esta confianza compartida, el progreso científico se ralentiza, ya que cualquier afirmación queda sujeta a sospecha.

La IA generativa desafía estos cimientos de una forma más profunda de lo que jamás lo hizo el plagio. El plagio tradicional consistía en copiar las ideas de otra persona. Los grandes modelos lingüísticos actuales pueden generar textos totalmente nuevos que parecen originales, ocultando al mismo tiempo cuánto trabajo intelectual realizó realmente el investigador. Las herramientas de humanización representan la siguiente etapa de esta evolución. No se limitan a mejorar la gramática o el estilo; su objetivo es borrar cualquier indicio de que la IA participó en el proceso de redacción.

Irónicamente, esto podría hacer que la detección de IA resulte cada vez más inútil. Los detectores de IA actuales ya tienen dificultades cuando el texto se parafrasea o se edita, mientras que los falsos positivos siguen afectando a autores honestos, especialmente a aquellos que escriben en un segundo idioma.