El año pasado, el proyecto *AI Futures Project* emitió una predicción sombría sobre lo que ocurriría si el avance de la inteligencia artificial continuaba sin control: la humanidad no sobreviviría.

Este año, el grupo de investigación liderado por Daniel Kokotajlo, exinvestigador de OpenAI, va un paso más allá. En “AI 2040: Plan A”, el grupo aboga por que Estados Unidos y China cooperen en una pausa temporal de la investigación de IA de vanguardia (“frontier AI”), permitiendo así que la industria establezca las bases necesarias para un desarrollo seguro.

«No somos exactamente partidarios del decrecimiento», declaró Kokotajlo. «Pero si realmente se quiere aprovechar ese crecimiento y abundancia, es necesario evitar los riesgos que conllevan».

La idea ya ha suscitado críticas por parte de los aceleracionistas de la IA, quienes rechazan la noción catastrofista de que una IA superinteligente destruirá inevitablemente a la humanidad.

Sin embargo, al leer el informe —que no es una lectura ligera—, se percibe que el «Plan A» dista mucho de ser propaganda contraria a la IA. De hecho, contempla una aceleración de la IA más que suficiente para generar un crecimiento económico sin precedentes. Descarta la idea de que la sustitución de la mano de obra humana por la IA conduzca a la ruina económica.

Pero incluso si el desarrollo de la IA de vanguardia se detuviera hoy mismo, las capacidades actuales bastarían para impulsar una ola de innovación y crecimiento económico durante años. Solo se requiere más capacidad en centros de datos e infraestructura para que los beneficios se materialicen plenamente. El «Plan A» propone pausar el desarrollo durante un par de años e incluye medidas bastante audaces para garantizar que China y otros países no hagan trampas para tomar ventaja.

El plan también parece un cuento de hadas en el que los líderes mundiales se unen repentinamente, dejando de lado la política, los intereses personales y la codicia en aras del bien de la humanidad. Esta idea parece aún más utópica si se tiene en cuenta que el liderazgo mundial valiente es más escaso que las GPU y la memoria de gran ancho de banda.

Hasta ahora, el movimiento por la seguridad de la IA ha utilizado el miedo como motor. Esto quedó patente en el informe del año pasado, que causó gran revuelo en los círculos tecnológicos y políticos de todo el mundo.

No obstante, tras leer el informe de este año, me pregunto si un mensaje más optimista sobre el potencial de la IA y la prosperidad económica no resultaría más convincente, o si al menos conduciría a mejores resultados. Le planteé la cuestión a Kokotajlo, quien señaló que el objetivo era realizar un análisis cuidadoso en lugar de intentar persuadir: «Probablemente molestemos a mucha gente debido a un planteamiento torpe», afirmó. «Ojalá personas con mayor criterio se inspiren en nosotros y elaboren un plan que resulte realmente convincente e inspirador».

En otras palabras, la seguridad de la IA no obstaculiza el desarrollo de la IA ni el rápido crecimiento económico. Ambos aspectos pueden ir de la mano.