A medida que la computación ubicua y el hardware especializado se generalizan, la convergencia entre la tecnología militar y la inteligencia artificial se ha convertido en una cuestión crítica.
Ya no se trata de ciencia ficción, sino de una realidad de ingeniería que amenaza con transformar radicalmente la naturaleza de la guerra. Recientemente, ha surgido un impulso internacional para regular y prohibir las armas autónomas letales. El Secretario General de las Naciones Unidas ha abogado por una normativa internacional que prohíba las máquinas capaces de seleccionar y atacar objetivos sin intervención humana.
Si bien el imperativo moral que sustenta esta iniciativa es totalmente comprensible, la realidad de la guerra moderna y la naturaleza del desarrollo de software sugieren lo contrario. Prohibir una tecnología que se basa fundamentalmente en código algorítmico y microprocesadores estándar resulta inútil.
En lugar de intentar ilegalizar lo inevitable, la comunidad mundial de defensa debe centrarse en desarrollar defensas de IA más robustas para protegerse frente a amenazas autónomas incontroladas.
Hablemos de los robots asesinos (juro que demasiada gente vio *Terminator* y pensó: «¡Eso parece divertido, fabriquemos un robot asesino!»).
El temor a las máquinas autónomas letales.
Existen razones sólidas y alarmantes por las que las organizaciones de derechos humanos, los defensores de la seguridad en la IA y los líderes mundiales quieren prohibir estas armas. Cuando hablamos de «robots asesinos», no nos referimos a “Terminators” humanoides recorriendo un campo de batalla; hablamos de soldados autónomos, carros de combate principales, submarinos de gran profundidad, buques de guerra furtivos y aeronaves hipersónicas que operan sin humanos en el ciclo de toma de decisiones.
El problema fundamental de otorgar a una máquina la autoridad para acabar con una vida humana radica en la ausencia de empatía humana, contexto ético y criterio situacional.
Un tanque autónomo programado para eliminar combatientes enemigos no puede distinguir con fiabilidad entre un insurgente fuertemente armado y un civil que porta una herramienta agrícola inofensiva cuya forma recuerda a la de un arma.
Los submarinos autónomos que operan en aguas en disputa podrían interpretar la señal de sonar de un buque de investigación civil como un acto hostil y lanzar torpedos automáticamente, transformando conflictos localizados en graves incidentes internacionales.
Las aeronaves autónomas y los enjambres de drones operan a velocidades de procesamiento que superan con creces los límites cognitivos humanos. Si un sistema de IA identifica erróneamente un objetivo, ejecuta el ataque antes de que cualquier supervisor humano pueda intervenir. Una cadena de errores derivada de redes neuronales defectuosas, datos de entrenamiento sesgados o la suplantación de sensores por parte del enemigo podría desembocar en una matanza indiscriminada.
Las preocupaciones de la ONU están justificadas; Desplegar máquinas carentes de pensamiento y sentimiento para cazar y matar elimina la última barrera crucial frente a los horrores de la guerra: la conciencia humana.
La realidad del campo de batalla y el escenario de pruebas de Ucrania y Rusia.
A pesar de las objeciones morales legítimas, los incentivos militares para desplegar armas autónomas son demasiado grandes como para que las naciones beligerantes los ignoren. Ya estamos viendo cómo estos sistemas demuestran su eficacia en el brutal conflicto entre Ucrania y Rusia, el cual se ha convertido en un escenario de pruebas en tiempo real para la tecnología de combate de próxima generación.
En esta guerra, la guerra electrónica y la interferencia de señales son omnipresentes. Los drones tradicionales pilotados a distancia a menudo pierden el contacto con sus operadores, lo que deriva en elevadas tasas de bajas.
Para contrarrestar esto, ambos bandos han recurrido cada vez más a sistemas de localización de objetivos autónomos. Actualmente, se programan drones con algoritmos de visión artificial que les permiten identificar un tanque ruso o una pieza de artillería ucraniana, fijar el objetivo y ejecutar un ataque de forma autónoma, incluso en entornos con interferencias electrónicas donde se ha interrumpido el radiocontrol.
Las ventajas tácticas son innegables. Los enjambres de drones autónomos pueden desbordar los sistemas de defensa aérea tradicionales mediante maniobras coordinadas que los pilotos humanos jamás podrían replicar. No duermen, no sienten miedo ni sufren la fatiga que afecta a los soldados humanos.
Para los comandantes militares que se enfrentan a posiciones fuertemente fortificadas y a bajas masivas de tropas, el atractivo de desplegar un buque de guerra autónomo o una unidad de infantería robótica resulta irresistible. Estas tecnologías salvan vidas del propio personal y, al mismo tiempo, maximizan la letalidad contra el enemigo. Esta eficacia demostrada hace muy probable que las grandes potencias militares sigan perfeccionando y ampliando el uso de esta tecnología, independientemente de los tratados que se firmen en Ginebra.
La historia desigual de las prohibiciones mundiales de armas.
Para comprender por qué fracasará una prohibición de los robots asesinos, debemos examinar la historia de los tratados mundiales que prohíben determinadas armas. La historia demuestra que estas prohibiciones solo tienen éxito en condiciones muy específicas y fracasan estrepitosamente cuando dichas condiciones no se cumplen.
Podría decirse que el esfuerzo de desarme más exitoso de la historia reciente es el Tratado sobre la prohibición de minas de 1997. Esta iniciativa logró prohibir el uso, el almacenamiento y la producción de minas terrestres antipersona. Funcionó porque las minas son objetos físicos y fácilmente identificables, universalmente repudiados por matar a civiles mucho después de que haya terminado un conflicto.
El estigma mundial era enorme, el desastre humanitario resultaba muy visible y la mayoría de los ejércitos avanzados ya habían determinado que las minas terrestres estáticas tenían una utilidad táctica limitada en la guerra moderna, caracterizada por una gran movilidad. Es fácil prohibir un arma de la que ya no se tiene necesidad.
Por el contrario, los intentos de prohibir tecnologías que ofrecen una ventaja estratégica decisiva han fracasado sistemáticamente. Los tratados que pretendían frenar la proliferación de armas nucleares solo han tenido un éxito parcial; los Estados rebeldes los incumplen constantemente porque el valor estratégico disuasorio de un arsenal nuclear pesa más que las sanciones diplomáticas.
Del mismo modo, los intentos de principios del siglo XX de prohibir los bombardeos aéreos o la guerra submarina se desmoronaron en cuanto estallaron grandes conflictos mundiales, ya que las partes beligerantes no podían permitirse renunciar a esa ventaja táctica. Las armas autónomas encajan perfectamente en esta última categoría. Ofrecen una ventaja demasiado grande para que cualquier nación renuncie realmente a ellas en el campo de batalla.
Por qué es imposible hacer cumplir una prohibición de armas basadas en IA.
Aunque todas las naciones aceptaran públicamente mañana la prohibición propuesta por la ONU, hacerla cumplir sería una imposibilidad logística. A diferencia de las armas biológicas, los gases químicos o las ojivas nucleares —cuya producción requiere una infraestructura industrial masiva y muy visible—, las armas autónomas dependen de dos componentes difíciles de detectar: datos y capacidad de procesamiento.
Las mismas unidades de procesamiento neuronal y chips de computación en el borde (“edge computing”) que impulsan los centros de datos empresariales, los vehículos autónomos y los modelos de lenguaje de gran tamaño ejecutados localmente pueden reutilizarse para guiar un enjambre de drones letales. El código necesario para dotar de autonomía a un arma es simplemente software; puede desarrollarse en computadoras portátiles convencionales, almacenarse en unidades flash cifradas y cargarse en un dron apenas unos segundos antes de su despliegue.
Además, la línea divisoria entre un «arma inteligente» y un «arma autónoma» es difusa, y las armas inteligentes convencionales ya requieren capacidad de procesamiento. Las fuerzas armadas modernas dependen en gran medida de misiles inteligentes que utilizan sensores de radar e infrarrojos para rastrear y destruir objetivos tras su lanzamiento.
Definir con exactitud dónde termina el control humano y dónde comienza la autonomía de la IA en estos sistemas constituye una pesadilla jurídica. Un país podría afirmar fácilmente que su avanzado dron de combate cuenta con un «humano en el bucle» de control, mientras que el software está diseñado para tomar decisiones letales de forma independiente si se interrumpe el enlace de mando.
Dado que esta tecnología es fácil de ocultar y tiene un carácter intrínsecamente de doble uso, tanto las naciones rebeldes como las superpotencias violarán la prohibición en secreto, creando una peligrosa asimetría en la que quienes respetan las normas quedan indefensos frente a quienes hacen trampas.
Argumentos a favor de los sistemas de defensa basados en IA.
Puesto que una prohibición internacional es inaplicable y las naciones desarrollarán inevitablemente estas armas en la sombra, abogar por la prohibición supone una distracción peligrosa. En su lugar, la comunidad mundial —y específicamente los sectores tecnológico y de defensa— debe emprender un esfuerzo bien financiado para desarrollar mejores armas defensivas impulsadas por IA.
Si aceptamos que los robots autónomos letales son una realidad inevitable en la guerra del futuro, nuestra única opción lógica es construir sistemas de IA más rápidos, inteligentes y capaces para neutralizarlos. Necesitamos:
- Enjambres de drones defensivos capaces de interceptar y destruir autónomamente enjambres ofensivos antes de que alcancen a poblaciones civiles.
- Plataformas avanzadas de ciberseguridad capaces de hackear, desactivar o desviar tanques y submarinos autónomos enemigos en tiempo real.
- Sistemas sofisticados de guerra electromagnética controlados por redes neuronales, capaces de adaptarse instantáneamente y desactivar aeronaves autónomas entrantes.
Confiar en un papel para proteger al mundo del avance más significativo en tecnología militar desde la división del átomo es ingenuo. Los países aceptarán públicamente la prohibición para guardar las apariencias y proyectar una imagen moral, mientras destinan en privado miles de millones a programas autónomos de presupuesto secreto. El único elemento disuasorio real frente a un ataque autónomo devastador es una defensa autónoma demostrablemente superior.
Conclusión.
El Secretario General de las Naciones Unidas tiene razón al horrorizarse ante la perspectiva de los robots asesinos. Las implicaciones éticas de eliminar al ser humano de la cadena de decisión letal son enormes y marcan un nuevo y oscuro capítulo en la historia de la humanidad.
Sin embargo, la tecnología no puede desinventarse, y las ventajas decisivas en el campo de batalla demostradas en conflictos como la guerra de Ucrania garantizan que las armas autónomas han llegado para quedarse. Dado que la tecnología subyacente —la potencia de cálculo y el software de IA— puede ocultarse fácilmente y se basa en el mismo hardware y software que utilizan los dispositivos de consumo, será imposible hacer cumplir cualquier prohibición.
En lugar de malgastar un tiempo valioso en un intento de prohibición condenado al fracaso, debemos centrar nuestros recursos en desarrollar redes defensivas robustas impulsadas por IA, para garantizar que, si se despliegan estas armas autónomas, contemos con la superioridad tecnológica necesaria para detenerlas.
