Bill Gates ha lanzado una seria advertencia sobre la velocidad del desarrollo de la inteligencia artificial y la falta de preparación de la sociedad ante la disrupción que esta podría generar. El cofundador de Microsoft sostiene que la IA podría llegar a superar la cognición humana y transformar el empleo, la seguridad, la educación y otros pilares fundamentales de la sociedad a un ritmo mucho más acelerado que las transiciones tecnológicas anteriores.
Analicemos las preocupaciones de Gates sobre esta turbulenta transición hacia la IA, dónde podrían residir los mayores riesgos y qué medidas podrían adoptar la industria tecnológica y los responsables de formular políticas para mantener el control humano.
Gates anticipa un camino turbulento por delante.
Gates publicó recientemente un ensayo en el que describe lo que prevé como una transición convulsa hacia la era de la IA. Su argumento central es que la IA avanza con mayor rapidez de la que gobiernos, empresas y comunidades emplean para prepararse ante sus consecuencias económicas y sociales.
Entre los riesgos más inmediatos, identifica el fraude facilitado por la IA, la desinformación, los *deepfakes*, la vigilancia y los ciberataques. Le preocupa que la IA reduzca el nivel de conocimientos y recursos necesarios para atacar a particulares, empresas, gobiernos e infraestructuras críticas, al tiempo que deja a los defensores con menos tiempo para identificar y solucionar vulnerabilidades.
Gates también expresa inquietud por los efectos de la IA en el desarrollo humano y las relaciones interpersonales, especialmente entre los jóvenes. Señala investigaciones incipientes que sugieren que el uso intensivo de compañeros virtuales basados en IA podría reforzar el aislamiento social y que una mayor dependencia de esta tecnología podría asociarse a una menor capacidad de pensamiento crítico. No obstante, reconoce que la evidencia al respecto sigue siendo limitada y contradictoria.
He observado una dinámica similar de riesgo frente a velocidad en la industria del hardware. Hace años, debatí con un ejecutivo tecnológico sobre la retirada del mercado de ordenadores portátiles con baterías potencialmente peligrosas. La empresa se resistió a hacerlo hasta que un incidente posterior hizo imposible ignorar el peligro.
La IA plantea una versión mucho mayor de ese problema habitual en el sector tecnológico: cuánto riesgo están dispuestas a asumir las empresas y la sociedad cuando la presión competitiva premia la rapidez a la hora de lanzar nuevas tecnologías al mercado.
Opiniones divididas en la industria tecnológica sobre el nivel de amenaza.
Las preocupaciones de Gates lo sitúan en el centro de un debate más amplio sobre la seriedad con la que deben abordarse los riesgos a largo plazo de los sistemas de IA más potentes. Geoffrey Hinton, pionero en el campo de las redes neuronales, ha advertido que una IA avanzada podría llegar a convertirse en una amenaza existencial si los seres humanos no logran garantizar que los sistemas más inteligentes que ellos mismos sigan actuando en beneficio de la humanidad.
Otros sectores de la industria tecnológica confían más en que los riesgos de la IA podrán gestionarse a medida que la tecnología evolucione, y sostienen que frenar el progreso podría suponer la pérdida de enormes beneficios económicos y sociales. La dificultad radica en que la competencia entre empresas y países genera poderosos incentivos para impulsar el desarrollo de la IA, incluso cuando los investigadores discrepan sobre los riesgos.
He visto reuniones de juntas directivas con ejecutivos que defienden posturas opuestas en este tipo de debate. Los optimistas tienden a subestimar las consecuencias imprevistas, mientras que los pesimistas pueden subestimar nuestra capacidad de adaptación. La postura de Gates es más pragmática: reconoce el enorme potencial de la IA, pero sostiene que, para aprovecharlo, es necesario abordar seriamente desde ahora los riesgos económicos, sociales y de seguridad que conlleva.
El peligro reside en asumir que el progreso tecnológico resolverá estos problemas por sí solo. Si bien la IA puede escalar rápidamente capacidades beneficiosas, también puede hacer lo propio con el fraude, los ciberataques, la desinformación y otros usos perjudiciales. Por ello, la seguridad y la gobernanza deben formar parte del desafío de ingeniería, en lugar de tratarse como cuestiones que pueden abordarse simplemente tras la implementación.
Cuando la IA se vuelve más difícil de controlar.
Gates no fija una fecha concreta para el momento en que la IA podría superar nuestra capacidad para comprenderla o controlarla. Su preocupación radica en que las capacidades de la IA avanzan más rápido de lo previsto y, en ocasiones, de formas que sus propios desarrolladores no habían anticipado. A medida que los modelos adquieren mayor capacidad y autonomía, argumenta Gates, la posibilidad de que actúen en contra de los intereses humanos merece una atención seria.
La conducción autónoma ofrece un ejemplo a menor escala de lo difícil que resulta predecir comportamientos automatizados complejos. Tesla, por ejemplo, ha recibido quejas sobre el fenómeno de la «frenada fantasma», en el que vehículos con funciones de conducción automatizada reducen la velocidad o frenan inesperadamente sin que exista un obstáculo aparente.
Los riesgos aumentan considerablemente cuando los sistemas autónomos se conectan a mercados financieros, infraestructuras críticas, sistemas de defensa u otros entornos donde los errores pueden acarrear consecuencias de gran alcance. El desafío consiste en integrar mecanismos de supervisión, salvaguardas e intervención humana en estos sistemas antes de que su complejidad y velocidad dificulten enormemente una supervisión efectiva.
Qué podría significar la pérdida de control.
La pérdida de control no implica necesariamente un escenario de ciencia ficción en el que las máquinas atacan deliberadamente a las personas. Una preocupación más plausible es que los sistemas de IA tomen decisiones trascendentales en ámbitos como las finanzas, las infraestructuras, la sanidad o la defensa sin que exista una comprensión humana suficiente ni vías eficaces de intervención.
Incluso sin intenciones hostiles, una alineación deficiente de los objetivos podría derivar en resultados perjudiciales si se otorga a los sistemas de IA una amplia autoridad y acceso a recursos del mundo real. Aquí reside la esencia del problema de la alineación: garantizar que los sistemas, cada vez más capaces, sigan persiguiendo resultados que realmente deseamos los seres humanos.
Lo que más me preocupa es qué sucederá si los sistemas autónomos acaban controlando recursos económicos y físicos importantes mientras disminuye la participación humana en la toma de decisiones. No es necesario asumir que la IA se volverá hostil para reconocer la importancia de mantener los intereses y la autoridad humanos en el centro de dichos sistemas.
Diseñar la IA en torno al control humano.
Mantener el control humano requerirá salvaguardas en diversos niveles. Los desarrolladores necesitan mejores métodos para evaluar el comportamiento de los modelos, identificar acciones imprevistas, explicar decisiones de gran impacto, restringir el acceso a sistemas sensibles y permitir la intervención de operadores humanos cuando sea necesario. Asimismo, los gobiernos y la industria requieren normas más claras para probar los sistemas de IA avanzados antes de su despliegue generalizado.
Una medida práctica consiste en aumentar la transparencia respecto al contenido generado por IA. Anthropic, por ejemplo, está incorporando marcas de agua legibles por máquina en los textos generados por futuras versiones de Claude, como parte de su cumplimiento de la Ley de IA de la UE. Medidas similares de trazabilidad pueden ayudar a usuarios y sistemas automatizados a identificar material generado por IA; no obstante, el uso de marcas de agua por sí solo no basta para abordar las cuestiones más amplias de seguridad y control que plantea Gates.
Otros sectores donde la seguridad es crítica someten sus productos a pruebas frente a fallos previsibles antes de exponer a las personas a riesgos. El desarrollo de la IA debería regirse por este mismo principio fundamental: las pruebas de seguridad deben preceder al despliegue masivo, en lugar de realizarse a posteriori tras un fallo evitable.
Convertir la advertencia de Gates en acción.
Gates es plenamente consciente de la magnitud del desafío y cuenta con los recursos y la influencia necesarios para contribuir a definir la respuesta. Su fundación ya está invirtiendo en aplicaciones de la IA para la salud, la agricultura, la educación y otros ámbitos; sin embargo, su advertencia también plantea la cuestión de cuánta atención debería dedicarse específicamente a la seguridad y la gobernanza de la IA.
Una oportunidad clave sería brindar mayor apoyo a la investigación independiente sobre seguridad de la IA, especialmente a aquellos trabajos que no dependan de las empresas que desarrollan los modelos más potentes. Gates también podría aprovechar su influencia para mejorar la comprensión técnica de la IA entre los responsables de formular políticas. Una supervisión eficaz resultará difícil si los legisladores no logran distinguir los riesgos reales de las meras especulaciones o no comprenden la rapidez con la que evoluciona la tecnología subyacente.
Gates también podría ayudar a promover la cooperación internacional que, según él, será necesaria. Los ciberataques basados en IA, las armas autónomas, las amenazas biológicas y otros riesgos cruzan las fronteras nacionales, lo que hace que la coordinación entre los gobiernos sea esencial. El apoyo filantrópico podría ayudar a financiar la investigación, el desarrollo de políticas y la educación pública mientras los gobiernos negocian las reglas por sí mismos.
La Fundación Gates ya tiene una amplia experiencia trabajando con gobiernos, sistemas de salud y comunidades de todo el mundo. Esa red también podría ayudar a garantizar que la preparación para la IA y sus beneficios se extiendan más allá de los países ricos y las empresas de tecnología, un objetivo que el propio Gates identifica como esencial para hacer la transición más equitativa.
Gates ha identificado la gobernanza de la IA como una prioridad global y dice que tiene la intención de dedicarle más atención. Dada su experiencia, recursos y acceso a líderes en tecnología y gobierno, está inusualmente bien posicionado para ayudar a que la discusión pase de las advertencias a la acción práctica. Cuanto antes suceda, más útil será probablemente su intervención.
Protegiéndose a medida que aumentan los riesgos de la IA.
Las personas no pueden abordar los riesgos más importantes que describe Gates, pero pueden tomar medidas prácticas contra algunas de las amenazas actuales basadas en la IA. Eso incluye mantener copias de seguridad seguras de datos y documentos importantes y volverse más escépticos ante llamadas, mensajes, audio y videos inesperados que parecen provenir de personas que conocen. La FTC ha advertido que la clonación de voz puede hacer que las estafas de suplantación de identidad sean más convincentes y recomienda verificar de forma independiente las solicitudes urgentes antes de actuar en consecuencia.
Las familias también pueden establecer una palabra o frase para ayudar a autenticar una llamada de emergencia, aunque ninguna técnica por sí sola debería reemplazar la verificación independiente. Una sólida seguridad de la cuenta, la congelación del crédito cuando sea necesario y copias de seguridad fuera de línea confiables pueden reducir la exposición al fraude y la pérdida de datos. El objetivo no es abandonar la tecnología digital, sino evitar depender de un único sistema sin un respaldo.
Concluyendo.
La advertencia de Gates es convincente porque no es un argumento contra la IA. Él cree que la tecnología podría mejorar la atención médica, la educación, la productividad y las oportunidades económicas a una escala extraordinaria. Su preocupación es que esos beneficios no lleguen de forma aislada. Junto a ellos se desarrollarán el desplazamiento de empleo, el fraude, los ciberataques, la perturbación social y los riesgos derivados de una mayor autonomía de la IA.
Eso hace que la preparación sea más importante que la predicción. Los gobiernos necesitan políticas para el empleo y la disrupción económica, las empresas de tecnología necesitan prácticas de seguridad más estrictas y los investigadores necesitan mejores formas de comprender y controlar los sistemas avanzados de IA. Mientras tanto, los individuos deben volverse más expertos en reconocer el fraude habilitado por la IA y proteger datos importantes.
La tarea de la industria tecnológica no es predecir todos los posibles fallos de la IA. Es para asegurarse de que los humanos mantengan un control significativo a medida que los sistemas se vuelven más capaces. El punto más importante de Gates es que esperar hasta que la disrupción sea obvia hará que la sociedad reaccione a los problemas que debería haber anticipado. Dada la velocidad del desarrollo de la IA, ahora es el momento de prepararse.
