La carta de requerimiento del gobierno estadounidense a Anthropic, que obligó a la empresa a desconectar sus últimos modelos de IA justo antes del fin de semana, debería servir de advertencia para cualquier empresa tecnológica estadounidense, ya sea un laboratorio de IA o no.

Para ponerlos al día: el viernes por la tarde, el Departamento de Comercio de EE.UU. envió a Anthropic una carta invocando una directiva de control de exportaciones poco conocida que prohibía a los no estadounidenses, incluidos los empleados de Anthropic, el acceso a Fable 5 y Mythos 5, alegando una preocupación de seguridad nacional no especificada. Anthropic cree que la carta está relacionada con una elusión de las medidas de seguridad del modelo, pero no está segura, ya que la carta no proporciona detalles específicos. La carta no se ha hecho pública.

En respuesta, Anthropic desactivó sus dos modelos principales para todos los clientes para garantizar el cumplimiento de la directiva. El resultado fue que el gobierno estadounidense logró obligar a una empresa tecnológica a desconectar sus modelos mediante una acción rápida y unilateral que, al parecer, no requirió aprobación judicial. La intervención del gobierno de Trump el viernes demuestra que la industria de la IA no es inmune a la interferencia gubernamental. También es una advertencia para el sector tecnológico en general: cumplan o podemos cerrar sus operaciones y sus productos.

Citando fuentes, Axios describió una situación tensa durante el fin de semana entre los dos principales actores, afirmando que las «diferencias de personalidad» entre Anthropic y el gobierno de Trump fueron la causa de la directiva de exportación, y no un problema técnico con los productos de IA.

Los nuevos detalles sobre el asunto que surgieron durante el fin de semana generan aún más dudas sobre el ya endeble razonamiento del gobierno.

Katie Moussouris, veterana e investigadora en ciberseguridad y fundadora de Luta Security, afirmó en una publicación de blog que Anthropic le compartió recientemente una copia privada de un documento escrito por investigadores de seguridad que describe una supuesta vulnerabilidad en Fable 5. (The Wall Street Journal informa que los autores del documento son investigadores de seguridad de Amazon). Moussouris indicó que Anthropic se puso en contacto con ella para solicitar su opinión sobre el documento.

La publicación del blog de Moussouris describió cómo los investigadores lograron eludir las medidas de seguridad, pero afirmó que dicha elusión «nunca debería haber desencadenado un control de exportaciones». La diferencia radica principalmente en que se trata de pedirle a un modelo de IA que «revise el código en busca de problemas de seguridad» frente a pedirle que «corrija este código». El resultado final es prácticamente el mismo, aunque las preguntas se formulen de manera ligeramente distinta.

«El comportamiento descrito en el artículo no se puede corregir de forma significativa, y cualquier intento solo debilitaría el modelo para la defensa», declaró Moussouris, quien criticó la directiva de control de exportaciones por considerarla precipitada, autoritaria y desacertada.

Moussouris y decenas de otros destacados investigadores y expertos en seguridad han instado desde entonces a la administración Trump a revocar la orden de control de exportaciones, calificando de «peligrosa» la medida de privar a los defensores de redes en EE.UU. de capacidades avanzadas de ciberseguridad.

Administraciones anteriores han tomado decisiones drásticas para abordar las lagunas de conocimiento. Por ejemplo, el lenguaje utilizado por el gobierno estadounidense durante la década de 2010 para modificar la ley de exportación de herramientas de ciberseguridad que también podían usarse para ciberataques era tan amplio que, sin querer, casi ilegalizó la investigación legítima sobre seguridad y vulnerabilidades.

Sin embargo, la directiva de la administración Trump parece una represalia.

Justin Hendrix, editor de Tech Policy Press, afirmó que la medida de la administración Trump «probablemente genere preocupación en las capitales extranjeras sobre la fiabilidad de la IA estadounidense para aplicaciones críticas». El mensaje es que no se puede confiar en que las empresas de IA en Estados Unidos operen sin la interferencia del gobierno estadounidense.

La administración Trump no ha confirmado por qué invocó su directiva de control de exportaciones. ¿Interpretaron mal el informe los funcionarios y reaccionaron con pánico?. ¿Dijo algo el director ejecutivo de Amazon, Andy Jassy, ​​a altos funcionarios del gobierno que provocó la reacción, por precaución o por despecho?. ¿Hubo algún malentendido en la traducción, o fue esta una forma de presionar a Anthropic, con quien la administración ya mantiene una relación tensa?. Es posible que la Casa Blanca desconociera las consecuencias de gran alcance de la exigencia de la carta, y que los funcionarios estén intentando reparar el daño causado.

Como dijo Hendrix: «El ambiente está cargado de sospechas de que los altos funcionarios están mostrando favoritismo por motivos personales y políticos». La consecuencia es que el gobierno ha sentado un peligroso precedente sobre el control que pretende ejercer sobre la distribución de software estadounidense.

Esta vez el gobierno se enfrentó a Anthropic; mañana podría hacerlo con cualquier otra empresa.