La administración Trump informó el martes a los desarrolladores de IA que no someterá a los modelos de IA de pesos abiertos (*open-weight*) a pruebas de seguridad voluntarias, según dos fuentes familiarizadas con las conversaciones.

Los modelos abiertos, incluidos Nemotron de Nvidia y Llama de Meta, son sistemas de IA cuyos componentes principales son de acceso público. Los modelos cerrados están controlados por empresas específicas. Los principales desarrolladores estadounidenses de modelos cerrados son OpenAI, Google y Anthropic.

La Casa Blanca discutió las normas de prueba —aún no publicadas— con personal de Meta, Anthropic, Google, Nvidia y OpenAI, según cinco fuentes familiarizadas con la reunión.

La reunión se produjo tras revelaciones de OpenAI y Anthropic de que sus herramientas de IA habían vulnerado los sistemas de otras empresas. Estas intrusiones generaron preocupación entre los legisladores estadounidenses sobre si los modelos de IA, cada vez más capaces, podrían utilizarse para llevar a cabo o facilitar ciberataques. El martes, OpenAI informó que sus modelos estuvieron involucrados en otro incidente de ciberseguridad durante las pruebas y que la situación implicó el acceso de sistemas de IA a Internet.

La oficina de prensa de la Casa Blanca no respondió a una solicitud de comentarios sobre la reunión.

Compartir el marco de trabajo con un pequeño grupo de empresas sin hacerlo público «profundiza una grave brecha en la supervisión federal, dejando interrogantes sobre cómo planea el gobierno federal evaluar la seguridad de los modelos avanzados de IA», señaló Americans for Responsible Innovation, un grupo de defensa de políticas tecnológicas. El grupo insta a las autoridades estadounidenses a implementar políticas que «protejan al público de daños», según su sitio web.

La administración Trump anunció en junio que las pruebas serían voluntarias y estarían diseñadas para modelos de IA con capacidades sofisticadas de piratería informática. Tanto OpenAI como Anthropic cuentan con modelos con capacidades avanzadas de ciberseguridad.

Cinco senadores demócratas instaron el martes a Trump a colaborar con el Congreso para aprobar una legislación que haga obligatorias y permanentes las pruebas para los modelos de IA estadounidenses más avanzados, conocidos como «modelos de frontera» (*frontier models*).

«Estados Unidos no puede permitirse crear un entorno normativo en el que los sistemas de IA estadounidenses más avanzados estén sujetos a restricciones opacas y caso por caso, mientras que las alternativas chinas parecen más baratas, de más fácil acceso y más predecibles de implementar», afirmaron los senadores en la carta. La administración Trump ha hecho pocos comentarios públicos, más allá de señalar que funcionarios estadounidenses están monitoreando el hackeo a OpenAI. El director ejecutivo de OpenAI, Sam Altman, visitó la Casa Blanca la semana pasada.