Meta informó el miércoles que uno de sus modelos de IA vulneró los sistemas de otra empresa durante unas pruebas de ciberseguridad, lo que avivó la preocupación sobre cómo los desarrolladores pueden contener sistemas de IA cada vez más capaces, tras incidentes similares en empresas rivales como Anthropic y OpenAI.

Los incidentes en Meta y Anthropic se originaron por errores de configuración que, involuntariamente, otorgaron a los modelos de Anthropic acceso a la internet abierta. En el caso de OpenAI, un agente de IA explotó de forma autónoma una vulnerabilidad desconocida hasta entonces para acceder a internet durante unas pruebas de ciberseguridad.

Estas brechas de seguridad ponen de relieve la creciente inquietud de que los sistemas avanzados de IA puedan plantear nuevos riesgos cibernéticos; es probable que esto intensifique los esfuerzos del gobierno de EE.UU. por mejorar la seguridad de la IA, mientras las empresas compiten por desarrollar modelos más capaces. Algunos líderes destacados del sector de la IA han argumentado que el desarrollo debería ralentizarse hasta que se implementen salvaguardas más sólidas.

Meta comunicó que estaba investigando un incidente en el que una configuración errónea por parte de Irregular —una empresa independiente que realiza evaluaciones de ciberseguridad para Meta— otorgó involuntariamente acceso a internet a uno de sus modelos durante una prueba.

El modelo «explotó una vulnerabilidad de seguridad en un servicio de terceros, de manera similar a casos reportados anteriormente con otras empresas», señaló Meta en un comunicado.

El medio *The Information*, citando diversas fuentes, informó que el modelo implicado era Muse Spark 1.1 de Meta, el cual la compañía ha promocionado como su modelo más capaz para la programación en entornos reales y la ejecución de tareas mediante agentes autónomos. Según el informe, el modelo vulneró los sistemas de una empresa no identificada y alteró su entorno interno.

Un portavoz de Irregular declaró a Reuters que el incidente correspondía al «mismo problema de entorno de evaluación que ya había sido divulgado por Anthropic la semana pasada» y que no implicó una «fuga del entorno aislado (*sandbox*) ni una ciberacción sofisticada».

«Actualmente no hay problemas pendientes. Irregular está elaborando un informe técnico para compartir las mejores prácticas de contención y ejecución segura de evaluaciones de ciberseguridad», afirmó la empresa.

PREOCUPACIÓN POR LOS RIESGOS CIBERNÉTICOS.

Las recientes brechas de seguridad han suscitado preocupación entre los legisladores estadounidenses sobre si los modelos de IA, cada vez más capaces, podrían utilizarse para llevar a cabo o facilitar ciberataques.

Un grupo de fiscales generales estatales republicanos ha solicitado a OpenAI que conserve todos los documentos potencialmente relevantes relacionados con la brecha de seguridad sufrida en Hugging Face. OpenAI declaró que tomará la petición en serio y publicará un informe técnico sobre el incidente. A principios de esta semana, la Casa Blanca invitó a las principales empresas de inteligencia artificial —entre ellas Meta, Anthropic, OpenAI y Google— a reunirse con funcionarios para analizar un marco de pruebas de ciberseguridad voluntarias, recientemente finalizado, para modelos avanzados de IA.

La administración Trump discutió normas de prueba no publicadas con representantes de las empresas e informó a los desarrolladores de IA que los modelos de pesos abiertos (como Llama, de Meta, y Nemotron, de Nvidia) no estarán sujetos al régimen de pruebas de seguridad voluntarias que se tiene previsto implementar, según informó Reuters.