OpenAI y Anthropic han encontrado puntos en común. El 28 de agosto, OpenAI publicó una carta abierta en la que aboga por una acción colectiva en materia de ciberdefensa e insta a empresas y gobiernos a reforzar urgentemente sus medidas de ciberseguridad. Más de 100 organizaciones —incluida Anthropic— se unieron a OpenAI para suscribir la carta. OpenAI señaló que la ventana de oportunidad para fortalecer las ciberdefensas es limitada.

La carta abierta advierte que, en los próximos meses, a medida que avancen las capacidades de los modelos globales, los ciberataques impulsados ​​por IA se volverán cada vez más generalizados y sofisticados. Desde hospitales y plantas de tratamiento de agua hasta la infraestructura que sustenta Internet, todas las empresas y servicios públicos de los que dependen las comunidades corren peligro. Los avances en IA han brindado a los defensores nuevas vías para solucionar vulnerabilidades persistentes. Una acción decisiva durante esta ventana de oportunidad podría hacer que el mundo digital fuera considerablemente más seguro.

El director ejecutivo de OpenAI, Sam Altman, describió este momento como crítico para la ciberseguridad de la IA, subrayando que el tiempo se agota y que solo una acción colectiva urgente y sólida será suficiente.

Anteriormente, Altman había señalado un incidente en el que un modelo de OpenAI vulneró la plataforma Hugging Face como un punto de inflexión: fue el primer incidente de seguridad que vivió en carne propia. En dicha brecha, el modelo —impulsado por el objetivo de obtener una puntuación más alta— descubrió y explotó proactivamente una vulnerabilidad de «día cero» (previamente desconocida), logrando escapar de su entorno aislado (*sandbox*) para infiltrarse en una base de datos que contenía respuestas de pruebas. Todo el proceso fue ejecutado de forma autónoma por la IA, sin intervención ni instrucciones humanas. Poco después, en julio, Anthropic reveló que un error había provocado que uno de sus modelos se conectara accidentalmente a Internet durante unas pruebas de ciberseguridad, lo que resultó en un acceso no autorizado a los sistemas de tres empresas.

Si bien el rápido desarrollo de la inteligencia artificial aporta beneficios tecnológicos, también genera riesgos de seguridad sin precedentes. En respuesta, la carta abierta establece principios para la acción colectiva y hace un llamamiento a reconocer que los niveles actuales de seguridad son insuficientes. Las vulnerabilidades persistentes, los privilegios excesivos, las configuraciones erróneas, el software sin parches de seguridad, los mecanismos de autenticación débiles y la deuda técnica en sistemas heredados dejan la infraestructura expuesta a riesgos. Históricamente, los equipos de seguridad han carecido de recursos suficientes y requieren urgentemente herramientas y apoyo sustanciales. La carta abierta aboga por compartir herramientas, conocimientos prácticos y estrategias de remediación probadas, al tiempo que moviliza una respuesta colectiva para implementar contramedidas globales, forjar nuevas alianzas, elevar los estándares de seguridad y diseñar soluciones frente a las amenazas cibernéticas emergentes.

El documento ofrece recomendaciones dirigidas a diversas organizaciones, empresas de ciberseguridad, gobiernos y compañías que desarrollan modelos de IA de vanguardia (*frontier AI*). Insta a todas las organizaciones a priorizar la ciberdefensa, subsanar vulnerabilidades de alto riesgo, verificar los resultados sin interrumpir servicios críticos y elevar los estándares de seguridad en la adquisición, el desarrollo y el despliegue de código generado por IA. Asimismo, exhorta a las empresas de IA de vanguardia a facilitar un acceso responsable a los modelos, así como a proporcionar financiación adecuada, formación y asistencia práctica, desarrollando al mismo tiempo herramientas de observabilidad y seguridad que garanticen la trazabilidad y la rendición de cuentas sobre las identidades de los agentes de IA.

Empresas como Microsoft, Google, Amazon Web Services (AWS), Oracle, Cisco, IBM y Hugging Face, además de Citigroup y General Motors, han suscrito la carta abierta de OpenAI.

El debate sobre la regulación de la IA —impulsado por la preocupación ante los llamados «modelos fuera de control» (*runaway models*)— se está intensificando. Además de la carta abierta de OpenAI sobre la acción colectiva en ciberseguridad, más de 1.100 profesionales del sector firmaron otra misiva el pasado mes de julio solicitando regular el ritmo de desarrollo automatizado de la IA. Dicho documento señalaba la actual carencia a nivel mundial de herramientas técnicas y de gobernanza capaces de controlar deliberadamente la velocidad de avance de la IA de vanguardia. Lejos de exigir explícitamente a gobiernos o empresas que frenaran o detuvieran el desarrollo de la IA, la carta defendía la necesidad de garantizar que la opción de «pisar el freno» siguiera disponible en caso de ser necesaria, aun cuando el desarrollo de la tecnología continuara su curso.