Es crucial promover una hoja de ruta integral para el desarrollo de la inteligencia artificial que priorice la innovación segura, ya que se espera que la IA traiga consigo nuevos desafíos, según afirmaron el miércoles expertos de la industria y ejecutivos de empresas.
Luo Laijun, vicepresidente de la Federación Nacional de Industria y Comercio de China, afirmó: «Un desarrollo saludable de la IA exige la innovación como motor principal, la seguridad como base innegociable y el beneficio universal como nuestro valor fundamental».
Luo realizó estas declaraciones en la 13ª Conferencia de Seguridad en Internet celebrada en Beijing.
Hizo un llamamiento a las empresas privadas para que fortalezcan activamente los ecosistemas nacionales de ciberseguridad y participen en la construcción de marcos de gobernanza integrales que abarquen la investigación tecnológica, la implementación práctica y los protocolos de seguridad.
Luo enfatizó que el desarrollo de estándares reconocidos internacionalmente establecería «cinturones de seguridad» esenciales para el avance sostenible de la industria, instando a las empresas a asumir su rol como «promotoras, constructoras y guardianas» de la seguridad digital.
Haciéndose eco de este imperativo, Zhao Zhiguo, ex ingeniero jefe del Ministerio de Industria y Tecnología de la Información, describió la integración de la IA y la ciberseguridad como una responsabilidad ineludible, más que una estrategia opcional.
«Esta fusión representa el desafío decisivo de nuestra era», afirmó Zhao, enfatizando la necesidad crucial de una «integración industrial profunda y el empoderamiento mutuo» entre sectores.
Abogó por mecanismos de gobernanza colaborativa para unificar las capacidades de seguridad en todo el panorama tecnológico, considerando esta sinergia esencial para la resiliencia nacional.
Zhou Hongyi, fundador de la empresa china de internet 360 Security Group, presentó una crítica crucial a las limitaciones de la IA generativa, señalando que, a pesar de los notables avances, «los modelos potentes por sí solos siguen siendo herramientas insuficientes».
Añadió que los modelos fundamentales carecen de capacidad ejecutiva.
«Sin un equipo operativo, no pueden completar tareas del mundo real, lo que pone en riesgo su condición de juguetes sofisticados en lugar de verdaderos motores de productividad».
Zhou posicionó a los agentes de IA como el avance evolutivo inevitable, explicando su capacidad única para «comprender objetivos, diseñar estrategias de acción, utilizar herramientas digitales y ofrecer soluciones integrales».
Su empresa respondió a esta brecha con el lanzamiento de una «fábrica de agentes», una plataforma accesible que permite a las empresas crear agentes de IA personalizados mediante comandos de lenguaje natural sin necesidad de conocimientos de programación.
Zhou lanzó una severa advertencia sobre las vulnerabilidades emergentes de ciberseguridad aceleradas por la tecnología de agentes. «Si bien persiste la escasez global de expertos en seguridad, ahora nos enfrentamos a ‘hackers de agentes’: atacantes individuales que controlan a cientos de agentes de IA para lanzar ataques automatizados a una escala sin precedentes», advirtió.
En respuesta, 360 Security Group ha introducido agentes específicos de seguridad diseñados para replicar las capacidades de los expertos humanos. «Al equipar nuestro cerebro de seguridad con extremidades operativas», explicó Zhou, «logramos avances cualitativos en la respuesta a amenazas, clonando efectivamente la capacidad de toma de decisiones de los analistas de élite».
