A medida que el desarrollo de la IA se acelera, gobiernos y líderes de la industria afirman que se necesitan salvaguardias para proteger al público de esta tecnología de rápido avance.

Gobiernos, industria y público comparten una «ignorancia generalizada» sobre el presente y el futuro de la inteligencia artificial, lo que hace necesaria la colaboración y coordinación internacional entre la industria y los responsables políticos, según expertos.

En un panel de discusión durante la Conferencia inaugural de Gobernanza Global de IA de Hong Kong, celebrada el sábado en la Universidad de Hong Kong (HKU), Fu Hongyu, responsable de políticas de Alibaba Group Holding, afirmó que China se encuentra a la vanguardia de los esfuerzos globales para establecer salvaguardias en torno a esta tecnología en constante evolución.

«Nos encontramos ante un dilema que podría calificarse de ignorancia generalizada», declaró. «Desconocemos lo que está sucediendo y hacia dónde se dirige la tecnología».

La advertencia de Fu surge en un contexto en el que los nuevos y potentes modelos de IA han generado preocupación por su posible uso para lanzar ciberataques masivos o causar daños sociales generalizados.

En Estados Unidos, el secretario del Tesoro, Scott Bessent, y el presidente de la Reserva Federal, Jerome Powell, convocaron una reunión de emergencia la semana pasada con los directores de los principales bancos estadounidenses para analizar los riesgos relacionados con Mythos, el último modelo de la startup de IA Anthropic, así como con posibles modelos futuros, según informó Bloomberg.

Dado que los modelos chinos suelen estar entre tres y seis meses por detrás de sus homólogos estadounidenses, la postura de Beijing sobre la gobernanza de la IA siempre ha sido la necesidad de equilibrar el desarrollo de la IA con la seguridad, afirmó Fu, director de gobernanza de la IA en AliResearch, el instituto de investigación de Alibaba.