La CNCERT advierte que las habilidades maliciosas de IA pueden engañar a los usuarios para que ejecuten software de minería de criptomonedas y expongan datos confidenciales.

El organismo de control de ciberseguridad de China ha advertido sobre paquetes de «habilidades» de IA de terceros que afirman eludir las medidas de seguridad de los modelos y generar contenido prohibido, o proporcionar acceso a funciones de minería de criptomonedas. Afirma que estas herramientas exponen a los usuarios a fugas de datos y riesgos de lavado de dinero.

El Centro Nacional de Coordinación de Respuesta a Emergencias de Redes Informáticas (CNCERT) emitió la advertencia el martes a través de su cuenta oficial de WeChat, destacando la rápida aparición de un mercado gris de extensiones de IA no reguladas.

En el ecosistema de la IA, las habilidades funcionan como complementos o paquetes de código especializados que amplían las capacidades de los agentes y modelos de IA. Al igual que las aplicaciones para teléfonos inteligentes, pueden conectar sistemas de IA a bases de datos externas, automatizar flujos de trabajo e integrarse con software o servicios en línea de terceros, lo que permite realizar tareas más complejas que la simple generación de texto.

Sin embargo, el CNCERT indicó que algunas habilidades se comercializan como herramientas para eludir las restricciones integradas en los modelos de IA, lo que permite a los usuarios generar contenido prohibido o acceder a funciones de minería de criptomonedas, que siguen prohibidas en China continental.

La agencia advirtió que el uso de dichas herramientas podría resultar en violaciones de la privacidad, suspensiones de cuentas y posibles consecuencias legales.

Si bien el ecosistema de habilidades de IA incluye muchas ofertas legítimas, el CNCERT afirmó que los usuarios deben obtener habilidades únicamente a través de canales oficiales, seguir el principio de mínimo privilegio al otorgar permisos y revocar de inmediato el acceso innecesario a datos confidenciales.