Una iniciativa estatal aborda preocupaciones sobre la IA, como las filtraciones de datos y las alucinaciones, al tiempo que Beijing se suma a los esfuerzos globales para mejorar la supervisión de los modelos generativos.

El Ministerio de Industria y Tecnología de la Información (MIIT) de China ha comenzado a desarrollar un estándar de seguridad para evaluar modelos de inteligencia artificial, en un momento en que los reguladores de Estados Unidos y Europa refuerzan la supervisión de la seguridad de la IA.

El Centro Nacional de Investigación para el Desarrollo de la Seguridad de la Información Industrial —dependiente del MIIT— está reclutando empresas y expertos para desarrollar conjuntamente este estándar; el plazo para presentar solicitudes finaliza el martes, según un aviso publicado el lunes.

El instituto señaló que los marcos actuales no satisfacen las complejas necesidades de gobernanza de la seguridad, por lo que se requiere una plataforma de pruebas estandarizada que respalde el cumplimiento normativo en el sector industrial.

El nuevo estándar evaluará la IA generativa en seis dimensiones clave: seguridad del contenido, alineación de valores, robustez, equidad, protección de la privacidad y fiabilidad, según el comunicado. Se diseñará una metodología de evaluación híbrida para abordar explícitamente 31 riesgos de seguridad específicos, clasificados en cinco categorías principales.

El sistema combinará pruebas automatizadas de “fuzzing” y de estrés con supervisión humana para controlar las tasas de alucinación y las filtraciones de datos, así como para frenar los ataques de «jailbreak» (técnicas maliciosas de ingeniería de “prompts” diseñadas para eludir las barreras de seguridad de los grandes modelos de lenguaje o LLM).

Este enfoque técnico impulsado por el Estado surge en un contexto en el que los reguladores de todo el mundo están poniendo un énfasis especial en la seguridad de la IA a medida que avanza esta tecnología.