Un reportaje del programa de investigación de alto perfil de CCTV muestra la facilidad con la que personas malintencionadas pueden publicar información falsa para manipular los resultados de los chatbots.

Una investigación encubierta de la Televisión Central de China (CCTV), de propiedad estatal, ha puesto de manifiesto una práctica controvertida en una industria incipiente: el «envenenamiento» de modelos de inteligencia artificial con información fabricada.

El reportaje mostró cómo las técnicas de optimización generativa de motores (GEO), la versión de IA de la optimización de motores de búsqueda (SEO), podrían utilizarse para manipular chatbots de IA, provocando una gran preocupación y debate público, ya que tanto expertos del sector como observadores anticiparon una regulación más estricta.

En el reportaje, emitido el domingo durante la Gala anual 315 para conmemorar el Día Mundial de los Derechos del Consumidor, se reveló que un sistema llamado Liqing se utilizó para publicar automáticamente gran cantidad de reseñas de expertos, clasificaciones del sector y opiniones de usuarios sobre un monitor de actividad física inexistente llamado Apollo-9. Al solicitarles posteriormente que recomendaran «pulseras inteligentes de salud», dos chatbots de IA no solo mencionaron el producto ficticio, sino que también lo clasificaron entre las mejores opciones. El reportaje no reveló la identidad de los bots.

Un hombre de apellido Li, presunto operador de Liqing, fue grabado con cámara oculta alardeando de esta práctica.

«En la industria GEO, básicamente estamos envenenando [la IA]», afirmó.

Todas las cuentas de redes sociales relacionadas con Liqing fueron eliminadas el lunes.

El reportaje provocó una inmediata indignación en las redes sociales. El hashtag #CCTVExposesGEOPoisoningDarkIndustry alcanzó el primer puesto en la lista de tendencias de Kuaishou el lunes por la mañana, mientras que #PoisoningAIHasBecomeAnIndustryChain llegó al cuarto lugar en los temas de tendencia de Weibo, según datos del rastreador de redes sociales Entobit.cn.