La principal preocupación ética es el engaño. Tratar a los sistemas de IA como si fueran humanos pone en riesgo la vida de personas vulnerables.

Antropomorfizar la inteligencia artificial —es decir, tratar a los sistemas de IA como si poseyeran emociones, intenciones, conciencia o juicio moral humanos— constituye tanto un problema ético como práctico. Si bien atribuir cualidades humanas a los sistemas de IA puede hacer que las interacciones resulten más cercanas, también conlleva el riesgo de distorsionar la percepción que tienen los usuarios sobre la verdadera naturaleza y las limitaciones de esta tecnología.

Llamemos a las cosas por su nombre. Las llamadas «alucinaciones» que generan los sistemas de IA no son más que errores e inexactitudes. Hasta hace poco, el término «IA» se utilizaba como adjetivo (por ejemplo, «sistemas de IA»); sin embargo, ahora es habitual referirse a un sistema de IA como un sustantivo: «la IA».

Esta elección terminológica ha elevado a los sistemas de IA a una forma de inteligencia equiparable —o incluso superior— a la humana. Es cierto que, en algunos casos, su capacidad de procesamiento y su destreza superan a las de los humanos, pero también fallan estrepitosamente, ya que, al fin y al cabo, son máquinas.

Desde la Revolución Industrial, se ha aceptado que las máquinas pueden ser más eficientes que los humanos en determinadas tareas. No obstante, en aquel entonces no considerábamos a la maquinaria como parte de nuestro equipo de trabajo; tampoco deberíamos hacerlo ahora con los sistemas de IA.

La IA generativa basada en texto, al igual que muchos programas informáticos y algoritmos, destaca en el procesamiento de datos: búsquedas por palabras clave, identificación de patrones y secuencias de datos, así como la comparación, correspondencia y combinación de información, se realizan con una rapidez inalcanzable para cualquier ser humano. Si a esto le sumamos el análisis estadístico y las matemáticas, obtenemos una apariencia de inteligencia, pero no inteligencia real.

Los sistemas de IA generativa basados ​​en texto se entrenan con enormes cantidades de texto. Ante la palabra «thank», el sistema puede calcular estadísticamente la probabilidad extremadamente alta de que la siguiente palabra sea «you», y eso es lo que genera. Del mismo modo, si se le pide completar la frase «the cat sat on the», la respuesta más probable sería «mat».