La mayoría de los usuarios de IA afirma que debería verificar las respuestas de los chatbots; sin embargo, muchos solo lo hacen a veces o con menor frecuencia, según una encuesta realizada por la empresa de ciberseguridad F-Secure.
El estudio, que abarcó a 1.500 usuarios de IA en Estados Unidos y el Reino Unido, reveló que casi el 90% consideraba que verificar las respuestas de la IA era su responsabilidad; no obstante, el 70% admitió que solo las comprobaba a veces, rara vez o nunca.
«Los consumidores llevan vidas ajetreadas, complejas y caóticas», explicó Laura James, vicepresidenta de investigación de F-Secure.
«A diario toman decisiones sobre qué herramientas digitales utilizar y para qué fines», declaró. «La IA no es una excepción».
La IA puede resultar muy útil, pero conlleva desafíos como las «alucinaciones» o las respuestas de baja calidad, continuó. «Los consumidores la utilizan sabiendo que existen estos problemas; es una elección pragmática en la que priorizan sacar adelante sus tareas», señaló.
«Saben que no siempre pueden confiar en las respuestas», observó, «pero, en ese momento, la alternativa les resulta peor».
«Verificar la información puede ser bastante difícil», sostuvo, «ya que los motores de búsqueda no siempre funcionan bien y otras fuentes de información requieren suscripciones de pago».
Añadió que los consumidores recurren a los chatbots para resolver dudas que no pueden despejar por otras vías, como consultas médicas cuyo acceso podría resultar demasiado costoso o lento.
«Solo dame la respuesta».
Una de las razones por las que los usuarios de IA omiten la verificación de las respuestas es que ello anula parte del motivo principal por el que recurren a esta tecnología: la rapidez, afirmó Eric Turney, presidente de The Monterey Company, una empresa de artículos promocionales personalizados con sede en Bend, Oregón.
«Si la IA te ofrece una respuesta en 15 segundos, pero verificarla correctamente lleva otros 10 minutos, es natural que la gente empiece a buscar atajos», comentó.
La brecha entre lo que se dice y lo que realmente se hace —detectada por los investigadores de F-Secure— no se limita únicamente al uso de la IA. «Por ejemplo, casi siempre existe una brecha entre las personas que afirman que ‘deberían comer de forma más saludable’ y sus decisiones alimentarias», señaló Juan Londoño, analista de políticas del Instituto Cato, un centro de estudios con sede en Washington D.C.
La discrepancia observada en la encuesta de F-Secure puede deberse a varios factores, pero uno de ellos es el esfuerzo que conlleva verificar los datos, continuó.
«A veces, la gente busca una respuesta rápida y no considera necesario invertir tiempo en confirmarla», declaró.
«Cuando una persona no tiene muchos conocimientos sobre un tema concreto, puede resultarle difícil identificar qué información requiere verificación», señaló. «Observamos esta tendencia en las redes sociales, donde los usuarios ni siquiera se planteaban cuestionar el contenido que recibían».
«Yo mismo percibo esa tentación», admitió. «Cuanto más útil resulta la IA, más fácil es pasar de pedir ‘ayúdame a investigar esto’ a simplemente ‘dame la respuesta'».
Parecía correcto.
Greg Sterling, cofundador de Near Media —una empresa de estudios de mercado con sede en San Francisco—, señaló que los usuarios están adquiriendo mayor criterio respecto a la IA. «Eso podría explicar, en parte, la menor frecuencia de verificación de datos», comentó.
«La pereza o el exceso de confianza podrían ser otras explicaciones», añadió, «pero todo depende de la situación. Ninguna generalización basta por sí sola para explicarlo todo».
Casi la mitad de los usuarios de IA encuestados (47,3%) afirmaron que dejan de cuestionar una respuesta si esta parece correcta; una cifra que duplica con creces el porcentaje de quienes adujeron cualquier otro motivo para no verificar la información.
«La IA puede ofrecer una respuesta errónea utilizando un lenguaje claro y seguro; esa seguridad puede hacer que la respuesta parezca creíble», observó Mark N. Vena, presidente y analista principal de SmartTech Research, una consultora tecnológica con sede en Las Vegas.
«Si, además, la respuesta coincide con lo que uno ya cree, hay aún menos motivos para detenerse a cuestionarla», declaró.
Tony Xhufi, fundador de WEM —un servicio de descubrimiento de productos y comparación de precios basado en IA y con sede en Inglaterra—, coincidió en que un lenguaje seguro, una explicación clara y detalles específicos pueden conferir autoridad a una respuesta, sobre todo cuando esta concuerda con las creencias previas del usuario. «Una respuesta de IA puede transmitir esa sensación de seguridad incluso cuando contiene un dato erróneo; además, la fluidez del lenguaje puede hacer que una respuesta no verificada parezca completa y definitiva», declaró.
«Algo que ayudaría a los usuarios sería que el chatbot pudiera indicar cuándo tiene menos certeza sobre una respuesta, en lugar de ofrecerla con la misma seguridad que si estuviera totalmente convencido», añadió James, de F-Secure.
Decisiones y consecuencias en la vida real.
El estudio de F-Secure también reveló que uno de cada cuatro encuestados (25,2%) ha seguido consejos de la IA para tomar una decisión importante en su vida real. Según los investigadores, esto demuestra que los usuarios no se limitan a utilizar los chatbots de forma casual para consultas triviales o escenarios hipotéticos.
«La IA tiene aplicaciones realmente beneficiosas, pero no debe sustituir el asesoramiento sólido de profesionales cualificados y formados», advirtió Michelle Lopes Maldonado, directora asociada de políticas de IA en la Information Technology & Innovation Foundation, una organización de investigación y políticas públicas con sede en Washington D. C.
«Existen decisiones en la vida real que podrían acarrear consecuencias perjudiciales en diversos ámbitos, como la salud, el derecho y las finanzas», señaló.
Depender de la IA para tomar decisiones sobre medicación y dosis, tratar síntomas que podrían requerir atención urgente, gestionar cuentas de jubilación y asuntos fiscales, firmar o rescindir contratos, cumplir plazos de inmigración o judiciales, o incluso para cuestiones más cotidianas como reparaciones estructurales o eléctricas en el hogar, podría conllevar riesgos o daños significativos si no se verifica la información, explicó ella.
«El factor común es la reversibilidad», añadió Jessica Murphy, directora ejecutiva y cofundadora de True Fit (con sede en Boston), una empresa que utiliza IA para ofrecer inteligencia sobre tallas y ajuste de prendas y calzado.
«Si una respuesta errónea te cuesta una tarde, las consecuencias son limitadas», declaró. «Pero si puede afectar a un diagnóstico, un contrato o un empleo, ahí es donde debe intervenir una persona cualificada que asuma la responsabilidad».
Más tareas con IA, menos verificación.
Según la encuesta, el uso de la IA para una mayor variedad de tareas se asoció con la aceptación de respuestas sin una verificación adicional. Entre las personas que utilizan la IA para muchos tipos de tareas diferentes, el estudio señaló que el 59,7% aceptaba las respuestas sin verificarlas, frente al 28,6% de quienes solo la usan para consultas de poca trascendencia.
«Por lo general, no nos gusta revisar nuestro trabajo», señaló Rob Enderle, presidente y analista principal de Enderle Group, una firma de servicios de asesoramiento con sede en Bend, Oregón.
«No es algo para lo que la mayoría de la gente esté formada; incluso aquellos que sí lo estamos a menudo consideramos tediosa la revisión», comentó. «Así que, a medida que nos sentimos más cómodos con la IA, naturalmente reducimos el esfuerzo que dedicamos a cuestionar sus respuestas».
«La familiaridad genera confianza más rápido de lo debido», añadió Matt Duren, vicepresidente sénior de IA y datos en KnowBe4, un proveedor de formación en concienciación sobre seguridad con sede en Clearwater, Florida.
«Cada respuesta correcta es un pequeño depósito en la cuenta de confianza y, tras suficientes depósitos, la gente deja de revisar el saldo», explicó.
«También es un problema de carga de trabajo», continuó. «Si utilizas la IA para docenas de tareas al día, verificar cada una de ellas anula la ganancia de productividad que motivó su adopción; por eso, la gente aplica racionalmente un criterio de selección y priorización que, silenciosamente, termina convirtiéndose en un ‘nunca’ a la hora de verificar».
«Es más probable que los usuarios intensivos empleen la IA precisamente en tareas de mayor trascendencia, donde las consecuencias de un error son más graves; así, la exposición al riesgo y el exceso de confianza crecen a la par», advirtió.
Una cuestión de comportamiento humano.
Duren sostuvo que la principal conclusión de la encuesta es que se trata de una cuestión de comportamiento humano, no de tecnología.
«Pasamos gran parte de las dos últimas décadas enseñando a la gente a desconfiar de los correos electrónicos», señaló. «Ahora debemos desarrollar ese mismo reflejo ante los resultados generados por la IA».
«Y el enfoque debe ser práctico», continuó. «Hay que verificar cuando lo que está en juego es importante, no ante cada consulta».
«Las organizaciones deberían estar capacitando a sus empleados en este aspecto ahora mismo», aconsejó, «porque la misma persona que sigue consejos no verificados de la IA en casa lo hace también en el trabajo con datos de la empresa, delegando cada vez más estas tareas en un agente que nunca cuestiona nada».
«Las herramientas seguirán mejorando, pero que algo ‘parezca correcto’ nunca sustituirá a que sea ‘realmente correcto'», añadió.
