La inteligencia artificial se está convirtiendo en un elemento habitual de la toma de decisiones empresariales, ayudando a las organizaciones a analizar contratos, negociar con proveedores, evaluar datos y respaldar la planificación estratégica. Sin embargo, a medida que las empresas depositan mayor confianza en las recomendaciones generadas por la IA, persiste un problema conocido: los grandes modelos de lenguaje pueden presentar información incorrecta con una seguridad sorprendente.

En lugar de producir alucinaciones evidentes, los modelos de IA actuales suelen generar respuestas plausibles y bien redactadas que dificultan la detección de errores. Para las organizaciones que dependen de la IA para fundamentar decisiones empresariales importantes, distinguir entre seguridad y precisión se está convirtiendo en un desafío cada vez más relevante.

John Davie, fundador y director ejecutivo de Buyers Edge Platform, se enfrentó a este problema al ampliar el uso de la IA en su organización. Su experiencia condujo al desarrollo de CollectivIQ, una plataforma que compara las respuestas de varios modelos de IA líderes para ayudar a los usuarios a identificar puntos de acuerdo, desacuerdo e incertidumbre antes de actuar en función de los resultados.

Conversamos con Davie sobre por qué le preocupa más el exceso de confianza en la IA que las alucinaciones tradicionales, cómo pueden las empresas reducir los riesgos de la toma de decisiones asistida por IA y si el consenso entre múltiples modelos puede aumentar la confianza en las respuestas generadas por esta tecnología.

A medida que la IA se vuelve más persuasiva, ¿qué pueden hacer las organizaciones para reducir el riesgo de que los empleados actúen basándose en información incorrecta generada por la IA?.

John Davie: Para seguir ampliando el uso de la IA de manera eficaz y responsable, los líderes deben enseñar a los empleados a cuestionar y evaluar los resultados de la IA planteando preguntas de seguimiento, desafiando las suposiciones y buscando fuentes alternativas para verificar las respuestas. Hay que enseñar a los empleados que la IA puede mentir y fabricar datos clave.

Si una respuesta va a influir en una negociación con proveedores, en una decisión sobre precios o en una presentación ante la junta directiva, no hay que quedarse con la primera respuesta simplemente porque suene convincente. No obstante, en última instancia, no creo que esto pueda resolverse únicamente mediante la formación.

Si la formación por sí sola no basta, ¿qué deberían hacer las organizaciones de manera diferente?.

Davie: Si pedimos a cada empleado que se convierta en un experto en detectar la manipulación de la IA, es inevitable que algo se pase por alto. La tecnología misma debe ofrecer mayor transparencia sobre el origen de las respuestas y los puntos donde aún persiste la incertidumbre.

Eso es precisamente lo que ofrece la plataforma CollectivIQ. El resultado es una inteligencia transparente y basada en el consenso, en lugar de una respuesta única proveniente de una «caja negra».

Ya no basta con generar respuestas. Los líderes deben implementar estratégicamente herramientas y procesos que ayuden a los empleados a evaluar el grado de confianza que pueden depositar en dichas respuestas antes de actuar en consecuencia.

¿Por qué son más peligrosas las respuestas de la IA que denotan un exceso de confianza que las alucinaciones evidentes?.

Davie: Los primeros ejemplos de errores de IA eran simples; por ejemplo, si alguien preguntaba cuántas letras «r» tiene la palabra inglesa «strawberry» (fresa), la IA respondía «dos». El mismo principio se aplica a los errores matemáticos o lógicos flagrantes.

Sin embargo, una respuesta inventada pero bien redactada —que cita conceptos correctos y suena genuinamente reflexiva y segura— resulta mucho más difícil de detectar y más peligrosa. Además, incluso cuando alguien cuestiona la respuesta, el modelo a menudo se reafirma en su postura en lugar de reconocer la incertidumbre.

Los investigadores descubrieron que, al cuestionar los resultados de la IA, los modelos se volvían más persuasivos al defender la respuesta errónea, intentando convencer al usuario de que el resultado era correcto.

¿Se está volviendo más común este comportamiento en los principales modelos de IA actuales?.

Davie: Otras investigaciones sugieren que no se trata de un caso aislado, lo que lo convierte en un problema potencialmente generalizado para los líderes empresariales. Un estudio revisado por pares revela que los modelos de IA muestran un comportamiento adulador —o tendencias de exceso de confianza— en casi el 60% de las consultas. En cerca del 15% de los casos, los modelos abandonan una respuesta correcta en favor de una incorrecta después de que el usuario humano expresa su desacuerdo.

En otras palabras, cuestionar el resultado de la IA no mejora la precisión; a menudo, conduce a un error mayor. A medida que la IA se integra en toda la organización, las empresas dependen de ella para tareas que van desde el análisis financiero y la revisión de contratos hasta la evaluación de proveedores, la planificación estratégica y otras inversiones importantes, como la diligencia debida en fusiones y adquisiciones.

Ahí es donde residen las verdaderas ganancias de productividad, pero esto solo funciona si los empleados saben cuándo confiar en el resultado y cuándo cuestionarlo. Cuando la IA presenta una respuesta incorrecta con seguridad, es mucho más probable que las personas la acepten y la tomen como base, permitiendo que pequeños errores influyan silenciosamente en decisiones empresariales importantes.

¿Qué le llevó a concluir que depender de un único modelo de IA no era suficiente?.

Davie: Nuestros empleados experimentaban con la IA e intentaban integrarla en sus flujos de trabajo, pero cada uno adoptaba un enfoque distinto. A cada persona le gustaba un modelo de IA diferente para tareas distintas. No teníamos visibilidad sobre qué modelos utilizaban, a qué coste, qué datos se compartían o por qué un empleado confiaba más en una respuesta que en otra.

Me di cuenta de que la cuestión iba más allá de encontrar el modelo perfecto para satisfacer todas las necesidades de los empleados. Comprendí que el complejo conjunto de desafíos a los que nos enfrentábamos requería una solución sofisticada, centralizada en una única plataforma con gobernanza. CollectivIQ nos permite aprovechar las fortalezas de múltiples modelos y, al mismo tiempo, nos aporta visibilidad, seguridad, transparencia y confianza en los resultados obtenidos.

Los usuarios pueden realizar consultas simultáneas a los principales modelos de lenguaje (LLM), incluidos ChatGPT, Claude, Gemini y Grok. Comparar las respuestas, entender en qué puntos coinciden o discrepan los modelos y analizar dichas diferencias ayuda a fundamentar decisiones empresariales importantes.

Si los principales modelos de IA se entrenan con gran parte de los mismos datos, ¿por qué comparar sus respuestas produce mejores resultados?.

Davie: Estos modelos se entrenan con gran parte de la misma información disponible públicamente. Pero no son clones entre sí. Cada uno tiene una arquitectura, unos pesos, un método de entrenamiento y unos enfoques de razonamiento diferentes. A menudo llegan a la misma conclusión por motivos distintos, o bien pueden discrepar por completo.

Si varias plataformas independientes llegan a la misma conclusión mediante diferentes vías de razonamiento, se obtiene una señal mucho más sólida que si se depende de la opinión de un único modelo. Sin embargo, cuando esos modelos discrepan, ahí suele residir la información más valiosa, ya que indica que la respuesta podría tener más matices de lo que parecía en un principio y que merece un nuevo análisis.

¿Cómo deberían interpretar los usuarios sin conocimientos técnicos las respuestas contradictorias de varios modelos de IA?.

Davie: No se requieren conocimientos técnicos. El usuario no tiene que elegir entre varios modelos competidores. CollectivIQ ofrece al empleado no técnico la eficiencia de obtener una respuesta única, de alta calidad y respaldada por consenso, sin sacrificar la transparencia.

Imagínelo como la creación de un comité asesor en lugar de escuchar a un solo experto. Se obtiene el mejor razonamiento colectivo destilado en una respuesta única y unificada: la respuesta que representa «lo mejor de lo mejor». Queremos que los usuarios perciban esas discrepancias para que puedan investigar más a fondo y plantear más preguntas.

Cuando los modelos de IA discrepan, ¿cómo puede la tecnología ayudar a los usuarios a resolver esos conflictos?.

Davie: Fuimos un paso más allá y creamos el «Modo Debate» (Argue Mode). Así, cuando dos modelos discrepan, se les insta a verificar sus fuentes. A continuación, interactúan entre sí en segundo plano. Por lo general, un modelo acaba dando la razón al otro. Todo este proceso es transparente para el usuario y no requiere habilidades especiales.