Los bufetes de abogados se enfrentan a la realidad de que, si bien la inteligencia artificial (IA) puede redactar un escrito judicial en cuestión de segundos, también puede «alucinar» teorías jurídicas lo suficientemente convincentes como para superar los filtros de revisión tradicionales sin ser detectadas.
A medida que la IA generativa se convierte en un elemento habitual en la redacción jurídica, ha surgido un nuevo riesgo: el razonamiento jurídico inventado, en lugar de meros hechos fabricados. Los errores resultantes están dando lugar, cada vez con mayor frecuencia, a sanciones impuestas por los tribunales.
Cat Casey, experta en tecnología jurídica y socia de Masters AI Legal, afirmó que las alucinaciones en las teorías jurídicas son las más difíciles de identificar. Una búsqueda rápida en Westlaw o Lexis —o incluso el uso de algunas de las herramientas más robustas contra las alucinaciones, como RealityCheck de BriefCatch— no basta para detectar este tipo de fallos.
«Una teoría jurídica alucinada supera todas las verificaciones de citas y, aun así, hace que tu caso se desmorone», declaró. «La aparición de alucinaciones en los bufetes de abogados es un fenómeno generalizado que está afectando gravemente a los procedimientos judiciales».
Andrew Adams, socio y director administrativo de DarrowEverett, coincide en que las alucinaciones y la «IA en la sombra» —el uso de herramientas de IA no autorizadas por parte de los empleados— constituyen dos riesgos graves a los que se enfrenta hoy en día la industria jurídica.
«La IA ya no es una cuestión emergente para los bufetes de abogados; es un desafío actual de gobernanza con consecuencias reales», comentó. «La lección que nos dejan el año 2025 y principios de 2026 es que ningún bufete es inmune».
Los tribunales intensifican el escrutinio de los escritos presentados con ayuda de la IA.
El investigador Damien Charlotin mantiene una base de datos en la que se registran las resoluciones judiciales de aquellos casos en los que la IA generativa produjo contenido alucinado, incluyendo citas falsas y argumentos generados artificialmente. Casey calificó de «asombrosa» la cifra de incidentes documentados.
Citó un recuento reciente en el que dicha base de datos catalogaba más de 1.369 resoluciones judiciales relacionadas con alucinaciones de la IA. Esta cifra no incluye el universo más amplio de citas alucinadas que, con toda probabilidad, pasan desapercibidas en los escritos presentados ante los tribunales.
«Eso es solo lo que se ha logrado detectar. Los tribunales no suelen verificar sistemáticamente todas las citas. Las referencias jurídicas inventadas pasan desapercibidas constantemente, especialmente en los casos que se resuelven mediante un acuerdo extrajudicial o en aquellos en los que la parte contraria carece de recursos para realizar las comprobaciones pertinentes», explicó Casey.
El impacto en el ámbito judicial es cada vez mayor. Casey señaló que, durante el primer trimestre de este año, los tribunales de Estados Unidos impusieron sanciones por un valor superior a los 145.000 dólares a bufetes de abogados que habían presentado escritos con contenido alucinado generado por IA.
«Más de 300 jueces federales han adoptado ya órdenes permanentes o normas locales que abordan específicamente el uso de la IA en los escritos judiciales. Los casos se están retrasando. Las mociones están siendo desestimadas», afirmó.
Dos jueces federales vieron cómo sus propias opiniones, redactadas con la ayuda de la IA, eran impugnadas y retiradas después de que la parte contraria señalara citas «alucinadas» (inventadas). El estrado judicial no es inmune a esto, añadió.
Los equipos jurídicos se enfrentan a una creciente responsabilidad derivada del uso de la IA.
Casey hizo referencia a un informe reciente que revela que el 79% de los abogados utiliza la IA de alguna forma en su práctica profesional. La cuestión no radica tanto en si los abogados la utilizan, sino en cómo la utilizan.
Señaló que el uso de herramientas de IA de consumo —no autorizadas— por parte del personal de los despachos de abogados se ha generalizado. Más del 68% de los profesionales del derecho admitió haber utilizado herramientas de IA no aprobadas al menos una vez durante el último año.
«Es probable que esa cifra sea mucho mayor en la realidad, y menos del 20% de los despachos cuentan con políticas formales para gestionar esta exposición al riesgo», comentó, advirtiendo que los despachos corren el riesgo de comprometer la confidencialidad de los clientes y el privilegio profesional.
Adams señaló un ejemplo significativo de los riesgos que plantea la redacción asistida por IA: un tribunal federal de Oregón impuso sanciones por valor de 110.000 dólares. Los abogados se basaron en jurisprudencia ficticia generada por IA y no asumieron la responsabilidad de su conducta indebida.
«Si bien el tribunal calificó este caso como una excepción atípica, demuestra el riesgo sustancial al que pueden enfrentarse los despachos de abogados, derivado tanto de no revisar adecuadamente el contenido generado por la IA como de no rectificar posteriormente sus errores», afirmó.
Adams también hizo referencia a un caso ocurrido en abril, en el que un prestigioso despacho de abogados presentó un escrito de urgencia admitiendo que se habían colado «alucinaciones» generadas por IA en un documento presentado ante un tribunal de quiebras. Aunque estos se encuentran entre los ejemplos más dramáticos, el número de resoluciones judiciales que citan casos inexistentes sigue en aumento.
Aclaró que la verificación no es una opción para los abogados; es una obligación ética.
«En virtud de la Regla 11 y sus normas estatales correlativas, todo abogado que firma un escrito judicial certifica que los argumentos jurídicos expuestos están fundamentados en la ley vigente, o bien en un argumento no frívolo destinado a ampliar, modificar o revocar la ley existente, o a establecer una nueva norma jurídica. Dicha certificación no puede delegarse en una máquina», concluyó.
La «IA en la sombra» amplía la exposición a riesgos legales.
Según Adams, la «IA en la sombra» (Shadow AI) constituye, posiblemente, un problema aún más insidioso, dado que opera al margen de cualquier marco de gobernanza o supervisión. Señaló que una encuesta reciente de la National Cybersecurity Alliance reveló que el 43% de los empleados que utilizan IA admitió haber compartido información confidencial de la empresa con herramientas de IA sin el conocimiento de su empleador.
«En los bufetes de abogados, donde gestionamos comunicaciones privilegiadas, secretos comerciales y estrategias de litigio, la exposición al riesgo es exponencial. Los materiales compartidos fuera del marco de la relación abogado-cliente pueden volverse sujetos a descubrimiento probatorio en un litigio, lo que convierte a la «IA en la sombra» (shadow AI) en una preocupación particularmente aguda para los profesionales del derecho», afirmó.
Casey percibe un peligro en asumir que los resultados generados por la IA generativa son fiables simplemente porque provienen de plataformas jurídicas consolidadas. Un estudio realizado en 2024 bajo la dirección de la Universidad de Stanford reveló tasas de «alucinación» (generación de información ficticia) de aproximadamente el 33 % para la herramienta *Westlaw AI-Assisted Research* y del 17 % para *Lexis+ AI*, bajo condiciones de pruebas comparativas (*benchmark testing*).
«Los abogados se enfrentan a la misma sanción por una alucinación, provenga esta de Westlaw o de una plataforma de IA independiente», señaló. «Los tribunales no han establecido distinciones al respecto; el argumento de tratarse de una marca de confianza no ha servido como defensa».
Señales de alerta en los escritos jurídicos generados por IA.
Casey identificó tres tipologías principales de alucinaciones en la IA. Cada una posee sus propias características distintivas: la invención total de casos inexistentes; la creación de citas falsas atribuidas a casos reales; y la mención de casos reales —con su correspondiente cita auténtica—, pero vinculados a un argumento que no guarda relación alguna con el caso en cuestión.
Según indicó, las siguientes señales de alerta suelen manifestarse en las formas más habituales de alucinación:
- Casos que parecen «demasiado buenos para ser ciertos», pues encajan de manera excesivamente perfecta con el patrón fáctico del asunto.
- Opiniones jurídicas redactadas con una prosa impecable y equilibrada, carente por completo de matices o reservas.
- Casos citados reiteradamente en el contexto de argumentos, patrones fácticos o expedientes jurídicos distintos entre sí.
- Casos que no aparecen en las bases de datos de fuentes primarias de jurisprudencia tras realizar una búsqueda de apenas 30 segundos.
«Incluso en ausencia de cualquiera de estas señales de alerta tan evidentes, todo flujo de trabajo que dependa de la investigación asistida por IA debería incorporar un componente de auditoría. En la etapa actual de desarrollo tecnológico, los seres humanos deben verificar siempre la información antes de depositar su confianza en la IA», recomendó Casey.
Establecimiento de un marco de gobernanza de la IA en los bufetes de abogados.
La firma *Masters AI Legal* ofrece un ecosistema de aprendizaje especializado diseñado para capacitar a bufetes y profesionales del derecho en la implementación de la IA generativa. Casey destacó que los abogados tienen la obligación de supervisar el uso de estas herramientas, mantener su competencia técnica, salvaguardar la confidencialidad y actuar siempre con la debida franqueza ante los tribunales.
Asimismo, identificó un desafío clave en el proceso de adaptación, a medida que la IA evoluciona desde su condición de herramienta independiente hacia una integración plena con las principales plataformas jurídicas —como Lexis y Westlaw— e, incluso, con los propios programas de procesamiento de textos.
«Lo que cambia es el grado de invisibilidad que adquiere la IA; y es precisamente en esa invisibilidad donde reside el riesgo», aclaró. Adams sugirió que, más allá de los controles de acceso y la capacitación, los bufetes de abogados deben adaptarse para garantizar una gobernanza adecuada de los documentos judiciales y del producto del trabajo. Esto asegura que sus entregables sean revisados minuciosamente en busca de «alucinaciones» en caso de que se haya utilizado un programa de IA autorizado —y, por ende, no auditable—.
«Estos riesgos han impulsado un replanteamiento a gran escala de la gobernanza en los bufetes de abogados. En DarrowEverett, adoptamos nuestra plataforma de IA legal basándonos en su capacidad para controlar, monitorear y auditar el uso, así como en la seguridad de su almacenamiento y procesamiento de datos», afirmó Adams.
Añadió que la construcción de marcos de gobernanza sólidos exige una minuciosa atención al detalle y esfuerzos continuos en materia de cumplimiento normativo. Algunos tribunales han dejado claro recientemente —como en el caso *United States v. Heppner*— que las comunicaciones con sistemas de IA de terceros que carecen de seguridad podrían no gozar del privilegio profesional y podrían ser utilizadas en contra de las partes involucradas en un litigio.
«Aquellos bufetes y departamentos jurídicos corporativos que no aborden la gobernanza de la IA con el mismo rigor que la ciberseguridad o la gestión de conflictos se exponen a riesgos sustanciales», reiteró.
