El uso de inteligencia artificial en el ámbito jurídico ha generado una serie de problemas en tribunales de distintos países, especialmente por la aparición de “alucinaciones” de IA, es decir, información falsa o inventada presentada como válida en documentos legales.
Uno de los casos más recientes ocurrió en Estados Unidos, donde un juez detectó citas inexistentes en un escrito presentado por un abogado que utilizó el chatbot Claude para redactar parte de su argumento legal.
Suscríbete a nuestro canal
El hecho derivó en una sanción económica y en la obligación del abogado de realizar un curso sobre el uso adecuado de herramientas de IA en la práctica jurídica, lo que abrió un nuevo debate sobre la responsabilidad profesional en este tipo de tecnologías.
Sanción en tribunal de Luisiana por uso de IA
El juez Jerry Edwards Jr., del tribunal de distrito de Luisiana, identificó siete citas falsas o manipuladas en una moción presentada en un caso de lesiones personales en Estados Unidos.
Te puede interesar:
Las referencias no existían en los fallos judiciales originales o aparecían completamente alteradas, lo que llevó al tribunal a concluir que el documento contenía información fabricada.
El abogado implicado reconoció que utilizó el chatbot Claude para corregir un borrador previo, después de que un asistente legal detectara errores similares en la versión inicial del texto.
Sin embargo, el profesional no revisó nuevamente el documento antes de presentarlo ante el tribunal, lo que derivó en la sanción.
El juez estableció en una orden fechada el 18 de mayo que “Desconocer los riesgos del uso de la IA ya no es una excusa”, y determinó una multa de 1,000 dólares junto con un curso obligatorio de tres horas sobre uso de IA en el ámbito legal.
Expansión de errores de IA en procesos judiciales
El abogado francés Damien Charlotin explicó en entrevista con la agencia AFP que los errores generados por inteligencia artificial no siempre provocan la pérdida de los casos, aunque sí afectan la credibilidad profesional.
El especialista señaló que algunos litigantes logran ganar procesos pese a las llamadas alucinaciones, siempre que sus argumentos de fondo resulten sólidos ante el tribunal.
No obstante, los tribunales han comenzado a expresar preocupación por el impacto de estos errores en el sistema judicial, especialmente por el tiempo y recursos que consumen.
La jueza Linda Kevins, del Tribunal Supremo del Estado de Nueva York, advirtió en una resolución de enero que este tipo de fallos también afecta la reputación de los tribunales cuando se citan decisiones inexistentes o atribuciones falsas.
Base internacional de casos con alucinaciones de IA
El investigador Damien Charlotin comenzó en abril de 2023 la recopilación de una base de datos sobre documentos judiciales afectados por errores de inteligencia artificial.
Hasta la fecha, el registro suma alrededor de 1,600 casos distribuidos en 35 países, con ejemplos que incluyen citas inventadas, jurisprudencia inexistente y argumentos plagiados.
De ese total, 1,116 casos corresponden a Estados Unidos, lo que lo coloca como el país con mayor incidencia de este fenómeno. Le siguen Canadá con 173 casos, Australia con 74 y Reino Unido con 59, según la base colaborativa que continúa en expansión.
Información: AFP