Inteligencia Artificial (IA) en la escritura jurídica: riesgos y beneficios

Pese a los riesgos, la inteligencia artificial puede ser poderosa como asistente de escritura, no como directora. No debemos considerarla una solución mágica o un reemplazo de los abogados.

El año 2023 ha marcado una clara tendencia hacia la utilización de la Inteligencia Artificial (IA) en múltiples sectores, incluyendo el derecho. Sistemas como ChatGPT y Bard, con su asombrosa capacidad para redactar documentos, han llegado incluso a formar parte del proceso de elaboración de sentencias judiciales en Colombia. Sin embargo, cuando no son debidamente supervisadas estas aplicaciones también pueden acarrear riesgos significativos, que merecen una reflexión.

Un incidente reciente en Nueva York subraya estos peligros. Un abogado entregó un documento redactado en su totalidad por ChatGPT a un juez, que encontró el texto plagado de citas falsas a precedentes inexistentes. Al requerir explicaciones, el abogado recurrió nuevamente a la IA para redactar su respuesta, resultando en otro documento repleto de referencias ficticias. Esta situación provocó la advertencia del juez, que señaló la posibilidad de transgredir la diligencia profesional e incluso incurrir en conductas fraudulentas.

Este incidente resalta un riesgo inherente de la IA: la “alucinación”. Se trata de un fenómeno en el que la IA genera respuestas con información inexistente o completamente inventada, lo que constituye uno de los principales problemas de esta tecnología. Esta “realidad paralela” creada por la IA puede causar graves problemas si los seres humanos la consideran verídica, pudiendo desinformar e inducir a error a académicos, abogados o jueces que confíen en su información.

Pese a estos posibles contratiempos, la supervisión y un entendimiento básico del funcionamiento de estos sistemas pueden mitigar estos riesgos. Los Modelos de Lenguaje Largo (LLM) como ChatGPT se nutren de enormes cantidades de datos y patrones lógicos, lo que les permite generar respuestas en lenguaje natural que simulan la forma de hablar de un humano. En esencia, estos sistemas toman la información proporcionada por el usuario y predicen una secuencia de texto coherente, acorde a sus patrones aprendidos. Pero su capacidad para acceder y utilizar la información es limitada a lo que se les ha enseñado. Y aunque su repertorio puede ser vasto, no es omnisciente, y carecen de detalles específicos sobre leyes y regulaciones fuera de los Estados Unidos, por ejemplo.

Además de la “alucinación”, la IA es susceptible a los sesgos. Dado que los datos de entrenamiento provienen de nuestra cultura, imperfecta por naturaleza, la IA puede reflejar y perpetuar estereotipos, lo que podría resultar en argumentos y decisiones discriminatorias. Este es un defecto que los desarrolladores de IA reconocen y buscan mitigar.

Pese a estos riesgos, la IA puede ser poderosa como asistente de escritura (mas no como directora). No debemos considerarla una solución mágica o un reemplazo de los abogados, especialmente porque carece de la habilidad de razonar y reflexionar como un humano, y no puede reemplazar la experiencia y pericia de un juez o abogado. Pero puede contribuir a hacer su trabajo más eficiente y de mejor calidad.

La IA puede ser un excelente redactor, organizando y aportando coherencia a las ideas, presentándolas de manera clara y atractiva. De hecho, es posible que ChatGPT pueda redactar de manera más pulida que la mayoría de las personas, incluso profesionales. Sin embargo, su capacidad es inversamente proporcional a la complejidad de los documentos: es absolutamente capaz de redactar una comunicación breve, pero no es adecuado para elaborar una denuncia o demanda completa. En documentos más complejos y extensos, su utilidad se limita a corregir la sintaxis o a evaluar la coherencia y estilo.

En mi experiencia personal, la IA ha sido de gran ayuda para desarrollar “lluvias de ideas”, en un proceso similar a la escritura automática o despreocupada por la forma. Posteriormente, la IA puede dar estructura y claridad a las ideas iniciales, sobre las cuales se puede construir el documento final. Esta técnica es muy poderosa para combatir el tan temido “bloqueo del escritor” o la falta de inspiración, del cual también podemos sufrir los abogados.

Estas son solo algunas recomendaciones, pero en la práctica, hay infinidad de formas de adaptar el uso de la IA a las necesidades de cada uno, a través de la experimentación. Eso sí, en todo caso y para usos profesionales, es imprescindible, y casi obvio, revisar y corregir el documento final antes de firmarlo.