Testimonios completamente inventados, nombres falsos e informes policiales que nunca fueron redactados. Un abogado penalista de Santa Fe, en Nuevo México, citó a testigos inexistentes en la documentación presentada para defender a su cliente, acusado de asesinato. Cuando el Tribunal Supremo descubrió los múltiples errores, el letrado culpó a ChatGPT de haber generado los falsos testimonios y aseguró que lo ocurrido había sido simplemente «un error de buena fe».

Ante las preguntas del juez, el abogado Stephen Aarons afirmó que desconocía los riesgos y las llamadas «alucinaciones» de la inteligencia artificial, es decir, la generación de información falsa o inventada, pero presentada de una manera convincente.

Una explicación que no convenció al juez. Según este, resulta difícil ignorar hoy los riesgos asociados al uso de la inteligencia artificial, especialmente cuando se trata de un profesional.

Aarons se encargaba del recurso de Oscar Renee Sandoval, condenado el año pasado a cadena perpetua por el asesinato de la madre de sus hijos. El acusado se declaró no culpable y su caso será ahora llevado por un abogado de oficio.

MULTA DE 5.000 DÓLARES Y COMUNICACIÓN AL COLEGIO DE ABOGADOS

El Tribunal Supremo de Nuevo México declaró a Aarons culpable de desacato al tribunal por no haber comprobado la exactitud de la documentación presentada. Según la corte, el recurso contenía «testimonios falsos realizados por testigos completamente inventados» y Aarons «demostró falta de arrepentimiento y de interés por su cliente».

El abogado ha sido condenado a pagar una multa de 5.000 dólares y el caso ha sido remitido al Colegio de Abogados de Nuevo México, que deberá examinar lo ocurrido y determinar si procede adoptar medidas disciplinarias.

«ESTOY ARREPENTIDO, FUE UN ERROR DE BUENA FE»

Aarons se defendió explicando que había utilizado ChatGPT, de OpenAI, y que no era consciente de los errores que puede generar el chatbot. El abogado explicó a Reuters que utilizó ChatGPT para resumir los documentos del proceso y que no comprendió hasta qué punto la IA podía distorsionar los hechos.

«Estoy arrepentido, pero espero que el consejo disciplinario tenga en cuenta que se trató de un error de buena fe«, afirmó. «Es una lección para todos los profesionales que confían en esta tecnología potente, pero en ocasiones inestable».

Durante una vista celebrada el 21 de agosto, explicó que había introducido en ChatGPT una transcripción generada por ordenador y otro material relacionado con el caso, suponiendo que el sistema produciría «un resumen infalible».

Los jueces, sin embargo, recibieron la explicación con escepticismo.

«Abogado, ¿ve las noticias? ¿Escucha la radio? ¿Lee algo sobre lo que ocurre en el mundo?», preguntó durante la vista la jueza C. Shannon Bacon. «Porque el problema de los abogados que confían en las ‘alucinaciones’ de la IA aparece en las portadas prácticamente todos los días». | @elmundo