después de que los abogados cayeron en la trampa de los errores de la inteligencia artificial, los propios jueces han comenzado a experimentar con la tecnología. están seguros de que puede acelerar el sistema judicial, pero los errores ya han empezado a surgir, lo que plantea una pregunta crucial: ¿quién rinde cuentas al juez cuando su inteligencia artificial se equivoca?
contenidos del artículo:
- introducción: la inteligencia artificial entra en la sala del tribunal
- trazar la línea: entre la asistencia y el juicio
- la pendiente resbaladiza: ¿es la sumarización una tarea segura?
- los errores ya están ocurriendo
- la crisis de rendición de cuentas: cuando el juez se equivoca
- «una crisis en espera de ocurrir»
- el problema de la página en blanco: la esencia del trabajo del juez
- conclusión: un delicado equilibrio entre eficiencia y justicia
introducción: la inteligencia artificial entra en la sala del tribunal
la propensión de los sistemas de inteligencia artificial a cometer errores y el fracaso de los humanos en detectarlos ha quedado bastante clara en el sistema legal estadounidense últimamente. los disparates comenzaron cuando los abogados presentaron documentos que citaban casos inexistentes. ahora, los jueces también han empezado a experimentar con la inteligencia artificial generativa. algunos confían en que, con las precauciones adecuadas, la tecnología puede acelerar la investigación legal, resumir casos, redactar órdenes rutinarias y ayudar en general a agilizar un sistema judicial sobrecargado.
trazar la línea: entre la asistencia y el juicio
el juez federal xavier rodríguez utiliza herramientas de inteligencia artificial generativa para resumir casos. le pide a la inteligencia artificial que identifique a los principales actores involucrados y luego hace que genere una línea de tiempo de los eventos clave. antes de ciertas audiencias, también le solicita que formule preguntas para los abogados basadas en los materiales que presentan. estas tareas, para él, no dependen del juicio humano. afirma: «no se toma ninguna decisión final y, por lo tanto, está relativamente libre de riesgos». sin embargo, considera que usar la inteligencia artificial para predecir si alguien debe ser elegible para la libertad bajo fianza, por ejemplo, va demasiado lejos en la dirección del juicio y la discreción.
la pendiente resbaladiza: ¿es la sumarización una tarea segura?
irene solovey, profesora e investigadora en la interacción entre humanos y la inteligencia artificial, señala que la línea divisoria entre lo que es apropiado para un juez humano y lo que es apropiado para las herramientas de inteligencia artificial varía de un juez a otro y de un escenario a otro. aun así, algunas de estas tareas simplemente no coinciden con lo que la inteligencia artificial hace bien. una solicitud para resumir un documento extenso puede producir resultados drásticamente diferentes dependiendo de si el modelo fue entrenado para resumir para un público general o para uno legal. asimismo, la inteligencia artificial tiene dificultades con tareas basadas en la lógica, como ordenar los eventos de un caso. solovey apunta: «una línea de tiempo que parece muy plausible podría ser fácticamente incorrecta».
los errores ya están ocurriendo
este verano ya hemos visto errores generados por la inteligencia artificial que no fueron detectados y fueron citados por los jueces. un juez federal en nueva jersey tuvo que volver a emitir una orden llena de errores que probablemente fueron causados por la inteligencia artificial, y un juez en misisippi se negó a explicar por qué su orden también contenía errores que parecían alucinaciones de inteligencia artificial. en junio, un juez de apelaciones en georgia emitió una orden que se basaba parcialmente en casos ficticios proporcionados por una de las partes, un error que pasó desapercibido.
la crisis de rendición de cuentas: cuando el juez se equivoca
los riesgos de la adopción temprana han preocupado al juez scott schlegel, quien advirtió que los errores derivados de la inteligencia artificial en las decisiones de los jueces apuntan a «una crisis en espera de ocurrir», una crisis que iría más allá del problema de los abogados que presentan expedientes con casos ficticios. los abogados que cometen errores pueden ser sancionados, ver rechazas sus peticiones o perder sus casos cuando la parte contraria detecta los errores y los denuncia. schlegel sostiene: «cuando el juez se equivoca, eso es la ley. no puedo ir dentro de un mes o dos y decir ‘ups, lo siento mucho’, y revocar mi decisión. las cosas no funcionan así».
«una crisis en espera de ocurrir»
a diferencia de los abogados, a quienes el tribunal puede ordenar que expliquen por qué hay errores en sus presentaciones, los jueces no tienen que mostrar tanta transparencia. el 4 de agosto, un juez federal en misisippi se vio obligado a emitir una nueva resolución en un caso de derechos civiles después de que se revelara que la original contenía nombres incorrectos y errores graves. el juez no explicó completamente qué provocó los errores ni siquiera después de que el estado se lo solicitara. el juez escribió: «no hay justificación para una mayor aclaración».
el problema de la página en blanco: la esencia del trabajo del juez
schlegel afirma que gran parte de la función de un juez consiste en lidiar con lo que denomina «el problema de la página en blanco»: presides un caso complejo con una página en blanco frente a ti, obligado a tomar decisiones difíciles. el acto de reflexionar sobre esas decisiones es el trabajo principal del juez. recibir ayuda de la inteligencia artificial para un primer borrador socava ese propósito.
y añade: «si estás decidiendo a quién se le otorgan los niños este fin de semana y alguien descubre que usaste grok y deberías haber usado gemini o chatgpt —ya sabes, eso no es el sistema de justicia».
conclusión: un delicado equilibrio entre eficiencia y justicia
la tentación de aumentar la eficiencia mediante el uso de la inteligencia artificial en el sistema judicial es comprensible. sin embargo, los riesgos son demasiado grandes. cuanto más difusa se vuelve la línea entre la asistencia y el juicio, mayor es el riesgo de erosionar la confianza pública en la legitimidad de los tribunales. antes de que la inteligencia artificial se convierta en una parte integral del poder judicial, deben establecerse marcos claros de rendición de cuentas y transparencia para garantizar que la justicia siga siendo, en última instancia, humana.
