Do Judges Behave Like Algorithms?

Imagina un mundo donde cada decisión es tomada por una calculadora gigante e invisible. En el ámbito de la ciencia conocida como inteligencia artificial y derecho, los investigadores se preguntan constantemente: ¿deberíamos dejar que las computadoras tomen las decisiones importantes, como quién va a la cárcel y quién permanece libre? Para entender esto, es necesario conocer dos formas de tomar decisiones. La primera es como una receta estricta: "Si tienes tres strikes, estás fuera". Es clara, justa y todos obtienen el mismo resultado. La segunda es como un chef probando una sopa: "Le falta un poco de sal, pero tal vez no si los tomates están demasiado ácidos". Esto es flexible y personal, pero depende del estado de ánimo y la memoria del chef. Durante décadas, la gente ha discutido si los jueces deberían seguir la receta estricta o la degustación flexible. Ahora, con las computadoras volviéndose más inteligentes, el debate ha cambiado. En lugar de preguntar si debemos reemplazar a los jueces con robots, los científicos se preguntan: ¿están los jueces actuando ya como robots? Si un juez solo está siguiendo una receta oculta, podríamos encontrarla y corregirla. Pero si realmente están probando la sopa basándose en sentimientos que no podemos ver, eso es un problema mucho más difícil de resolver.

Este artículo se sumerge en ese misterio echando un vistazo a las mentes de 21 magistrados (jueces) en el condado de Harris, Texas, quienes deciden si las personas acusadas de delitos menores deben ser liberadas antes de su juicio o mantenidas en la cárcel. Los investigadores trataron a estos jueces como cajas negras e intentaron realizar ingeniería inversa a su proceso de toma de decisiones. Se preguntaron: ¿Podemos escribir una fórmula simple y comprensible que prediga lo que hará un juez específico? Y si podemos, ¿todos los jueces usan la misma fórmula, o cada juez tiene su propio código secreto?

El equipo comenzó limpiando un conjunto de datos masivo de más de 22,000 casos. Primero, tuvieron que lidiar con los "fallos". Descubrieron que entre el 2% y el 33% de las decisiones de un juez no podían explicarse mediante ninguna regla lógica. Al mirar más de cerca, se dieron cuenta de que estos no eran actos misteriosos de magia o sesgo; eran simplemente errores. A veces los formularios de la computadora se llenaban mal, a veces el juez sabía sobre un delito en otro condado que no estaba en la base de datos, o a veces escuchó un detalle en la sala del tribunal que nunca llegó al registro escrito. Una vez que eliminaron estos casos "ruidosos", la verdadera historia emergió.

Los investigadores descubrieron que, sorprendentemente, la mayoría de los jueces se comportan como algoritmos. Para 16 de los 21 jueces, el equipo pudo construir un árbol de decisión diminuto y simple (un diagrama de flujo con solo unos pocos pasos) que predijo la decisión del juez con un 85% a 100% de precisión. Estas fórmulas dependían de algunos factores claros, como la edad del acusado, cuántas órdenes de arresto tenían pendientes y el tipo específico de delito por el que fueron acusados. Resulta que, para muchos jueces, la "degustación de la sopa" es en realidad seguir una receta muy específica y repetible.

Sin embargo, aquí está el giro: aunque los jueces están actuando como algoritmos, todos están usando algoritmos diferentes. El estudio encontró que los jueces son altamente consistentes consigo mismos; es decir, el Juez A usualmente tomará la misma decisión para casos similares el 76% de las veces. Pero son terribles siendo consistentes entre sí. Cuando los investigadores intentaron usar la "receta" del Juez A para predecir lo que haría el Juez B, falló estrepitosamente, no rindiendo mejor que un simple azar. De hecho, para algunos pares de jueces, estos discrepaban en casi todos los casos que involucraban a jóvenes (menores de 24 años). Un juez podría ver a un joven con una orden de arresto y decir "libérenlo", mientras que otro ve exactamente el mismo perfil y dice "deténganlo".

El artículo también analizó qué variables importaban más. Mientras que la edad y el recuento de órdenes de arresto eran importantes para casi todos, el peso que le daban a otros factores variaba enormemente. Algunos jueces se preocupaban profundamente por si el acusado era indigente o su género, mientras que otros ignoraban esos factores por completo. Esto sugiere que el resultado de una audiencia de fianza depende fuertemente de qué juez te toque, no solo de los hechos de tu caso.

En última instancia, los autores sugieren que no deberíamos intentar reemplazar a los jueces con computadoras. En su lugar, deberíamos usar estos hallazgos para comprender las "recetas ocultas" que los jueces ya están utilizando. Si podemos ver que el Juez X siempre trata a los jóvenes de manera diferente al Juez Y, o que la decisión de un juez cambia según una pieza de información faltante, podemos corregir esas inconsistencias. Al hacer visibles estas reglas invisibles, podemos ayudar a que el sistema de justicia sea más justo y predecible, asegurando que la "receta" sea la misma para todos, independientemente de quién esté cocinando.