Do Judges Behave Like Algorithms?

Imagine um mundo onde cada decisão é tomada por uma calculadora gigante e invisível. No campo da ciência conhecido como inteligência artificial e direito, pesquisadores estão constantemente se perguntando: devemos deixar os computadores tomarem as grandes decisões, como quem vai para a cadeia e quem permanece livre? Para entender isso, você precisa conhecer duas formas de fazer escolhas. A primeira é como uma receita rigorosa: "Se você tiver três faltas, está fora". É clara, justa e todos recebem o mesmo resultado. A segunda é como um chef provando uma sopa: "Precisa de um pouco mais de sal, mas talvez não se os tomates estiverem muito ácidos". É flexível e pessoal, mas depende do humor e da memória do chef. Por décadas, as pessoas argumentaram se os juízes deveriam seguir a receita rigorosa ou a degustação flexível. Agora, com os computadores ficando mais inteligentes, o debate mudou. Em vez de perguntar se devemos substituir juízes por robôs, os cientistas estão fazendo uma pergunta mais selvagem: os juízes já estão agindo como robôs? Se um juiz está apenas seguindo uma receita oculta, poderíamos encontrá-la e corrigi-la. Mas se eles estão verdadeiramente provando a sopa com base em sentimentos que não podemos ver, esse é um problema muito mais difícil de resolver.

Este artigo mergulha nesse mistério espiando a mente de 21 magistrados (juízes) no Condado de Harris, Texas, que decidem se pessoas acusadas de crimes menores devem ser libertadas antes do julgamento ou mantidas na prisão. Os pesquisadores trataram esses juízes como caixas pretas e tentaram fazer a engenharia reversa de seu processo de tomada de decisão. Eles perguntaram: Podemos escrever uma fórmula simples e compreensível que preveja o que um juiz específico fará? E, se pudermos, todos os juízes usam a mesma fórmula ou cada um tem seu próprio código secreto?

A equipe começou limpando um conjunto massivo de dados de mais de 22.000 casos. Primeiro, eles tiveram que lidar com as "falhas". Descobriram que cerca de 2% a 33% das decisões de um juiz não podiam ser explicadas por nenhuma regra lógica. Ao olharem mais de perto, perceberam que não eram atos misteriosos de magia ou viés; eram apenas erros. Às vezes, os formulários do computador eram preenchidos incorretamente, às vezes o juiz sabia de um crime em outro condado que não estava no banco de dados, ou às vezes ele ouviu um detalhe no tribunal que nunca chegou ao registro escrito. Uma vez que removeram esses casos "ruidosos", a história real emergiu.

Os pesquisadores descobriram que, surpreendentemente, a maioria dos juízes se comporta como algoritmos. Para 16 dos 21 juízes, a equipe conseguiu construir uma árvore de decisão minúscula e simples (um fluxograma com apenas alguns passos) que previava a decisão do juiz com 85% a 100% de precisão. Essas fórmulas dependiam de alguns fatores claros, como a idade do réu, quantos mandados eles tinham pendentes e o tipo específico de crime pelo qual foram acusados. Acontece que, para muitos juízes, a "degustação da sopa" é, na verdade, apenas seguir uma receita muito específica e repetível.

No entanto, aqui está a reviravolta: embora os juízes estejam agindo como algoritmos, eles estão usando algoritmos diferentes. O estudo descobriu que os juízes são altamente consistentes consigo mesmos — o que significa que o Juiz A geralmente tomará a mesma decisão para casos semelhantes 76% das vezes. Mas eles são terríveis em serem consistentes uns com os outros. Quando os pesquisadores tentaram usar a "receita" do Juiz A para prever o que o Juiz B faria, ela falhou miseravelmente, não performando melhor do que um palpite aleatório. De fato, para alguns pares de juízes, eles discordavam em quase todos os casos envolvendo jovens (menores de 24 anos). Um juiz pode ver um jovem com um mandado e dizer "liberte-o", enquanto outro vê exatamente o mesmo perfil e diz "mantenha-o preso".

O artigo também analisou quais variáveis importavam mais. Embora a idade e a contagem de mandados fossem importantes para quase todos, o peso que davam a outros fatores variava drasticamente. Alguns juízes se importavam profundamente se o réu era sem-teto ou seu gênero, enquanto outros ignoravam esses fatores completamente. Isso sugere que o resultado de uma audiência de fiança depende fortemente de qual juiz você consegue, não apenas dos fatos do seu caso.

Fundamentalmente, os autores sugerem que não devemos tentar substituir juízes por computadores. Em vez disso, devemos usar essas descobertas para entender as "receitas ocultas" que os juízes já estão usando. Se pudermos ver que o Juiz X sempre trata os jovens de forma diferente do Juão Y, ou que a decisão de um juiz muda com base em um dado faltante, podemos corrigir essas inconsistências. Ao tornar essas regras invisíveis visíveis, podemos ajudar o sistema de justiça a se tornar mais justo e previsível, garantindo que a "receita" seja a mesma para todos, independentemente de quem está cozinhando.