Before Prediction Becomes Punishment: Governing AI in Bangladesh's Criminal Justice System

Imagine um mundo onde um programa de computador ajuda a decidir quem é preso, quem permanece na cadeia antes do julgamento e quanto tempo alguém cumpre uma sentença. Isso não é ficção científica; é a realidade emergente da justiça criminal em muitos lugares, incluindo Bangladesh. A ideia central por trás desses sistemas é o "policiamento preditivo" ou a "pontuação de risco". Em vez de um policial ou juiz confiar apenas em sua memória ou em um único arquivo, eles usam um software que varre vastas quantidades de dados — prisões passadas, onde as pessoas vivem, idade ou histórico familiar — para adivinhar quem pode cometer um crime no futuro ou quem tem probabilidade de fugir se for libertado. A promessa é eficiência: capturar maus atores mais rapidamente e tratar todos da mesma forma. Mas o perigo é igualmente real. Se o computador aprender com erros passados, como uma força policial que apenas patrulhava bairros pobres, ele simplesmente dirá aos policiais para patrulharem esses mesmos bairros novamente, criando um ciclo onde os pobres são punidos com mais frequência, não porque sejam piores, mas porque foram vigiados mais de perto. A questão que as nações enfrentam hoje não é se devem usar essas ferramentas, mas como usá-las sem transformar a injustiça histórica em punição automatizada.

Uma pesquisadora chamada Shanjida Israt Jahan Efat, escrevendo da Universidade Notre Dame de Bangladesh, examinou exatamente este momento para o seu país. Bangladesh está atualmente construindo a base digital para tal sistema. O governo introduziu dispositivos portáteis que podem escanear a impressão digital de uma pessoa e recuperar instantaneamente sua identidade, passaporte e histórico criminal. Novas leis agora permitem que registros digitais sejam usados como evidência em tribunal, e um rascunho de política nacional está sendo preparado para orientar como a inteligência artificial deve ser usada de 2026 a 2030. No entanto, o país ainda não possui regras claras sobre quando o palpite de um computador é forte o suficiente para justificar a privação da liberdade de uma pessoa. O trabalho de Efat é um roteiro desenhado para evitar que o país cometa um erro crítico: adotar uma tecnologia que parece moderna, mas que na verdade aprofunda as velhas desigualdades.

O artigo começa mapeando exatamente onde esses sistemas de computador poderiam entrar no processo de justiça, desde o momento em que a polícia planeja suas patrulhas até o dia em que um prisioneiro é libertado. A pesquisadora identifica sete estágios fundamentais onde as coisas podem dar errado. Por exemplo, quando a polícia usa software para prever onde crimes podem ocorrer, o sistema pode simplesmente enviar mais oficiais para áreas que já são fortemente policiadas. Isso cria um ciclo onde mais oficiais encontram mais infrações menores, que o computador então usa como prova de que a área é perigosa, justificando ainda mais oficiais. Isso não é uma observação neutra do crime; é uma profecia autorrealizável. Da mesma forma, quando o software é usado para identificar suspeitos através de reconhecimento facial ou impressões digitais, um erro no sistema pode levar a uma prisão falsa. O artigo observa que esses sistemas frequentemente lutam com a precisão para grupos específicos, como mulheres de pele escura ou pessoas usando roupas religiosas, levando a uma maior chance de erro para aqueles que já são vulneráveis.

Efat argumenta que as leis atuais em Bangladesh não são suficientes para deter esses problemas. Embora existam novas regras sobre a proteção de dados pessoais, essas regras possuem uma grande brecha que permite à polícia contornar as proteções de privacidade quando alegam estar investigando um crime. A lei protege os dados em si, mas não explica como um juiz deve tratar a previsão de um computador ao decidir se mantém alguém na prisão. A pesquisadora aponta que simplesmente ter um humano "no circuito" — significando que um humano olha a resposta do computador antes de tomar uma decisão — não é suficiente. Se um juiz ou policial se sente pressionado a confiar na máquina, ou se não entende como a máquina chegou àquela conclusão, sua presença não resolve o problema. Um humano que apenas assina um veredito baseado em uma pontuação sem entender seus limites não está fornecendo supervisão real; ele é apenas um carimbo de aprovação.

Para resolver isso, o artigo propõe um teste rigoroso de cinco etapas, ou "cinco portões", que qualquer novo sistema deve passar antes de poder ser usado para tomar decisões sobre a liberdade das pessoas. O primeiro portão exige uma lei clara. O governo deve ter uma regra escrita específica que diga exatamente o que o computador pode fazer, quem pode usá-lo e quais dados ele pode visualizar. Um desejo geral de "combater o crime" não é suficiente para justificar a vigilância em massa. O segundo portão exige prova de necessidade. As autoridades devem demonstrar que têm um problema real que não pode ser resolvido por métodos mais simples e menos intrusivos, e que os benefícios do novo sistema valem os riscos.

O terceiro portão é talvez o mais crítico: validade local. Um sistema que funciona bem em um país, ou mesmo em uma cidade, pode falhar completamente em outro. O artigo insiste que qualquer ferramenta usada em Bangladesh deve ser testada com pessoas reais de Bangladesh, em condições locais, com línguas locais e dados locais. Você não pode simplesmente comprar um sistema do exterior e assumir que ele funcionará. O quarto portão foca na equidade. O sistema deve ser verificado para ver se comete mais erros para certos grupos de pessoas, como os pobres, mulheres ou minorias étnicas. Se o computador tiver maior probabilidade de acusar falsamente um grupo específico, ele não pode ser usado. O portão final trata do direito de contestação. Se a saída de um computador é usada para prender ou sentenciar alguém, essa pessoa deve ser informada de como a decisão foi tomada, ter a chance de ver os dados e ser permitida a pedir que um humano revise o resultado. Se o sistema é uma "caixa preta" secreta que ninguém pode questionar, ele falha neste portão.

A pesquisadora é clara sobre o que não deve acontecer. O artigo argumenta contra o uso de computadores para prever o comportamento futuro de uma pessoa baseando-se apenas em sua personalidade ou histórico. Também argumenta contra o uso dessas ferramentas para tomar a decisão final sobre prisão, detenção ou sentença sem uma revisão humana forte e independente. O artigo não afirma que a inteligência artificial não tem lugar na justiça. De fato, sugere que essas ferramentas podem ser muito úteis para tarefas não coercitivas, como encontrar pessoas desaparecidas, detectar fraudes ou organizar enormes pilhas de evidências para encontrar documentos que provem a inocência de alguém. O objetivo é usar a tecnologia para ajudar o sistema a funcionar melhor, não deixar que a tecnologia assuma o julgamento do que é certo ou errado.

O artigo conclui com um plano prático para Bangladesh seguir adiante. Sugere que o governo deve primeiro fazer um inventário de todos os sistemas que já possui ou que planeja comprar. Devem congelar qualquer uso de tecnologia que viole os cinco portões. Em seguida, devem criar uma lista pública de todos os algoritmos usados pela polícia e pelos tribunais, para que os cidadãos saibam o que está sendo utilizado. Finalmente, precisam estabelecer um grupo independente de especialistas — incluindo juízes, advogados e representantes da comunidade — para supervisionar essas ferramentas e detê-las se começarem a causar danos. A mensagem é de um otimismo cauteloso. Bangladesh tem a chance de construir um sistema de justiça que seja moderno e justo, mas apenas se colocar regras claras em vigor antes que a tecnologia se torne demasiado enraizada para ser alterada. O futuro da justiça criminal não deve ser uma escolha entre instituições ineficientes e injustiça automatizada; existe um terceiro caminho onde a tecnologia serve à lei, em vez de substituí-la.