Administrative Law's Fourth Settlement: AI and the Scrutable State

Imagine o governo como uma máquina gigante e complexa projetada para resolver grandes problemas, como corrigir o trânsito, manter o ar limpo ou ajudar as pessoas quando ficam doentes. Por muito tempo, as pessoas que administram essa máquina (os especialistas em agências) tiveram um trabalho difícil. Elas precisam ser superinteligentes e usar ferramentas avançadas para resolver questões complicadas, mas se ficarem inteligentes demais e usarem ferramentas difíceis de entender, as pessoas comuns e os juízes que as vigiam não conseguirão ver o que está acontecendo. É como um mágico tirando um coelho de dentro de um chapéu: se o truque for complexo demais, o público começa a se perguntar: "Isso é real? É justo? Quem está realmente fazendo isso?"

Este artigo explora um problema famoso no governo chamado "armadilha da capacidade-responsabilidade" (capability-accountability trap). "Capacidade" significa a habilidade do governo de realizar trabalhos técnicos difíceis. "Responsabilidade" (accountability) significa a capacidade do público de entender e fiscalizar esse trabalho. Durante mais de um século, sempre que o governo melhorou sua capacidade de realizar trabalhos difíceis (como usar computadores ou estatísticas), tornou-se mais difícil para as pessoas comuns entenderem como ele funcionava. Para corrigir isso, o governo começou a adicionar muito papelada e regras (procedimentos) para provar que estava sendo honesto. Mas agora, há tanta papelada que o governo é lento, confuso e difícil de consertar. O artigo argumenta que o governo está atualmente tentando diminuir a si mesmo para se tornar mais fácil de entender, mas isso pode torná-lo fraco demais para resolver novos e assustadores problemas, como as mudanças climáticas ou pandemias. A grande questão é: Podemos usar uma nova ferramenta chamada Inteligência Artificial (IA) para tornar o governo superinteligente e, ao mesmo tempo, supertransparente?

---

A História das Dores de Crescimento do Governo

Este artigo conta a história de como o governo americano tentou gerenciar sua própria capacidade intelectual nos últimos 140 anos. Ele argumenta que toda vez que uma nova tecnologia chega, o governo tem um "estirão de crescimento" em sua capacidade de fazer coisas, mas também ganha uma "névoa" que torna difícil para as pessoas comuns verem o que está acontecendo.

Os Três Primeiros Acordos (Os Velhos Modos)
O autor traça três momentos importantes na história em que o governo teve que se adaptar:

1. A Era das Ferrovias: Quando os trens começaram a cruzar o país com velocidade, eles eram rápidos e complexos demais para os juízes locais entenderem. O governo criou comissões de especialistas (como a ICC) para gerenciá-los. Para manter esses especialistas sob controle, a lei dizia: "Você deve manter um registro e explicar seus motivos". Isso funcionou, mas iniciou uma tendência de adicionar cada vez mais regras.
2. A Grande Depressão: Quando a economia quebrou, o governo precisou ajudar milhões de pessoas ao mesmo tempo. Eles usaram novas ferramentas estatísticas e máquinas de cartões perfurados para gerenciar a Segurança Social e outros programas. Mas, como essas decisões afetavam tantas pessoas, o cidadão comum não conseguia entender a matemática. A solução foi a Lei do Procedimento Administrativo (APA), que dizia: "Contanto que você siga as etapas corretas e mantenha um rastro de papel, você está em conformidade".
3. A Era do Computador: Quando os computadores chegaram para lidar com coisas como poluição do ar e segurança nuclear, os problemas tornaram-se ainda mais científicos. O governo começou a usar modelos complexos. Os tribunais, percebendo que não consegravam entender a ciência, decidiram apenas verificar se o governo seguia as regras. Isso levou à famosa decisão Chevron, que basicamente dizia: "Se a lei não estiver clara, confiaremos nos especialistas para resolver, desde que eles tenham um bom motivo".

A Crise Atual: O "Estado Sedimentar"
Agora, estamos em um lugar estranho. O governo está afogado em papelada. Cada vez que uma nova regra era adicionada para tornar as coisas justas, ela se acumulava sobre as antigas, como camadas de rocha sedimentar. Este "estado sedimentar" tornou o governo lento e confuso.

• O Problema: O governo está tão sobrecarregado de regras que não consegue se mover rápido o suficiente para resolver novos problemas.
• A Reação: Recentemente, a Suprema Corte e o Presidente começaram a desmantelar essas agências de especialistas. Eles estão dizendo: "Não conseguimos entender o que esses especialistas estão fazendo, então vamos diminuí-los para um tamanho que possamos enxergar". Eles estão removendo proteções para especialistas independentes e devolvendo mais poder ao Presidente ou aos tribunais.
• O Risco: O artigo alerta que isso é uma má ideia. Ao tornar o governo menor e mais simples apenas para torná-lo "escrutinável" (fácil de ver), podemos perder a capacidade de resolver os problemas massivos e complexos que enfrentamos hoje, como as mudanças climáticas ou novas doenças.

A Nova Solução: O "Quarto Acordo" com a IA

O autor sugere que não precisamos escolher entre um governo inteligente e um governo transparente. Podemos ter ambos, graças à Inteligência Artificial.

A IA como "Tradutora" e "Lanterna"
O artigo propõe que a IA pode atuar como um tipo especial de infraestrutura que torna o trabalho complexo do governo compreensível sem torná-lo simples.

• Para o Público: Imagine um chatbot que possa ler uma regra governamental de 200 páginas sobre poluição do ar e explicá-la para você em linguagem simples, dizendo exatamente como ela afeta sua família.
• Para os Juízes: Imagine uma ferramenta que possa ler milhares de comentários sobre uma regra e resumir os pontos principais, ou verificar se a matemática do governo realmente faz sentido.
• O Objetivo: Em vez de apenas verificar se o governo seguiu um checklist (procedimento), a IA poderia nos ajudar a verificar se o governo está realmente fazendo a coisa certa (substância).

As Três Novas Regras para um Governo de IA
Para que isso funcione, o artigo sugere três novas regras para como o governo deve usar a IA:

1. O "Dossiê do Modelo e do Sistema" (O Cartão de Identidade): Toda vez que uma agência usar um sistema de IA, ela deve manter um "cartão de identidade" detalhado para ele. Este documento explicaria o que a IA deve fazer, como foi testada, quais erros pode cometer e quem é o responsável por ela. É como um rótulo nutricional para um algoritmo governamental.
2. O Gatilho de "Mudança Material do Modelo" (O Alerta de Atualização): Sistemas de IA mudam e aprendem ao longo do tempo. O artigo diz que, se um sistema de IA mudar de uma forma que altere significamente suas decisões (como mudar a forma como aprova benefícios por invalidez), o governo deve anunciar isso e explicar o porquê. É como se o motor de um carro de repente começasse a funcionar de forma diferente; você gostaria de saber antes de dirigir.
3. Deferência à Auditoria (A Regra do Confie, mas Verifique): Em vez de juízes tentarem entender a matemática complexa por trás de uma decisão de IA, eles devem verificar se a agência contratou especialistas independentes para "auditar" a IA. Se a agência puder mostrar: "Testamos isso minuciosamente e aqui está a prova de que funciona de forma justa", os tribunais devem confiar nela. Isso muda o foco de "Você seguiu a papelada?" para "Você provou que sua ferramenta é segura e justa?".

Por que Isso Importa
O artigo argumenta que essa abordagem pode quebrar a "armadilha" que prendeu o governo por um século.

• Sugere que a IA pode reduzir o custo da compreensão. Atualmente, entender uma decisão governamental complexa é difícil e caro. A IA pode tornar isso barato e fácil.
• Sugere que podemos eventualmente nos afastar de apenas verificar a papelada e começar a verificar se a IA está realmente alinhada com os objetivos do público.
• Alerta que isso não é uma solução mágica. Se a IA for tendenciosa, ou se o governo a usar para esconder decisões ruins (um problema chamado "lavagem de valores" ou value laundering), precisamos de regras rígidas para impedir isso.

O que o Artigo NÃO Diz
O artigo é cuidadoso para não prometer que a IA resolverá tudo da noite para o dia.

• Não diz que a IA substituirá juízes ou políticos humanos. Humanos ainda devem tomar as decisões finais sobre questões morais importantes.
• Não afirma que a IA é atualmente perfeita em explicar a si mesma. A tecnologia ainda está em desenvolvimento e existem riscos como "alucinações" (onde a IA inventa fatos).
• Não defende que devamos parar todas as regras antigas imediatamente. Em vez disso, sugere usar a IA para fazer as regras funcionarem melhor e com menos dor.

O Quadro Geral

A história aqui é de esperança misturada com cautela. O governo está atualmente preso em um ciclo onde tenta corrigir sua complexidade tornando-se menor, o que pode nos deixar vulneráveis a crises futuras. O autor sugere um caminho diferente: usar a Inteligência Artificial não apenas para realizar o trabalho, mas para lançar luz sobre o trabalho. Ao criar um novo conjunto de regras que exijam transparência, testes e auditoria das ferramentas de IA, poderíamos construir um governo que seja inteligente o suficiente para lidar com o futuro, mas claro o suficiente para que todos entendam. É um "Quarto Acordo" que tenta ter o melhor dos dois mundos: um governo que é simultaneamente capaz e responsável.