Administrative Law's Fourth Settlement: AI and the Scrutable State

Immaginate il governo come una macchina gigante e complessa progettata per risolvere grandi problemi, come sistemare il traffico, mantenere l'aria pulita o aiutare le persone quando si ammalano. Per molto tempo, le persone che gestiscono questa macchina (gli esperti nelle agenzie) hanno avuto un compito difficile. Devono essere super intelligenti e usare strumenti avanzati per risolvere problemi complicati, ma se diventano troppo intelligenti e usano strumenti troppo difficili da capire, la gente comune e i giudici che li controllano non riescono più a vedere cosa stia succedendo. È come un mago che tira fuori un coniglio dal cappello: se il trucco è troppo complesso, il pubblico inizia a chiedersi: "È reale? È giusto? Chi sta facendo davvero questo?".

Questo documento esplora un famoso problema del governo chiamato "trappola tra capacità e responsabilità" (capability-accountability trap). "Capacità" significa l'abilità del governo di svolgere lavori tecnici difficili. "Responsabilità" (accountability) significa la capacità del pubblico di comprendere e controllare quel lavoro. Per oltre un secolo, ogni volta che il governo è diventato più bravo a svolgere lavori difficili (come usare computer o statistica), è diventato più difficile per la gente comune capire come funzionasse. Per risolvere questo problema, il governo ha iniziato ad aggiungere molta burocrazia e regole (procedure) per dimostrare di essere onesto. Ma ora c'è così tanta burocrazia che il governo è lento, confuso e difficile da correggere. Il documento sostiene che il governo stia attualmente cercando di rimpicciolirsi per diventare più facile da comprendere, ma questo potrebbe renderlo troppo debole per risolvere nuovi e spaventosi problemi come il cambiamento climatico o le pandemie. La grande domanda è: possiamo usare un nuovo strumento chiamato Intelligenza Artificiale (IA) per rendere il governo sia super intelligente che super trasparente allo stesso tempo?

---

La storia dei dolori della crescita del governo

Questo documento racconta la storia di come il governo americano abbia cercato di gestire la propria potenza cerebrale negli ultimi 140 anni. Sostiene che ogni volta che arriva una nuova tecnologia, il governo ha uno "scatto di crescita" nella sua capacità di fare le cose, ma ha anche una "nebbia" che rende difficile per la gente comune vedere cosa stia succedendo.

I primi tre accordi (I vecchi modi)
L'autore ripercorre tre grandi momenti storici in cui il governo ha dovuto adattarsi:

1. L'era delle ferrovie: Quando i treni iniziarono a sfrecciare attraverso il paese, erano troppo veloci e complessi per i giudici locali. Il governo creò commissioni di esperti (come l'ICC) per gestirli. Per tenere sotto controllo questi esperti, la legge diceva: "Dovete tenere un registro e spiegare le vostre ragioni". Questo funzionò, ma diede inizio alla tendenza ad aggiungere sempre più regole.
2. La Grande Depressione: Quando l'economia crollò, il governo aveva bisogno di aiutare milioni di persone contemporaneamente. Utilizzarono nuovi strumenti statistici e macchine a schede perforate per gestire la Social Security e altri programmi. Ma poiché queste decisioni influenzavano tantissime persone, la gente comune non riusciva a capire la matematica. La soluzione fu l'Administrative Procedure Act (APA), che stabiliva: "Finché seguite i passaggi corretti e mantenete una traccia cartacea, siete a posto".
3. L'era del computer: Quando arrivarono i computer per gestire cose come l'inquinamento atmosferico o la sicurezza nucleare, i problemi divennero ancora più scientifici. Il governo iniziò a usare modelli complessi. I tribunali, rendendosi conto di non poter comprendere la scienza, decisero di controllare semplicemente se il governo seguisse le regole. Ciò portò alla famosa decisione Chevron, che sostanzialmente diceva: "Se la legge non è chiara, ci fidiamo degli esperti affinché trovino una soluzione, purché abbiano una buona ragione".

La crisi attuale: Lo "stato sedimentario"
Ora ci troviamo in una posizione strana. Il governo sta annegando nella burocrazia. Ogni volta che una nuova regola veniva aggiunta per rendere le cose giuste, si accumulava sopra alle precedenti, come strati di roccia sedimentaria. Questo "stato sedimentario" ha reso il governo lento e confuso.

• Il problema: Il governo è così intralciato dalle regole che non riesce a muoversi abbastanza velocemente per risolvere i nuovi problemi.
• La reazione negativa: Recentemente, la Corte Suprema e il Presidente hanno iniziato a smantellare queste agenzie di esperti. Stanno dicendo: "Non riusciamo a capire cosa stiano facendo questi esperti, quindi li rimpiccioliremo affinché siano visibili". Stanno rimuovendo le protezioni per gli esperti indipendenti e riportando più potere al Presidente o ai tribunali.
• Il rischio: Il documento avverte che questa è una cattiva idea. Rendendo il governo più piccolo e semplice solo per renderlo "scrutabile" (facile da vedere), potremmo perdere la capacità di risolvere i massicci e complessi problemi che affrontiamo oggi, come il cambiamento climatico o le nuove malattie.

La nuova soluzione: Il "Quarto Accordo" con l'IA

L'autore suggerisce che non dobbiamo scegliere tra un governo intelligente e uno trasparente. Potremmo averli entrambi, grazie all'Intelligenza Artificiale.

L'IA come "Traduttore" e "Torcia"
Il documento propone che l'IA possa agire come un tipo speciale di infrastruttura che rende comprensibile il lavoro complesso del governo senza renderlo semplice.

• Per il pubblico: Immaginate un chatbot che possa leggere una regola governativa di 200 pagine sull'inquinamento atmosferico e spiegarvela in un linguaggio semplice, dicendovi esattamente come influenza la vostra famiglia.
• Per i giudici: Immaginate uno strumento che possa leggere migliaia di commenti su una regola e riassumere i punti principali, o controllare se la matematica del governo torna effettivamente ai conti.
• L'obiettivo: Invece di controllare solo se il governo ha seguito una lista di controllo (procedura), l'IA potrebbe aiutarci a controllare se il governo stia effettmente facendo la cosa giusta (sostanza).

Le tre nuove regole per un governo basato sull'IA
Per far sì che ciò funzioni, il documento suggerisce tre nuove regole su come il governo dovrebbe usare l'IA:

1. Il "Dossier del Modello e del Sistema" (La carta d'identità): Ogni volta che un'agenzia utilizza un sistema di IA, deve conservare una "carta d'identità" dettagliata per esso. Questo documento spiegherebbe cosa dovrebbe fare l'IA, come è stata testata, quali errori potrebbe commettere e chi ne è responsabile. È come un'etichetta nutrizionale per un algoritmo governativo.
2. Il trigger del "Cambiamento del Modello Materiale" (L'avviso di aggiornamento): I sistemi di IA cambiano e imparano nel tempo. Il documento afferma che se un sistema di IA cambia in un modo che altera significativamente le sue decisioni (come cambiare il modo in cui approva i sussidi per la disabilità), il governo deve annunciarlo e spiegarne il motivo. È come se il motore di un'auto iniziasse improvvisamente a funzionare diversamente; vorresti saperlo prima di guidarla.
3. Deferenza all'Audit (La regola del "fidati ma verifica"): Inve invece di far sì che i giudici cerchino di comprendere la matematica complessa dietro una decisione dell'IA, dovrebbero controllare se l'agenzia ha assunto esperti indipendenti per "auditare" l'IA. Se l'agenzia può dimostrare: "Abbiamo testato questo strumento a fondo, ed ecco la prova che funziona equamente", i tribunali dovrebbero fidarsi. Questo sposta l'attenzione da "Hai seguito la burocrazia?" a "Hai provato che il tuo strumento è sicuro ed equo?".

Perché questo è importante
Il documento sostiene che questo approccio potrebbe rompere la "trappola" che ha tenuto in ostaggio il governo per un secolo.

• Suggerisce che l'IA potrebbe abbassare il costo della comprensione. Attualmente, comprendere una decisione governativa complessa è difficile e costoso. L'IA potrebbe rendere tutto economico e facile.
• Suggerisce che potremmo eventualmente passare dal semplice controllo della burocrazia al controllo se l'IA sia effettivamente allineata con gli obiettivi del pubblico.
• Avverte che questo non è un rimedio magico. Se l'IA è parziale (biased), o se il governo la usa per nascondere decisioni sbagliate (un problema chiamato "lavaggio dei valori" o value laundering), abbiamo bisogno di regole rigide per fermarlo.

Cosa il documento NON dice
Il documento è attento a non promettere che l'IA risolverà tutto da sola dall'oggi al domani.

• Non dice che l'IA sostituirà i giudici umani o i politici. Gli esseri umani devono ancora prendere le decisioni finali sulle grandi questioni morali.
• Non afferma che l'IA sia attualmente perfetta nel spiegare se stessa. La tecnologia è ancora in fase di sviluppo e ci sono rischi come le "allucinazioni" (quando l'IA inventa fatti).
• Non sostiene che dovremmo interrompere immediatamente tutte le vecchie regole. Al contrario, suggerisce di usare l'IA per far funzionare meglio le regole e con meno dolore.

Il quadro generale

La storia qui è una di speranza mista a cautela. Il governo è attualmente bloccato in un ciclo in cui cerca di risolvere la propria complessità rendendosi più piccolo, il che potrebbe lasciarci vulnerabili alle crisi future. L'autore suggerisce una strada diversa: usare l'Intelligenza Artificiale non solo per fare il lavoro, ma per far luce sul lavoro. Creando un nuovo insieme di regole che richiedano trasparenza, test e audit degli strumenti di IA, potremmo costruire un governo abbastanza intelligente da gestire il futuro, ma abbastanza chiaro da essere compreso da tutti. È un "Quarto Accordo" che cerca di avere la meglio su entrambi i fronti: un governo che sia sia capace che responsabile.