Retrofitters, pragmatists and activists: Public interest litigation for accountable automated decision-making

Questo articolo esamina il ruolo della litigazione di interesse pubblico nel promuovere la responsabilità dell'automazione decisionale in Australia, presentando strategie pragmatiche di "adattamento legale" e identificando le necessarie strutture istituzionali per superare i limiti attuali del sistema giuridico.

L'essenziale

Immaginate di vivere in un mondo dove le decisioni che cambiano la vostra vita – chi ottiene un prestito, chi viene licenziato, chi riceve un sussidio statale – non sono prese da un essere umano con un cuore e una coscienza, ma da un "cervello digitale" invisibile. Questo cervello è un algoritmo, un codice scritto da qualcuno che spesso non conosciamo.

A volte, questi cervelli digitali sbagliano. Si comportano come un bambino che ha imparato a contare ma non ha mai imparato la compassione: sono veloci, ma crudeli. In Australia, sistemi come il "Robodebt" (un sistema automatico che ha accusato ingiustamente migliaia di persone di aver ricevuto troppi sussidi) hanno causato danni enormi.

Questo articolo è come una mappa del tesoro per chi vuole combattere queste ingiustizie. Gli autori, Henry Fraser e Zahra Stardust, hanno parlato con avvocati, attivisti e studiosi per capire come usare la legge esistente per fermare questi errori, anche quando non ci sono nuove leggi specifiche contro l'intelligenza artificiale.

Ecco i concetti chiave spiegati con parole semplici e metafore:

1. Il "Retrofitting": Adattare vecchi attrezzi a nuovi lavori

Immaginate di dover riparare una casa moderna piena di robot, ma avete solo gli attrezzi di un falegname del 1800: martelli, seghe e chiodi. Non avete un laser o una stampante 3D. Cosa fate? Usate il martello in modo creativo.

Gli avvocati intervistati chiamano questo "retrofitting". Non possono aspettare che il governo scriva nuove leggi per l'AI (che ci vorrebbe anni). Invece, prendono leggi vecchie di decenni (come le leggi sulla proprietà, sulla privacy o sulla negligenza) e le "adattano" per coprire i danni causati dagli algoritmi.

• Esempio: Se un algoritmo ruba i dati di qualcuno, non c'è una legge specifica sull'AI, ma c'è una legge sulla violazione della privacy. Usano quella legge vecchia per colpire il nuovo problema.

2. La "Pezza" e il "Bottone" (Bolt-ons)

A volte, per far passare una nuova idea in un processo legale, devi cucirla su un abito vecchio.

• La strategia: Un avvocato potrebbe portare in tribunale una causa per un danno privato (es. "Mi hanno rubato i dati") e, come un "bottone" aggiunto all'abito, inserire anche un argomento di interesse pubblico (es. "Questo algoritmo discrimina tutti i poveri").
• Perché funziona? Anche se la causa privata vince solo per il singolo, il "bottone" pubblico costringe il giudice a guardare il problema più grande, creando un precedente per tutti.

3. Il "Cervello" e il "Cuore" (I limiti della legge)

La legge è come un cervello molto logico ma un po' lento. Capisce bene i danni individuali (es. "Hai perso 100 euro"), ma fatica a capire i danni collettivi o invisibili (es. "Questo sistema rende la società più razzista in modo sottile").

• Il problema: Spesso, per vincere in tribunale, devi dimostrare che qualcuno ha avuto l'intenzione di fare del male (come un umano arrabbiato). Ma un algoritmo non è "arrabbiato", è solo programmato male. È difficile provare la "malvagità" di un computer.
• La soluzione pragmatica: Gli avvocati devono scegliere le battaglie dove la legge è più flessibile, come la "negligenza" (aver fatto un lavoro male), che non richiede di dimostrare l'odio, ma solo l'errore.

4. Il costo della battaglia (Il "processo è la punizione")

Andare in tribunale è costoso, stressante e lungo. È come scalare una montagna con uno zaino pieno di pietre.

• Il problema: Le persone più colpite dagli algoritmi (i poveri, i marginalizzati) spesso non hanno i soldi o la forza per scalare quella montagna.
• La soluzione: Serve un "sistema di supporto" (come un'assicurazione o un fondo pubblico) che paghi le spese legali e protegga chi fa causa dal dover pagare le spese dell'avversario se perde. Senza questo, la giustizia è solo per i ricchi.

5. La "Torcia" della Trasparenza

Immaginate di dover combattere un mostro che vive al buio. Non potete colpirlo se non vedete dove si trova.

• Il problema: Gli algoritmi sono "scatole nere". Le aziende dicono: "È un segreto industriale", e il governo dice: "È troppo complesso".
• La soluzione: Serve trasparenza. Non significa che ogni cittadino deve capire il codice, ma che ricercatori, giornalisti e avvocati devono poter vedere come funziona il sistema. Solo se accendiamo una "torcia" e vediamo il mostro, possiamo preparare la strategia per sconfiggerlo.

6. La "Rete" (Non si vince da soli)

Nessuno può vincere questa battaglia da solo. Serve una rete di supporto.

• Immaginate una squadra di calcio: ci sono gli attaccanti (gli avvocati), i difensori (gli attivisti), i tecnici (gli esperti di informatica) e i tifosi (la comunità).
• Se un avvocato non sa come funziona un algoritmo, ha bisogno di un tecnico. Se un tecnico vede un errore, ha bisogno di un avvocato per denunciarlo. Se la comunità non sa cosa sta succedendo, nessuno si muove.
• Gli autori suggeriscono di creare "hackathon" (maratone di idee) dove queste persone si incontrano per costruire strategie insieme.

In sintesi: Cosa ci dice questo articolo?

L'articolo ci dice che non dobbiamo aspettare che il governo ci salvi con nuove leggi perfette. Dobbiamo essere "retrofitter" (adattatori), "sarti" (che cuciono nuove soluzioni su vecchie leggi) e "giocatori di squadra".

La giustizia per l'automazione non arriverà con un singolo miracolo, ma con una serie di piccoli passi:

1. Usare le leggi vecchie in modo creativo.
2. Unire le forze tra avvocati, tecnici e comunità.
3. Chiedere trasparenza per vedere cosa succede "dietro le quinte".
4. Creare un sistema che permetta alle persone comuni di combattere senza fallire economicamente.

È un invito a non arrendersi: anche se il sistema è complesso e spesso ingiusto, con ingegno, collaborazione e un po' di coraggio, possiamo usare la legge come uno scudo e una spada per proteggere le persone dalle macchine che sbagliano.

Sommario tecnico

Titolo: Retrofitter, pragmatisti e attivisti: Litigio di interesse pubblico per l'automated decision-making (ADM) responsabile

Autori: Henry Fraser e Zahra Stardust (Queensland University of Technology)

---

1. Il Problema

Il documento affronta la crescente mancanza di responsabilità (accountability) nei confronti dei sistemi di Decisione Automatizzata (ADM) e dell'Intelligenza Artificiale (AI) utilizzati dal governo e dalle aziende in Australia.

• Contesto: Sistemi come Robodebt (Australia), SyRI (Paesi Bassi) e MiDAS hanno causato danni diffusi a centinaia di migliaia di persone vulnerabili, spesso basandosi su algoritmi opachi e privi di empatia.
• Vuoto Normativo: Nonostante l'esistenza di leggi esistenti, la regolamentazione specifica per l'AI è bloccata da ostacoli politici e geopolitici (es. pressioni per la deregolamentazione da parte degli USA, stallo delle proposte di "guardrail obbligatori" in Australia).
• Limiti delle Strade Alternative: Mezzi di accountability come i rapporti dei media, le inchieste dell'Ombudsman o le commissioni parlamentari si sono rivelati spesso insufficienti a fermare l'ingiustizia sistemica.
• La Sfida Legale: Il sistema legale australiano manca di una Carta dei Diritti Federale e le leggi esistenti (come quelle sulla discriminazione) sono spesso inadeguate o "retroattive" rispetto alle nuove tecnologie, rendendo difficile per le vittime ottenere giustizia.

2. Metodologia

Lo studio adotta un approccio di ricerca applicata sociale ispirato alla action research, con l'obiettivo di generare cambiamenti nel mondo reale.

• Campione: Sono stati intervistati 20 partecipanti selezionati tramite campionamento a valanga (snowball sampling) e reti professionali. Il gruppo includeva avvocati (barristers e solicitors), accademici di diritto tecnologico, attivisti per le politiche tecnologiche e consulenti di organizzazioni di consumatori (es. CHOICE, Digital Rights Watch).
• Raccolta Dati: Interviste semi-strutturate di un'ora, registrate e trascritte. I partecipanti hanno avuto la possibilità di revisionare le trascrizioni per chiarezza e riservatezza.
• Analisi: È stata condotta un'analisi tematica qualitativa dei dati (secondo Braun e Clarke), con codici organizzati attorno a temi di sfide, opportunità, barriere e abilitatori per il litigio di interesse pubblico.
• Focus: L'analisi si concentra su come gli attori legali e sociali navigano l'ecosistema giuridico attuale per affrontare i danni causati dall'ADM.

3. Contributi Chiave

Il contributo principale del paper è l'aggregazione e l'organizzazione di insight originali su strategie e tattiche pragmatiche per il litigio di interesse pubblico relativo all'ADM.

• Il Concetto di "Retrofitting": Il paper introduce e definisce il concetto di "retrofitting legale": l'adattamento creativo di leggi vecchie (common law, principi di equità, leggi sulla proprietà) a nuove circostanze tecnologiche, poiché non esistono leggi specifiche pronte all'uso.
• Litigio come Ecosistema: Posiziona il litigio non come soluzione isolata, ma come parte integrante di un ecosistema più ampio che include attivismo, advocacy politica e riforma legislativa.
• Mappatura delle Strategie: Documenta come i litiganti trasformino casi privati in strumenti di cambiamento sistemico, anche quando perdono in tribunale, utilizzando la causa per esporre lacune legislative e mobilitare l'opinione pubblica.

4. Risultati e Strategie Identificate

L'analisi ha rivelato diverse strategie pragmatiche e limiti strutturali:

A. Strategie e Tattiche:

• Retrofitting delle Leggi: Gli avvocati adattano cause d'azione esistenti (es. violazione della confidenza, negligenza, arricchimento ingiustificato) per coprire i danni digitali. Ad esempio, l'uso del diritto di proprietà per contestare la confisca di telefoni nei centri di detenzione.
• Scelta Strategica dei Clienti e delle Cause: Selezione di casi che si prestano bene al "retrofitting" (es. danni con risarcimento monetario) per attrarre finanziatori privati.
• Allineamento degli Incentivi: Creazione di sinergie tra interessi privati (risarcimento per il cliente) e pubblici (sviluppo del diritto). L'uso di risarcimenti monetari è cruciale per incentivare i finanziatori di cause legali (litigation funders).
• Tattica dei "Bolt-on" (Aggiunte): Aggiunta di argomentazioni di interesse pubblico o nuove teorie legali a casi più conservatori per testare i limiti della legge senza mettere a rischio il caso principale del cliente.
• Litigio come Strumento di Trasparenza: Anche in caso di sconfitta, il processo di discovery e la raccolta di prove durante il litigio possono esporre dati e meccanismi nascosti, fungendo da strumento di trasparenza.

B. Limiti e Barriere:

• Barriere all'Accesso alla Giustizia: I costi legali, il rischio di ordini di pagamento delle spese avversarie (adverse costs orders) e lo stress emotivo scoraggiano le persone già marginalizzate dal fare causa.
• Cultura Legale Conservatrice: La difficoltà di provare la discriminazione algoritmica (che spesso manca di "intento" umano) e la riluttanza dei giudici ad applicare leggi vecchie a contesti nuovi.
• Rischio di Consolidamento dell'Ingiustizia: Il rischio che accordi privati (settlement) risolvano casi individuali ma nascondano i problemi sistemici, impedendo riforme legislative.

C. Abilitatori Necessari (Enablers):
Per rendere efficace il litigio di interesse pubblico, il paper identifica tre condizioni essenziali:

1. Trasparenza: Necessità di un flusso di informazioni lungo tutto il ciclo di vita dell'accountability (dalla progettazione dell'algoritmo alla decisione finale) per permettere l'identificazione dei danni.
2. Reti e Aggregazione delle Informazioni: Creazione di reti per aggregare reclami frammentati e identificare pattern sistemici (es. "hackathon" legali, centri di assistenza legale specializzati).
3. Sostegno Finanziario: Riforma del sistema dei costi (es. ordini di protezione dei costi o esenzioni per il litigio di interesse pubblico contro il governo) e finanziamento robusto per le organizzazioni della società civile.

5. Significato e Implicazioni

• Per la Dottrina e la Pratica: Il paper offre una guida pratica per avvocati e attivisti su come navigare un sistema legale inadeguato, spostando il focus dalla ricerca di una legge perfetta all'uso strategico di quelle esistenti.
• Per i Policy Maker: Evidenzia l'urgenza di implementare le proposte di "guardrail obbligatori" per l'AI ad alto rischio e di riformare le leggi sulla discriminazione indiretta per renderle applicabili agli algoritmi.
• Per la Società Civile: Sottolinea che il litigio da solo non basta; deve essere integrato in movimenti sociali più ampi. La giustizia per i danni algoritmici richiede un ecosistema che supporti la trasparenza, la raccolta dati e la solidarietà tra le comunità colpite.
• Conclusione: In un contesto di incertezza normativa, il litigio di interesse pubblico rimane uno strumento vitale, ma deve evolvere da semplice strumento di risoluzione delle controversie a motore di cambiamento sistemico, supportato da infrastrutture di finanziamento e conoscenza condivisa.