Upholding Epistemic Agency: A Brouwerian Assertibility Constraint for Responsible AI

Il paper propone un vincolo di assertibilità ispirato a Brouwer per l'IA responsabile, che in contesti ad alto rischio obbliga i sistemi a restituire "Indeterminato" se non possono fornire un certificato pubblico e contestabile di legittimità, preservando così l'agenzia epistemica umana attraverso un'interfaccia a tre stati che separa l'entitlement interno dalla posizione pubblica.

L'essenziale

Ecco una spiegazione semplice e creativa di questo articolo, pensata per chiunque, senza bisogno di essere esperti di informatica o filosofia.

Il Titolo: "Non dire 'Sì' o 'No' se non hai la prova in tasca"

Immagina che l'Intelligenza Artificiale (IA) sia come un giornalista molto veloce e molto sicuro di sé, che scrive articoli su qualsiasi cosa. Il problema è che questo giornalista, per quanto veloce, a volte inventa dettagli o si basa su voci di corridoio, ma parla con un tono così convincente che tutti lo credono.

In un mondo democratico, se questo giornalista dice "Il Ministro è corrotto" o "Questa medicina è sicura", sta prendendo una decisione che cambia la vita delle persone. Se sbaglia, fa danni enormi.

L'autore di questo articolo, Michael Jülich, dice: "Basta con le risposte sicure basate solo su un 'sento che è vero'".

Ecco la sua soluzione, spiegata con tre metafore semplici:

1. Il "Biglietto d'Imbarco" (La Certificazione)

Immagina che per dire una cosa importante, l'IA non possa semplicemente aprire la bocca. Deve prima mostrare un biglietto d'imbarco (una "certificazione").

• Senza biglietto: Se l'IA non ha un documento verificabile che provi la sua affermazione (come un contratto firmato, una perizia ufficiale, o un calcolo matematico che non lascia dubbi), non può parlare.
• Con biglietto: Se ha il documento, può dire "Sì" o "No".

Questo biglietto non è una semplice "percentuale di sicurezza" (come dire "sono al 90% sicuro"). È una prova concreta che chiunque può controllare. Se non c'è la prova, l'IA deve tacere.

2. I Tre Volti dell'IA: Sì, No, e "Non lo so ancora"

Attualmente, le IA sono addestrate per dare sempre una risposta: o "Sì" o "No". È come un semaforo che ha solo verde e rosso, mai giallo.

L'autore propone di aggiungere il Giallo (o "Indeterminato").
L'IA avrà tre stati possibili:

1. Sì (Asserto): "Ho la prova. Posso dirlo."
2. No (Negato): "Ho la prova che è falso. Posso dirlo."
3. Non lo so ancora (Indeterminato): "Non ho ancora la prova sufficiente. Non posso decidere."

Perché il "Non lo so" è importante?
Perché è meglio dire "Non lo so ancora" e aspettare che arrivino nuove prove, piuttosto che inventare una risposta falsa per non sembrare indecisi. È come un giudice che dice: "Non ho abbastanza prove per condannare, quindi il caso rimane aperto" invece di condannare un innocente solo per chiudere il processo velocemente.

3. L'Analogia del "Costruttore di Case"

L'autore si ispira a un matematico di nome L.E.J. Brouwer. La sua idea è che la verità non è qualcosa che "esiste già là fuori" pronta per essere trovata, ma qualcosa che dobbiamo costruire.

• L'IA classica: È come un architetto che guarda una casa e dice: "Sembra solida, quindi è solida!" (anche se non ha controllato le fondamenta).
• L'IA secondo questo articolo: È come un architetto che dice: "Posso dire che la casa è solida solo se posso mostrarti i calcoli ingegneristici che provano che le fondamenta reggono. Se non riesco a mostrarti i calcoli, devo dire: 'Non posso garantire che sia solida'".

Perché tutto questo ci riguarda? (La parte umana)

Il punto più profondo dell'articolo è che l'IA non deve toglierci il pensiero critico.

Se un'IA ci dà sempre risposte definitive e sicure, noi umani smettiamo di chiederci: "È vero? Come lo sa?". Diventiamo passivi, come bambini che credono a tutto ciò che dice un adulto.

L'autore vuole che l'IA ci costringa a rimanere adulti.

• Quando l'IA dice "Non lo so ancora" e mostra il motivo (es. "Mancano documenti ufficiali"), ci sta dicendo: "Ehi, non è ancora il momento di decidere. Andate a cercare altre prove, fate un'inchiesta, discutete tra voi."

In questo modo, l'IA non sostituisce il nostro giudizio, ma ci aiuta a fare le domande giuste.

In sintesi: Cosa cambia nella vita reale?

Immagina un futuro in cui chiedi a un'assistente virtuale: "Il mio candidato politico ha rubato dei soldi?"

• Oggi (IA classica): "Probabilmente sì, basandomi su quello che ho letto online." (Risposta fluida, ma potenzialmente falsa).
• Domani (IA con "Vincolo Brouweriano"): "Non posso dirlo. Attualmente non ci sono prove ufficiali verificabili che formino un 'certificato' di colpevolezza. Ci sono solo voci. Quindi la mia risposta è: Indeterminato. Ecco i documenti che mancano per poterlo affermare con certezza."

La Conclusione Creativa

L'articolo ci invita a vedere l'IA non come un oracolo che sa tutto, ma come un assistente responsabile.
Come dice l'autore citando un filosofo: l'educazione serve a imparare a riconoscere quando qualcuno (o qualcosa) sta "dicendo sciocchezze".

Questa nuova regola per l'IA ci dice: "Nessuna prova, nessuna sentenza."
È un modo per proteggere la nostra democrazia, assicurandoci che le macchine non ci diano risposte definitive su cose che la società deve ancora discutere e verificare insieme. L'IA diventa così uno strumento per costruire la verità insieme, passo dopo passo, invece di imporci una verità finta e veloce.

Sommario tecnico

Ecco un riassunto tecnico dettagliato del paper "Upholding Epistemic Agency: A Brouwerian Assertibility Constraint for Responsible AI" di Michael Jülich, redatto in italiano.

1. Il Problema: L'Erosione dell'Agente Epistemico

Il paper affronta la crisi dell'agente epistemico (la capacità degli individui di riconoscere, valutare e agire sulla conoscenza) nel contesto dell'IA generativa.

• Il rischio: I sistemi di IA tendono a trasformare l'incertezza probabilistica in verdetto autorevoli, spostando il lavoro di giustificazione lontano dai cittadini. Questo fenomeno, descritto come "paradossale" o "bullshit frankfurtiano", mina la deliberazione democratica, specialmente in domini ad alto rischio (salute, diritto, politica, libertà).
• Il limite attuale: Le attuali tecniche di quantificazione dell'incertezza (es. conformal prediction, entropia semantica) forniscono intervalli di previsione o opzioni di rifiuto basate sulla confidenza, ma non stabiliscono una norma normativa che distingua tra un'affermazione giustificata e una fluentemente errata. Un sistema può essere "calibrato" ma comunque privo di fondamento epistemico per affermare qualcosa categoricamente.
• La domanda centrale: Quali standard epistemici deve soddisfare un'IA responsabile per rimanere razionalmente accettabile in condizioni di profonda incertezza, senza erodere la responsabilità democratica?

2. Metodologia: Costruttivismo Matematico e Intuizionismo

L'autore propone una soluzione basata sull'Intuizionismo Matematico di L.E.J. Brouwer, adattandolo come vincolo progettuale per l'IA.

• Il Principio di Brouwer: La verità non è una proprietà preesistente di un oggetto, ma il risultato di una costruzione (una prova o un processo dimostrativo). Un'affermazione è assertibile solo se esiste una costruzione verificabile che la giustifichi.
• Rifiuto del Terzo Escluso (LEM): In assenza di una prova costruttiva, una proposizione non è né vera né falsa, ma semplicemente indeterminata.
• Traduzione nell'IA:
  • L'IA non deve trattare le uscite come verità "in principio" basate su pattern statistici.
  • L'assertibilità è vincolata alla disponibilità di un witness (testimone) costruttivo e verificabile.
  • Viene introdotta una distinzione tra entitlement interno (basato su calcoli verificabili e limiti) e standing pubblico (basato su prove, provenienza e standard istituzionali).

3. Contributi Chiave e Architettura Tecnica

A. Il Vincolo di Assertibilità Brouweriano

La proposta centrale è un vincolo normativo: "Nessun certificato, nessun verdetto categorico".
In domini ad alto rischio, un sistema AI può affermare (Asserted) o negare (Denied) una claim solo se può fornire un certificato pubblicamente ispezionabile e contestabile. In caso contrario, deve restituire lo stato Undetermined (Indeterminato).

B. Semantica a Tre Stati (A/D/U)

L'interfaccia del sistema non restituisce valori di verità o livelli di confidenza, ma stati di diritto all'assertibilità (warrant-status):

1. Asserted (A): Il sistema è entitled ad affermare la claim perché possiede un certificato che "forza" la decisione (es. un limite inferiore superiore alla soglia).
2. Denied (D): Il sistema è entitled a negare la claim perché un certificato forza la negazione.
3. Undetermined (U): Nessun certificato disponibile forza né l'affermazione né la negazione. Questo non è un'opzione di rifiuto opzionale (reject option), ma un obbligo morale e tecnico quando manca la prova costruttiva.

C. Il Certificato come Oggetto Limite (Boundary Object)

Il certificato ($\kappa$) funge da ponte tra due regimi:

• Regime Interno ($\langle R, t_{int} \rangle$): Definisce i limiti computazionali, le approssimazioni numeriche (es. intervalli costruttivi, margini di separazione) e la validità del "witness" matematico.
• Regime Pubblico ($\langle S, \tau, t \rangle$): Definisce gli standard di evidenza, le soglie ($\tau$) e il tempo del record pubblico ($t$).
  Il certificato deve soddisfare entrambi: un witness interno deve essere valido e soddisfare le condizioni di standing pubblico (provenienza, ambito di applicazione, contestabilità).

D. Lemma di Progettazione (Design Lemma)

L'autore dimostra un lemma fondamentale: Qualsiasi interfaccia binaria totale (A/D) che sia "certificate-sound" (fondata su certificati) implica la decidibilità del predicato implementato sul suo ambito dichiarato.

• Se un sistema è costretto a restituire solo A o D, e deve essere corretto secondo i certificati, allora deve esistere un procedimento decisionale che forza la verità.
• Poiché in molti domini reali (es. confronto di logit con margini stretti) tale forzatura non è disponibile, lo stato U è obbligatorio. Forzare un output binario in assenza di un witness è una "rappresentazione epistemica errata" (false certainty).

E. Implementazione Ibrida

Il paper propone un'architettura ibrida per l'implementazione pratica:

• Un core classico (es. LLM autoregressivo) genera flussi linguistici fluidi.
• Un wrapper costruttivo (Speech-Act Gate) valuta le uscite candidate.
• Il wrapper utilizza tecniche come Interval Bound Propagation (IBP), abstract interpretation o conformal prediction per generare limiti certificati.
• Se i limiti certificati "forzano" la soglia o la separazione tra classi, il wrapper rilascia A o D con il certificato. Altrimenti, blocca l'output categorico e restituisce U con un codice di motivo (es. U-MODEL per limiti non forzanti, U-EVIDENCE per mancanza di prove pubbliche).

4. Risultati e Caso di Studio

Il paper illustra il funzionamento attraverso un caso studio fittizio ("Tooth Social") su uno scandalo politico.

• Fase 1 (Indeterminata): Con prove iniziali sparse, i limiti certificati dell'IA straddano la soglia di decisione ($\tau$). Il sistema restituisce U, spiegando che non ha il diritto epistemico di affermare la corruzione, pur riconoscendo le accuse.
• Fase 2 (Affermata): Con nuove prove pubbliche (relazione del congresso), il record pubblico cambia. Il sistema ricalcola i limiti certificati, che ora superano la soglia. Il sistema passa allo stato A, fornendo il certificato che giustifica l'affermazione.
• Risultato: Il sistema mantiene l'agente epistemico umano attivo, costringendo l'utente a considerare le prove e i limiti della conoscenza attuale, invece di fornire un verdetto passivo e autorevole.

5. Significato e Implicazioni

• Etica e Politica: Il framework trasforma l'IA da "oracolo" a "partecipante responsabile" alla giustificazione pubblica. Impedisce che l'IA sostituisca il lavoro di deliberazione democratica con verdetto fluenti ma non giustificati.
• Sicurezza Epistemica: Lo stato U agisce come un "salvaguardia deliberativa", prevenendo la diffusione di disinformazione o pregiudizi mascherati da certezza statistica.
• Limiti e Compromessi: L'autore riconosce che questo approccio comporta costi computazionali elevati e tassi di astensione (U) più alti rispetto ai modelli classici. Tuttavia, in domini ad alto rischio, questo è un prezzo necessario per l'integrità epistemica.
• Visione Futura: Il paper invita a una "co-evoluzione" tra umani e macchine, dove l'educazione civica include la capacità di contestare i certificati delle IA, trasformando l'interazione uomo-macchina in un processo di "educazione per adulti" (citando Cavell).

In sintesi, il paper propone di sostituire la logica della confidenza statistica con quella della giustificazione costruttiva, rendendo l'IA responsabile non per la "verità" delle sue affermazioni, ma per la disponibilità di prove verificabili che ne legittimino l'assertibilità pubblica.