Epistemic Subordination: Generative AI and the Infrastructure of Knowledge

Nel mondo moderno, facciamo sempre più affidamento sull'intelligenza artificiale per riassumere notizie, scrivere storie e rispondere a domande. Questi sistemi, noti come IA generativa, non si limitano a recuperare fatti da un database; imparano a prevedere quali parole dovrebbero venire dopo studiando enormi quantità di testi provenienti da internet. Questo processo crea un modello statistico del linguaggio umano, in cui il sistema apprende schemi basati su ciò che ha letto più spesso. Per decenni, gli esperti hanno temuto che questi sistemi potessero essere influenzati da pregiudizi (bias), ovvero che potessero favorire ingiustamente un gruppo di persone rispetto a un altro. L'assunto comune è stato che questo pregiudizio derivasse da errori specifici nei dati o dalle scelte compiute dai programmatori che costruiscono gli strumenti. Tuttavia, una nuova prospettiva suggerisce che il problema sia molto più profondo e strutturale. Non è solo che l'IA commetta errori; è che la base stessa del modo in cui l'IA comprende il mondo è costruita su un unico, dominante modo di pensare, rendendo tutti gli altri modi di conoscere simili a delle deviazioni.

Due studiosi di diritto, Gilad Abiri ed Emanuel Towfigh, sostengono che questo fenomeno, che chiamano subordinazione epistemica, rappresenti un cambiamento fondamentale nel modo in cui la conoscenza viene organizzata. Essi propongono che l'IA generativa faccia qualcosa che nessuna tecnologia precedente ha fatto: codifica il modo di conoscere della maggioranza come l'infrastruttura predefinita per tutta la conoscenza. In questo sistema, le assunzioni culturali, le lingue e gli stili di ragionamento della maggioranza globale diventano lo standard invisibile rispetto al quale tutto il resto viene misurato. Il danno non è semplicemente che l'IA produca risultati ingiusti, ma che essa costruisca una realtà statistica in cui le culture e le lingue minoritarie sono strutturalmente spinte verso il basso, non perché siano escluse, ma perché vengono assorbite e appiattite in una media singola e omogeneizzata. Gli autori dimostrano che questo problema unifica tre problemi separati spesso trattati come distinti: gli output discriminatori, le minacce alle culture minoritarie e l'indebolimento del dibattito democratico. Essi scoprono che questi non sono guasti casuali, ma il risultato inevitabile di come questi modelli vengono costruiti.

Il meccanismo dietro questa subordinazione si dispiega in tre fasi distinte, partendo dai dati stessi. La maggior parte dei modelli di IA è addestrata sulla totalità non strutturata dell'espressione umana disponibile su internet. Questo panorama digitale non è neutrale; è ampiamente dominato da contenuti in lingua inglese, prospettive occidentali e dai punti di vista delle popolazioni con l'istruzione e l'accesso necessari per pubblicare online. Quando un modello impara da questo corpus, non impara solo parole; impara le assunzioni culturali e i quadri normativi di quella maggioranza come suo default statistico. La seconda fase rende questo default irreversibile. Durante l'addestramento, i dati vengono compressi in miliardi di parametri statistici che non possono essere scompattati o ricondotti alle loro fonti originali. A differenza dei vecchi programmi informatici dove un programmatore poteva indicare una specifica regola che causava un pregiudizio, questi modelli sono opachi per progettazione. Il pregiudizio non risiede in una singola riga di codice o in una specifica variabile; è intrecciato nell'intera architettura del sistema.

La terza fase riguarda gli strumenti utilizzati per rendere questi sistemi di IA sicuri ed equi, noti come allineamento dei valori (value alignment). Tecniche come l'apprendimento per rinforzo tramite feedback umano regolano ciò che il modello dice per renderlo più cortese o meno dannoso. Tuttavia, gli autori sostono che questi strumenti cambino solo l'output, non la conoscenza sottostante. Quando gli sviluppatori cercano di forzare un modello a essere diversificato, i risultati possono essere assurdi, come la generazione di immagini di soldati nazisti di diverse etnie, perché il modello non possiede un vero framework per la diversità contestuale. Esso cerca semplicemente di sovrascrivere in modo grossolano un default statistico che non può comprendere veramente. Di conseguenza, il danno è prodotto al livello della costruzione, non al livello della risposta finale. Il modello non produce solo decisioni parziali; esso subordina intere forme di conoscenza e cultura trattandole come deviazioni da uno standard di cui non hanno fatto parte.

Questa realtà strutturale crea una crisi per le leggi esistenti progettate per proteggere le minoranze. Le leggi anti-discriminazione, ad esempio, funzionano confrontando una specifica decisione contro un parametro neutro. Se una banca rifiuta una richiesta di prestito basandosi su una regola specifica che danneggia un gruppo protetto, la legge può annullarla. Ma l'IA generativa non offre un bersaglio discreto del genere. L'output discriminatorio è il prodotto dell'intera architettura, non di una singola regola identificabile. La "decisione" è un'ipotesi probabilistica, i "criteri" sono miliardi di parametri invisibili e l' "entità" responsabile è una catena di sviluppatori e utilizzatori. Gli strumenti legali dell'intento e della causalità perdono la loro forza perché il danno non è un atto specifico di esclusione, ma una condizione di inclusione in cui i punti di vista minoritari vengono assorbiti e appiattiti.

La minaccia si estende ai diritti culturali e linguistici, che sono progettati per proteggere le istituzioni minoritarie dal dominio della maggioranza. Tradizionalmente, una scuola minoritaria poteva curare la propria biblioteca o scegliere il proprio programma per preservare la propria lingua e le proprie tradizioni. Il pregiudizio culturale in quelle tecnologie risiedeva nel contenuto, che poteva essere selezionato. L'IA generativa inverte questo processo. Il pregiudizio è nell'architettura stessa del modello. Una comunità minoritaria non può costruire il proprio modello di base perché il costo è di centinaia di milioni di dollari e i dati richiesti non esistono alla scala di internet per le lingue più piccole. Test recenti mostrano che anche i migliori modelli raggiungono un'alta precisione in inglese, ma calano significativamente in lingue come lo Swahili o lo Yoruba. Quando una scuola religiosa o un'aula in una lingua minoritaria utilizza un assistente di IA, importa un quadro normativo che decade verso un ragionamento laico e occidentale. La tecnologia penetra negli spazi istituzionali che tali diritti avrebbero dovuto proteggere, ristrutturando la conoscenza dall'interno in un modo che gli strumenti precedenti non hanno mai fatto.

Infine, questo fenomeno minaccia l'infrastruttura stessa della deliberazione democratica. Una democrazia sana dipende dalla disponibilità di quadri realmente diversificati per comprendere i problemi. Richiede che le persone siano esposte a punti di vista che non avrebbero scelto in anticipo. Tuttavia, se l'IA generativa diventa una fonte primaria di informazione, essa omogeneizza il campo epistemico. I quadri minoritari non vengono censurati; vengono assorbiti nei dati di addestramento del modello, ma sono strutturalmente subordinati nell'output. Il discorso pubblico non scomparirà, ma si svolgerà sempre più all'interno di un campo che è già stato appiattito verso la cultura mediana. I quadri giuridici progettati per proteggere il pluralismo di vedute, come le regole per la diversità dei media, presuppongono che la conoscenza diversificata esista indipendentemente e debba solo trovare un canale per raggiungere il pubblico. La subordinazione epistemica fa crollare questa assunzione, restringendo il campo da cui sorge il discorso diversificato.

Gli autori concludono che le attuali risposte legali sono strutturalmente incapaci di affrontare questo problema perché operano "a valle", regolando ciò che i sistemi di IA fanno piuttosto che come essi siano costruiti. Leggi come l'AI Act dell'Unione Europea o varie regolamentazioni statali si concentrano sull'applicazione dell'IA nell'assunzione o nel credito, o sulla sicurezza del prodotto finale. Esse non affrontano la composizione dei dati di addestramento o l'architettura del modello stesso. La tesi centrale del saggio è che proteggere il pluralismo epistemico richiede un orientamento regolatorio fondamentalmente diverso. La legge deve essere spinta a governare al livello dell'addestramento, plasmando la composizione dei dati, i metodi di allineamento e l'architettura del modello.

Questa non è solo una richiesta teorica; ricerche recenti suggeriscono che la capacità tecnica di intervenire è reale. Gli scienziati hanno proposto architetture modulari in cui un modello di base attinge da modelli più piccoli e specifici per ogni comunità per preservare prospettive distinte. Altri hanno dimostrato come costruire sistematicamente dati di addestramento culturalmente radicati per le lingue sottorappresentate, assicurando che la sfumatura sia preservata anziché appiattita. Esistono anche metodi per generare dati di addestramento sintetici che rappresentino specifiche prospettive culturali e per riprogettare il processo di allineamento affinché rappresenti una distribuzione completa dei valori umani anziché un singolo default. Sebbene queste proposte non siano soluzioni finite, esse dimostrano che la via tecnica percorribile esiste. Ciò che manca è la volontà politica e il quadro legale per richiedere e abilitare tali interventi. La sfida che ci attende è costruire leggi che possano raggiungere la costruzione del modello stesso, garantendo che l'infrastruttura della conoscenza non subordini la diversità che dichiara di servire.