🤖 machine learning

The Costs of Pretending That There Are Data-Generating Probability Distributions in the Social World

Il paper sostiene che l'assunzione di distribuzioni di probabilità generatrici dei dati nel mondo sociale sia un'illusione dannosa e propone di adottare quadri teorici alternativi focalizzati direttamente sulle popolazioni rilevanti, senza alterare sostanzialmente la teoria dell'apprendimento classico.

Autori originali: Benedikt Höltgen, Robert C. Williamson

Pubblicato 2026-04-23

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Benedikt Höltgen, Robert C. Williamson

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

🎲 Il Grande Inganno: Perché non esistono "Regole Segrete" nel mondo sociale

Immagina di essere in un casinò. Lanci una moneta o giri la ruota della roulette. In quel mondo, le cose sono semplici: c'è una probabilità "vera" e "oggettiva". La moneta ha il 50% di probabilità di uscire testa, la roulette ha una probabilità fissa per ogni numero. Se lanci la moneta un milione di volte, otterrai quasi esattamente il 50%. Qui, gli scienziati dei dati possono dire: "Abbiamo trovato la distribuzione generatrice di dati". È come se il casinò avesse un manuale segreto che dice esattamente come usciranno i numeri.

Ma il paper di Höltgen e Williamson ci dice una cosa sconvolgente:
Quando si tratta di persone (società, lavoro, crimini, prestiti bancari), quel manuale segreto non esiste.

Ecco perché, spiegato con delle metafore.

1. La Metafora del "Sacco di Palline" vs. Il "Mondo Reale"

Nella teoria classica del Machine Learning (ML), si immagina che i dati siano come palline estratte da un sacco gigante.

L'idea sbagliata: Si pensa che esista un "Sacco della Verità" che contiene tutte le persone del mondo, con le loro caratteristiche e il loro destino (es. chi farà il default sul prestito). Il nostro compito è solo guardare un po' di palline (i dati che abbiamo) e indovinare cosa c'è nel sacco.
La realtà: Nel mondo sociale, le persone non sono palline in un sacco. Sono come attori su un palcoscenico che cambiano scena ogni giorno.
- Se oggi guardi i dati di una persona, domani quella persona potrebbe aver cambiato lavoro, aver avuto un figlio, o essersi trasferita.
- Se provi a creare una "probabilità vera" per un gruppo di persone (es. "tutti gli uomini di 30 anni con un certo reddito"), ti accorgerai che questa probabilità cambia se guardi i dati di ieri, di oggi o di domani.
- Conclusione: Non stiamo scoprendo una verità nascosta come archeologi che trovano un vaso antico. Stiamo costruendo una storia su misura per i dati che abbiamo scelto di guardare.

2. L'Illusione dell'Oggettività (Il "Filtro Magico")

Perché ci piace pensare che esista una distribuzione di dati vera? Perché ci dà una scusa per non essere responsabili.

Immagina che un algoritmo rifiuti un prestito a una persona.

Con la mentalità sbagliata: L'algoritmo dice: "Non è colpa mia! Ho solo letto la 'Verità Matematica' che dice che questa persona ha un alto rischio. La matematica non mente, è oggettiva."
Con la mentalità corretta (quella del paper): L'algoritmo è come un cuoco. Il cuoco ha scelto quali ingredienti mettere nella zuppa (quali dati raccogliere), quanto sale mettere (quale modello usare) e quanto cuocere (per quanto tempo addestrare). Se la zuppa è salata o amara, è colpa della ricetta scelta dal cuoco, non della "natura della zuppa".

Dire che esiste una "distribuzione di dati vera" è come dire che la zuppa ha un sapore "oggettivo" che il cuoco ha solo misurato, invece di averlo creato. Questo nasconde le scelte umane e i pregiudizi dietro una maschera di matematica fredda.

3. Il Problema della "Fotografia Sgranata"

Gli autori mostrano un esempio pratico: se provi a prevedere il reddito delle persone usando dati di un anno, ottieni una certa previsione. Se usi dati di quattro anni, la previsione cambia per molte persone.

Metafora: È come se provassi a fare una foto di un'auto in corsa. Se scatti la foto con un tempo di esposizione di 1 secondo, l'auto è sfocata. Se la scatti con 0,1 secondi, è nitida. Ma l'auto non è "sfocata" o "nitida" di per sé: dipende da come hai impostato la tua macchina fotografica (il tuo modello).
Nel mondo sociale, non c'è una "foto perfetta" della realtà da catturare. Ci sono solo diverse foto scattate con diverse impostazioni.

4. Perché questo è pericoloso?

Se crediamo che esista una "Verità Matematica" da trovare:

Pensiamo di essere imparziali: "L'algoritmo è giusto perché segue i dati reali!" (Ma i dati reali sono stati scelti da noi!).
Ignoriamo le soluzioni migliori: Pensiamo che l'unico modo per migliorare sia raccogliere più dati (più palline dal sacco). Invece, spesso dovremmo cambiare la domanda o la prospettiva (cambiare la ricetta).
Giustifichiamo ingiustizie: Se un algoritmo discrimina, possiamo dire "è la realtà che è così", invece di chiederci: "Abbiamo scelto di guardare solo certi aspetti di questa persona ignorandone altri?".

💡 La Soluzione Proposta: Smetti di cercare il "Sacco", guarda la "Folla"

Gli autori non dicono di buttare via la matematica. Dicono solo di cambiare prospettiva.
Invece di dire: "Stiamo cercando di indovinare la distribuzione di probabilità che governa l'universo", dovremmo dire:
"Stiamo costruendo un modello che funziona bene su questo specifico gruppo di persone, con questi specifici obiettivi, usando questi specifici dati."

È come passare dal cercare la "ricetta perfetta universale" alla "ricetta perfetta per la tua famiglia stasera".

Non è più una questione di "scoprire la verità".
È una questione di responsabilità: dobbiamo spiegare perché abbiamo scelto quella ricetta, quali ingredienti abbiamo usato e quali sono i limiti di quella zuppa.

In sintesi

Il paper ci invita a smettere di fingere che il mondo sociale sia un gioco d'azzardo con regole fisse. Le persone sono complesse, cambiano e dipendono dal contesto.
Non siamo campioni estratti da un'urna. Siamo esseri umani. E quando usiamo l'intelligenza artificiale per prenderci decisioni su di noi, dobbiamo smettere di nascondere le nostre scelte umane dietro la scusa di una "matematica oggettiva" che in realtà non esiste. Dobbiamo essere onesti: stiamo costruendo modelli, non stiamo scoprendo leggi della natura.

Titolo: I Costi di Fingere che Esistano Distribuzioni di Probabilità Generatrici di Dati nel Mondo Sociale

1. Il Problema

La ricerca nell'ambito del Machine Learning (ML), inclusa quella sulla fairness algoritmica, si basa quasi universalmente sul presupposto teorico dell'esistenza di una distribuzione di probabilità generatrice di dati (Gen-D) vera e propria, da cui i punti dati osservati sono "campionati" in modo indipendente e identicamente distribuito (i.i.d.).

L'assunzione standard: Si presume che i dati osservati siano un campione da una distribuzione sottostante stabile $P(X, Y)$ , permettendo di apprendere questa distribuzione e prevedere futuri punti dati.
Il problema nel contesto sociale: Gli autori sostengono che, specialmente nei contesti sociali (decisioni su persone, come credito, lavoro, giustizia penale), questa assunzione è non solo falsa, ma dannosa. Non esistono distribuzioni di probabilità "vere" o oggettive per il comportamento umano.
Le conseguenze: L'uso di questo framework (Gen-D) oscura le scelte di modellazione, suggerisce un'illusione di oggettività, e porta a interpretazioni errate sui compromessi tra accuratezza e fairness, nonché sulla multiplicità dei modelli.

2. Metodologia e Approccio Teorico

Il paper adotta un approccio critico che combina filosofia della scienza, teoria dell'apprendimento statistico e analisi empirica.

Argomentazione Filosofica ed Epistemologica:
- Si contesta l'idea che le probabilità siano "scoperte" (come nei giochi d'azzardo o nella meccanica quantistica) e si sostiene che siano invece costruite.
- Si dimostra che la stabilità osservata nei dati sociali non deriva da una distribuzione sottostante fissa, ma dipende fortemente dalle scelte implicite: la definizione della popolazione, il lasso di tempo considerato e la granularità degli attributi (spazio degli input $\mathcal{X}$ ).
- Viene analizzato il "problema della classe di riferimento": la probabilità di un evento per un individuo dipende da come lo si raggruppa (es. per età, reddito, ecc.), e non esiste una classificazione "corretta" o unica.
Riformulazione Teorica (Apprendimento su Popolazioni Finite):
- Gli autori dimostrano che il framework Gen-D non è necessario per giustificare l'apprendimento o la generalizzazione.
- Dimostrazione Matematica: Viene proposto un framework alternativo basato su popolazioni finite. Utilizzando un'analisi combinatoria (modello di estrazione da un'urna senza reimmissione), gli autori derivano nuovi limiti di generalizzazione.
- Lemma di Simmetrizzazione e Teorema 3: Vengono presentati nuovi lemmi (varianti del Lemma di Simmetrizzazione di Vapnik) e un teorema che fornisce un limite superiore per l'errore di generalizzazione in popolazioni finite, senza invocare distribuzioni di probabilità astratte. Il teorema mostra che, per campioni sufficientemente grandi, l'errore sul campione sarà simile all'errore sull'intera popolazione finita per la maggior parte delle possibili estrazioni.
Analisi Empirica:
- Vengono utilizzati dataset reali (es. ACS Income, dati sul default creditizio) per mostrare la multiplicità dei modelli.
- Si dimostra che cambiando il periodo temporale di campionamento (es. ultimi 4 anni vs ultimo anno) o la popolazione di riferimento, le previsioni dei modelli ottimali cambiano significativamente (fino al 10% di disaccordo su singoli punti dati), smentendo l'idea di una distribuzione stabile sottostante.

3. Contributi Chiave

Negazione dell'esistenza di Gen-D nel sociale: Dimostrazione che le distribuzioni generatrici di dati non esistono come entità reali nei contesti sociali; sono idealizzazioni fuorvianti.
Framework Alternativo: Introduzione di una teoria dell'apprendimento basata su popolazioni finite e misure di conteggio, che mantiene le garanzie di generalizzazione senza assumere distribuzioni i.i.d. o distribuzioni di probabilità vere.
Decostruzione dell'Oggettività: Analisi di come il framework Gen-D contribuisca all'illusione che gli algoritmi siano "oggettivi" o "naturali", nascondendo le scelte di valore (es. selezione delle feature, definizione della popolazione) fatte dai progettisti.
Ridefinizione della Fairness e della Multiplicità:
- Si sostiene che la "multiplicità predittiva" (molti modelli con prestazioni simili ma previsioni diverse) non è un problema pratico di approssimazione, ma un problema concettuale fondamentale derivante dall'assenza di una verità sottostante.
- Si critica la nozione di trade-off tra fairness e accuratezza basata sul classificatore Bayesiano ottimo, poiché quest'ultimo presuppone una distribuzione vera che non esiste.
Critica alla Scelta dell'Abstrazione (Input Space): Evidenzia come la scelta di come rappresentare gli individui (feature engineering) sia cruciale e spesso ignorata, influenzando direttamente i risultati e la discriminazione, ma mascherata dal framework Gen-D.

4. Risultati Principali

Teorici: È possibile derivare limiti di generalizzazione rigorosi per l'apprendimento su popolazioni finite senza assumere l'esistenza di una distribuzione di probabilità sottostante. Questo invalida la necessità del framework Gen-D per la teoria dell'apprendimento.
Empirici:
- I modelli addestrati su finestre temporali diverse mostrano discrepanze significative nelle previsioni individuali, anche quando mantengono un'accuratezza media simile.
- L'aggiunta di attributi demografici (es. genere) non garantisce sempre migliori previsioni e può peggiorare l'impatto discriminatorio (Disparate Impact), contraddicendo l'idea che più dati portino automaticamente a una migliore approssimazione della "verità".
Pratici: L'assunzione di Gen-D porta a giustificare decisioni algoritmiche come "inevitabili" o "basate sui dati", riducendo la responsabilità (accountability) dei progettisti per le scelte di modellazione.

5. Significato e Implicazioni

Per la Ricerca sulla Fairness: Il paper invita a smettere di vedere la fairness come una deviazione da un'ottimalità teorica (Bayes-optimal) basata su distribuzioni vere. Invece, la fairness deve essere discussa esplicitamente in relazione alle scelte di progettazione e agli obiettivi specifici della popolazione.
Per la Pratica del ML: Gli ingegneri devono riconoscere che i modelli non "stimano" probabilità oggettive, ma costruiscono regole decisionali basate su scelte specifiche. È necessario un maggiore rigore nella documentazione delle scelte di astrazione e delle popolazioni target.
Per la Società: Smettendo di fingere che esistano distribuzioni di probabilità vere, si riduce il rischio di attribuire un'oggettività ingiustificata a sistemi che prendono decisioni su persone. Si promuove una visione più umile e trasparente del ML, dove le scelte sono esplicitamente giustificate piuttosto che nascoste dietro l'idea di "apprendere la distribuzione dei dati".
Direzioni Future: Gli autori incoraggiano la ricerca su:
1. La costruzione esplicita delle variabili (scelta dell'input space).
2. Lo sviluppo ulteriore della teoria delle popolazioni finite.
3. La valutazione empirica della stabilità dei domini prima di applicare modelli predittivi.

In conclusione, il paper sostiene che l'uso del framework Gen-D nei contesti sociali è costoso: oscura le responsabilità, favorisce l'illusione di oggettività e impedisce una comprensione corretta dei limiti e delle scelte intrinseche nell'apprendimento automatico. Si propone un cambio di paradigma verso modelli che trattano esplicitamente le popolazioni finite e le scelte di costruzione dei dati.