Implementing Causal Perception: Competing SCMs and Situated Fairness

Immagina di cercare di risolvere un mistero, come capire perché una pianta nella tua stanza sta appassendo. Potresti osservare la luce solare, l'acqua o il terreno. Nel mondo dell'Intelligenza Artificiale (IA), gli scienziati usano mappe speciali chiamate "Modelli Causali Strutturali" per fare la stessa cosa. Queste mappe sono come diagrammi di flusso che mostrano come diverse cose causino l'accadere di altre cose. Per esempio, una mappa potrebbe mostrare che il "basso reddito" causa un "punteggio di credito scarso". Ma ecco il colpo di scena: due persone diverse (o programmi di IA) potrebbero guardare esattamente la stessa pianta e disegnare due mappe completamente diverse. Uno potrebbe pensare che il problema sia il terreno, mentre l'altro pensa che sia la luce solare. Questo non è solo un errore; è una differenza nel modo in cui vedono il mondo. Questa idea è cruciale perché, quando chiediamo all'IA di prendere decisioni eque — come decidere a chi concedere un prestito o un lavoro — quelle decisioni dipendono interamente dalla mappa che l'IA sta utilizzando. Se le mappe sono in disaccordo, l'idea di "equità" può cambiare a seconda di chi guarda.

Questo articolo, scritto da José M. Álvarez, compie un grande passo dalla teoria alla realtà costruendo il primo programma informatico capace di misurare effettivamente questi "mappe contrastanti". L'autore chiama questo fenomeno "percezione causale". Immagina come due amici che guardano un film. Anche se vedono le stesse scene, potrebbero interpretare le motivazioni dei personaggi in modo diverso in base alle proprie esperienze di vita. Nel mondo dell'IA, questo significa che due agenti (o "ricevitori") potrebbero guardare lo stesso gruppo di richiedenti di prestiti e vedere due storie diverse sul perché alcuni vengano rifiutati. L'articolo testa questo concetto usando un dataset reale di 1.000 richiedenti di prestiti dalla Germania. I ricercatori hanno creato due "ufficiali di credito" digitali che concordavano sulla maggior parte delle cose, ma erano in disaccordo su una regola specifica: se il genere di una persona influenzi direttamente il suo rischio di credito.

I risultati sono stati illuminanti. Nonostante i due ufficiali discordessero solo su una singola connessione nelle loro mappe mentali, finirono per vedere il mondo in modo molto diverso. Quando i ricercatori hanno misurato quanto fossero distanti le loro visioni, hanno scoperto che i due ufficiali erano in disaccordo su circa il 21,7% delle singole decisioni di prestito. L'articolo evidenzia anche come tali disaccordi possano portare a valutazioni di equità profondamente diverse; ad esempio, in uno scenario ipotetico descritto nell'introduzione, due ricevitori che differiscono per un singolo legame causale potrebbero raggiungere gap di parità demografica di -0,594 rispetto a -0,170. L'articolo ha anche scoperto che la risposta alla domanda "stanno vedendo le cose in modo diverso?" dipende interamente dallo strumento di misura utilizzato. Se si usa un certo tipo di righello (una metrica di distanza chiamata Wasserstein-2), potrebbero sembrare quasi uguali. Ma se si usa un righello diverso (come la divergenza di Kullback-Leibler o la variazione totale), il divario appare enorme.

In definitiva, l'articolo dimostra che il pregiudizio non è solo un fatto fisso che fluttua nell'aria; è "situato", il che significa che dipende dalla specifica visione del mondo della persona o dell'IA che sta giudicando. L'autore sostiene che non possiamo semplicemente ignorare queste visioni del mondo contrastanti o costringere tutti ad accordarsi su un'unica mappa "corretta". Al contrario, dobbiamo riconoscere che in un mondo con molteplici esperti, persone diverse percepiranno genuinamente l'equità in modo diverso, e i nostri strumenti devono essere pronti a gestire questo disaccordo piuttosto che fingere che non esista.