Algorithmic neutrality

Problema
Gli algoritmi governano sempre più aspetti critici della vita umana, stimolando un ampio dibattito sulla correttezza algoritmica (algorithmic fairness). Tuttavia, il concetto di neutralità algoritmica è stato ampiamente trascurato, nonostante la sua centralità nel modo in cui l'industria tecnologica, il pubblico e i decisori politici comprendono il mondo digitale. I giganti tecnologici (ad es. Google, Meta, Twitter) invocano frequentemente la neutralità come uno scudo contro le critiche e come un ideale verso cui tendere, mentre i critici sostono che nessun algoritmo sia moralmente neutro. Il saggio identifica una mancanza di studi sistematici riguardanti la definizione, la possibilità e la significatività normativa della neutralità algoritmica. Nello specifico, l'autore si chiede: Cos'è la neutralità algoritmica? È possibile? E qual è la sua significatività normativa?

Metodologia
Il saggio impiega un'analisi concettuale basata sulla filosofia della tecnologia e dell'etica. L'autore procede attraverso i seguenti passaggi metodologici:

1. Approccio tramite studio di caso: L'analisi si concentra principalmente sui motori di ricerca come caso di studio paradigmatico prima di generalizzare a sistemi algoritmici in senso lato.
2. Definizione concettuale: L'autore definisce la neutralità adattando il quadro della "neutralità nella scienza". Proprio come la neutralità scientifica richiede che i valori non epistemici (ad es. interessi finanziari, ideologie politiche) non giochino alcun ruolo nelle pratiche scientifiche fondamentali (che mirano alla verità), la neutralità algoritmica è definita in termini dell'obiettivo (aim) di un sistema.
3. Argomentazione tramite multidimensionalità: L'autore sostiene che gli obiettivi di molti sistemi algoritmici (come la "rilevanza" nella ricerca o la "qualificazione" nelle assunzioni) siano concetti multidimensionali. Basandosi sulla letteratura riguardante l'incomparabilità (ad es. Sen, Parfit), l'autore postula che quando un concetto ha molteplici dimensioni senza una ponderazione privilegiata, l'obiettivo sottodetermina l'output del sistema.
4. Distinzione dei ruoli: L'analisi distingue tra due ruoli che i valori esterni possono svolgere: sovrascrivere (overriding) un obiettivo (classificare un risultato meno rilevante in una posizione più alta) e integrare (supplementing) un obiettivo (risolvere stalli o ponderare le dimensioni quando l'obiettivo stesso è insufficiente).

Contributi Chiave

1. Definizione di Neutralità Algoritmica: Il saggio caratterizza la neutralità algoritmica non come una mancanza di valori, ma come una specifica relazione tra l'obiettivo di un sistema e i valori esterni. Un sistema algoritmico è neutrale solo se i valori esterni al suo obiettivo non giocano alcun ruolo nel modo in cui fornisce i risultati. Per i motori di ricerca, dove l'obiettivo è la rilevanza, la neutralità richiede che nessun valore diverso dalla rilevanza influenzi la classificazione.
2. La Tesi dell'Impossibilità: L'autore dimostra che la neutralità algoritmica è impossibile per i motori di ricerca e per la maggior parte dei potenti sistemi algoritmici. Poiché obiettivi come la "rilevanza" o la "qualificazione" sono concetti multidimensionali, essi sottodeterminano il modo in cui classificare o categorizzare gli elementi. Nei casi di incomparabilità (dove due opzioni non sono strettamente migliori o peggiori l'una rispetto all'altra in tutte le dimensioni), i valori esterni devono necessariamente giocare un ruolo per risolvere lo stallo. Pertanto, i valori esterni integrano necessariamente l'obiettivo.
3. Rivalutazione Normativa: Il saggio sostiene che la neutralità sia un falso ideale e uno scudo fallace.
   • Falso Ideale: La neutralità non è intrinsecamente buona né cattiva. La significatività normativa non risiede nel sapere se un sistema sia neutrale, ma in quali valori esterni giochino un ruolo e quale ruolo essi svolgano (sovrascrivere vs. integrare).
   • Scudo Fallace: È concettualmente incoerente che le aziende rivendichino la neutralità come difesa, poiché la vera neutralità è impossibile. Inoltre, anche se un sistema fosse "localmente neutrale" (ad es. neutrale rispetto ai valori politici), potrebbe comunque svantaggiare determinati gruppi a causa della necessaria ponderazione di obiettivi multidimensionali (ad es. ponderare la "salienza" può svantaggiare entità più piccole).
4. Raffinatezza del concetto di Bias: Il saggio distingue tra bias di sovrascrittura (overriding bias, i valori esterni sovrascrivono l'obiettivo) e bias di integrazione (supplementing bias, i valori esterni integrano l'obiettivo). Mentre il bias di sovrascrittura è evitabile e spesso oggetto di critica, il bias di integrazione è inevitabile. Tuttavia, le lamentele riguardanti quali valori integrano l'obiettivo rimangono valide e necessarie.

Risultati

• La neutralità della ricerca è impossibile: A causa della natura multidimensionale della rilevanza, i motori di ricerca non possono classificare le pagine basandosi esclusivamente sulla rilevanza. Devono inevitabilmente utilizzare valori esterni per ponderare le dimensioni (ad es. salienza, pertinenza tematica) quando le pagine sono incomparabili.
• Neutralità Globale vs. Locale: La "neutralità globale" (nessun valore esterno di alcun tipo che giochi un ruolo) è impossibile. La "neutralità locale" (nessun valore di un tipo specifico, come l'ideologia politica, che giochi un ruolo) è possibile ma insufficiente ad affrontare tutte le lamentele di ingiustizia, poiché la necessaria ponderazione delle dimensioni può comunque produrre impatti disparati.
• Spostamento Normativo: Il dibattito dovrebbe spostarsi dal "L'algoritmo è neutrale?" al "Quali valori dovrebbero giocare un ruolo, e come?". Ad esempio, può essere normativamente buono che un motore di ricerca sovrascriva la rilevanza per proteggere i minori (sopprimendo la pornografia minorile) o che integri la rilevanza per promuovere la giustizia sociale (classificando più in alto le imprese appartenenti a minoranze in scenari di parità). Al contrario, è spesso ingiusto che un monopolio sovrascriva la rilevanza con interessi finanziari.

Significatività
Il saggio sostiene che la neutralità algoritmica sia un falso ideale e uno scudo fallace.

• Come falso ideale, perseguire la neutralità per il solo fine di essere neutrali acceca gli stakeholder rispetto alle reali questioni normative: determinare quali valori dovrebbero guidare gli esiti algoritmici e fino a che punto l'obiettivo primario del sistema valga la pena di essere perseguito.
• Come scudo fallace, è una difesa vuota per le aziende tecnologiche rivendicare la neutralità quando accusate di illeciti, perché (1) la vera neutralità è concettualmente impossibile per questi sistemi, e (2) la neutralità stessa non è intrinsecamente virtuosa. Il saggio conclude che l'attenzione deve spostarsi dal binomio neutralità/non-neutralità verso un'analisi sfumata del ruolo specifico che i valori esterni giocano nel processo decisionale algoritmico.