Abstracted Away: Resisting Alienation and Ungrounded Abstraction in AI Research Communities

Immagina di stare imparando a costruire un robot gigante e magico in un laboratorio scolastico. Gli insegnanti ti dicono che, per rendere il robot intelligente, devi prima imparare l'arte dell' "astrazione". Nel mondo dei computer, l'astrazione è come mettere una scatola attorno a un mucchio disordinato di pezzi e etichettarlo semplicemente come "motore". Non hai bisogno di sapere come funziona ogni singolo bullone per far muovere il robot; devi solo sapere cosa entra e cosa esce. Questo è un trucco utilissimo che aiuta gli ingegneri a costruire cose complesse senza sentirsi sopraffatti. Ma ecco il problema: a volte, quando mettiamo le cose in una scatola, accidentalmente buttiamo via le parti più importanti della storia. Potremmo ignorare il fatto che il "motore" emette un rumore strano solo quando piove, o che si arrabbia se gli parli in una certa lingua. Se guardiamo solo la scatola, perdiamo di vista la realtà di ciò che sta accadendo all'interno.

Questo articolo parla di cosa succede quando quel trucco della "scatola" va troppo oltre nel mondo della ricerca sull'Intelligenza Artificiale (IA). Gli autori sono tre giovani scienziati che si sono sentiti come se non appartenessero alla propria scuola. Hanno notato che il modo in cui i ricercatori di IA parlano del proprio lavoro spesso ignora i sentimenti, le storie e le lotte delle persone reali. Chiamano questa sensazione "alienazione", che è come essere l'unica persona a una festa che parla una lingua diversa, mentre tutti gli altri continuano a parlare sopra di te. L'articolo esplora perché questo accade e suggerisce che il modo in cui i ricercatori "puliscono" i loro dati e ignorano le proprie emozioni stia in realtà danneggiando le persone che quei robot dovrebbero aiutare.

La storia di tre ricercatori che si sono sentiti estranei

L'articolo è scritto da tre ricercatrici all'inizio della carriera — Vyoma, Isabel e Neha — che studiano l'IA in prestigiose università negli Stati Uniti. Hanno deciso di raccontare la loro storia non come un elenco asciutto di fatti, ma come una collezione di tre brevi scene, o "vignette", per mostrare come si siano sentite spinte fuori dalle proprie comunità di ricerca.

Scena 1: Il problema dei dati "puliti"
Nella loro prima storia, le autrici descrivono una classe in cui stavano imparando a prevedere i rischi assicurativi utilizzando le cartelle cliniche. L'insegnante disse loro di "pulire" i dati. Questo significava trovare qualsiasi persona la cui storia clinica sembrasse strana o non rientrasse nel modello medio e cancellarla. L'insegnante chiamava queste persone "rumore". Ma le autrici si resero conto di una cosa spaventosa: le persone che venivano eliminate erano spesso quelle che già lottavano di più — persone con malattie rare, disabilità o background diversi. Buttando via loro per rendere la matematica più "pulita", la classe stava insegnando loro a ignorare proprio le persone che avevano più bisogno di aiuto. Le autrici si sentirono come se venisse chiesto loro di cancellare parti di se stesse per far funzionare meglio il robot.

Scena 2: La lama a doppio taglio
Nella seconda scena, le autrici parlano dell'entusiasmo per l'inizio del loro dottorato. Volevano usare l'IA per fare cose buone. Ma poi, hanno visto i servizi giornalistici che mostravano come quegli stessi strumenti di IA che stavano studiando venissero usati dagli eserciti per ferire le persone nelle zone di guerra. Hanno cercato di parlare con i loro professori e colleghi su questo, chiedendo: "Dovremmo costruire strumenti che possono essere usati per la violenza?". Invece di avere una conversazione profonda, gli fu detto di concentrarsi solo sul rendere la tecnologia "più etica" o "più sicura", come se il problema fosse solo un piccolo bug da correggere. Le autrici si sentirono messe a tacere. Fu detto loro che porre grandi domande sul fatto che la tecnologia debba esistere o meno fosse "semplista". Sentirono di essere costrette a fingere che le cose brutte non stessero accadendo per poter mantenere i propri posti e i propri voti.

Scena 3: Trovare uno spazio sicuro
La terza scena è la parte speranzosa. Dopo essersi sentite sole e confuse, le autrici hanno trovato un gruppo diverso di persone — un mix di informatici, insegnanti e sociologi — che erano disposti a parlare delle cose difficili. In questo gruppo, nessuno affrettava il passo. Prendevano tempo per ascoltare. Non cercavano di "pulire" le parti disordinate della conversazione; al contrario, usavano quelle parti disordinate per comprendere meglio il problema. Per la prima volta, le autrici si sentirono al sicuro. Si resero conto che il loro sentirsi estranee non era dovuto al fatto che loro fossero il problema, ma perché il modo abituale di fare ricerca sull'IA era rotto.

Ciò che hanno scoperto: La scatola "non radicata"

Le autrici si resero conto che il motivo per cui si sentivano così alienate era dovuto a qualcosa che chiamano "astrazione non radicata".

Pensate alla ricerca "radicata" come a un albero con radici profonde. Le radici sono il mondo reale: le persone, la storia, il dolore e la gioia. La ricerca "non radicata" è come un albero che è stato tagliato dalle sue radici e sta semplicemente fluttuando nell'aria. Sembra un albero, ma non può bere acqua né sentire il vento.

L'articolo sostiene che la ricerca sull'IA spesso recida queste radici in quattro modi specifici:

1. Astrazione della testimonianza: Quando un ricercatore dice: "Ehi, questo fa male alle persone", e la comunità risponde: "Non sei un vero esperto, sei solo emotivo", ignorandolo.
2. Astrazione dello scopo: Quando l'obiettivo di un progetto cambia. Si inizia con "aiutiamo le persone", ma il modo in cui si misura il successo diventa "otteniamo il punteggio più alto in un test", e ci si dimentica interamente delle persone.
3. Astrazione della posizione: Quando i dati trattano tutti come se fossero uguali, ignorando che alcune persone hanno più potere e altre ne hanno meno. È come pretendere che una persona ricca e una povera abbiano esattamente gli stessi problemi.
4. Astrazione dell'affetto: Questa è la più personale. È quando ai ricercatori viene insegnato ad anestetizzare i propri sentimenti. Se vedi qualcosa di brutto accadere, devi non provare nulla per poter continuare a lavorare. Le autrici dicono che questo è pericoloso perché i tuoi sentimenti sono in realtà un sistema di allarme che ti dice che qualcosa non va.

La soluzione: Ascoltare il proprio istinto e stare insieme

L'articolo non si limita a lamentarsi; offre un modo per riparare. Le autrici suggeriscono due cose principali:

Primo, l'Azione Collettiva. Non devi combattere il sistema da sola. Se senti che qualcosa non va, trova altre persone che provano la stessa cosa. Quando vi alzate in piedi insieme, è più difficile per il sistema ignorarvi o farvi sentire pazze. Le autrie hanno trovato la loro forza in un gruppo di amici che parlavano apertamente delle loro paure.

Secondo, l'Sintonizzazione Affettiva. Questo è un modo complicato per dire: "Ascolta i tuoi sentimenti". Se ti senti a disagio, arrabbiata o triste per un progetto, non reprimere quei sentimenti. Non "astrarli" via. Al contrario, tratta quei sentimenti come dati importanti. Il tuo istinto potrebbe essere il primo segnale che la ricerca sta facendo del male a qualcuno. Prestando attenzione alle tue emozioni, puoi fermare la ricerca "non radicata" prima che causi danni reali.

Perché questo è importante

Le autrici sono attente a dire che non stanno dicendo di "smettere di fare l'IA". Amano la tecnologia. Ma dicono che se continuiamo a costruire l'IA senza guardare al mondo reale, senza ascoltare le persone che soffrono e senza prestare attenzione ai nostri stessi sentimenti, costruiremo cose rotte e pericolose.

Suggeriscono che il modo in cui insegniamo e facciamo ricerca deve cambiare. Dobbiamo smettere di pretendere di poter semplicemente "mettere in una scatola" le parti disordinate della vita. Dobbiamo mantenere le nostre radici nel mondo reale. Facendo questo, possiamo creare un'IA che aiuti davvero tutti, non solo le persone che si adattano perfettamente a una scatola. L'articolo si conclude offrendo le loro idee come uno strumento per chiunque altro si senta un estraneo nel mondo tecnologico, sperando che, condividendo la loro storia, altri possano trovare la propria strada per sentirsi al sicuro e fare la differenza.