Abstracted Away: Resisting Alienation and Ungrounded Abstraction in AI Research Communities

Stel je voor dat je leert hoe je een gigantische, magische robot bouwt in een werkplaats op school. De leraren vertellen je dat om de robot slim te maken, je eerst de kunst van "abstractie" moet leren. In de wereld van computers is abstractie als het in een doos stoppen van een rommelige stapel onderdelen en die vervolgens simpelweg labelen als "motor". Je hoeft niet te weten hoe elke individuele schroef werkt om de robot te laten bewegen; je hoet alleen te weten wat erin gaat en wat eruit komt. Dit is een super nuttige truc die ingenieurs helpt complexe dingen te bouwen zonder overweldigd te raken. Maar hier zit de adder onder het gras: soms, wanneer we dingen in een doos stoppen, gooien we per ongeluk de belangrijkste delen van het verhaal weg. We negeren misschien het feit dat de "motor" een vreemd geluid maakt alleen wanneer het regent, of dat hij boos wordt als je tegen hem spreekt in een bepaalde taal. Als we alleen naar de doos kijken, missen we de realiteit van wat er binnenin gebeurt.

Dit artikel gaat over wat er gebeurt wanneer die "doos-methode" te ver gaat in de wereld van Artificial Intelligence (AI) onderzoek. De auteurs zijn drie jonge wetenschappers die het gevoel hadden dat ze niet thuishoorden op hun eigen school. Ze merkten op dat de manier waarop AI-onderzoekers over hun werk praten, vaak de gevoelens, geschiedenissen en strijd van echte mensen negeert. Ze noemen dit gevoel "aliënatie" (vervreemding), wat is als de enige persoon op een feestje zijn die een andere taal spreekt, terwijl de rest gewoon over je heen blijft praten. Het artikel onderzoekt waarom dit gebeurt en suggereert dat de manier waarop onderzoekers hun data "opschonen" en hun eigen emoties negeren, eigenlijk de mensen schaadt die de robots bedoeld zijn om te helpen.

Het verhaal van drie onderzoekers die zich buitenstaanders voelden

Het artikel is geschreven door drie onderzoekers aan het begin van hun carrière—Vyoma, Isabel en Neha—die AI bestuderen aan topuniversiteiten in de VS. Ze besloten hun verhaal niet te vertellen als een droge lijst met feiten, maar als een verzameling van drie korte scènes, of "vignetten", om te laten zien hoe zij zich uit hun eigen onderzoepsgemeenschappen gedrukt voelden.

Scène 1: Het probleem met "schone" data
In hun eerste verhaal beschrijven de auteurs een klas waarin ze leerden hoe ze verzekeringsrisico's konden voorspellen met behulp van medische dossiers. De docent vertelde hen de data te "opschonen". Dit betekende het vinden van alle personen wiens medische geschiedenis er vreemd uitzag of niet aan het gemiddelde patroon voldeed, om hen vervolgens te verwijderen. De docent noemde deze mensen "ruis". Maar de auteurs realiseerden zich iets engs: de mensen die werden verwijderd, waren vaak degenen die het al het moeilijkst hadden—mensen met zeldzame ziekten, handicaps of een andere achtergrond. Door hen weg te gooien om de wiskunde er "schoner" uit te laten zien, leerde de klas hen om de mensen die hulp het hardst nodig hebben, te negeren. De auteurs voelden zich alsof er van hen werd gevraagd delen van zichzelf te verwijderen om de robot beter te laten werken.

Scène 2: Het tweesnijdend zwaard
In de tweede scène praten de auteurs over hun enthousiasme om aan de universiteit te beginnen. Ze wilden AI gebruiken om goede dingen te doen. Maar toen zagen ze nieuwsberichten die lieten zien hoe diezelfde AI-tools waar zij over studeerden, werden gebruikt door legers om mensen in oorlogszones te verwelven. Ze probeerden met hun professoren en medestudenten hierover te praten en vroegen: "Moeten we instrumenten bouwen die voor geweld gebruikt kunnen worden?" In plaats van een diep gesprek te voeren, kregen ze te horen dat ze zich gewoon moesten concentreren op het "ethischer" of "veiliger" maken van de technologie, alsof het probleem slechts een kleine bug was die gerepareerd moest worden. De auteurs voelden zich de mond gesnoerd. Ze kregen te horen dat het stellen van grote vragen over de vraag of de technologie überhaupt wel zou moeten bestaan, "simplistisch" was. Ze voelden zich gedwongen om te doen alsoverdat het slechte niet gebeurde, zodat ze hun baan en cijfers konden behouden.

Scène 3: Een veilige plek vinden
De derde scène is het hoopvolle deel. Na zich eenzaam en verward gevoeld te hebben, vonden de auteurs een andere groep mensen—een mix van informatici, docenten en sociologen—die bereid waren om over de moeilijke zaken te praten. In deze groep haastte niemand. Er werd de tijd genomen om te luisteren. Ze probeerden de rommelige delen van het gesprek niet te "opschonen"; in plaats daarvan gebruikten ze die rommelige delen om het probleem beter te begrijpen. Voor het eerst voelden de auteurs zich veilig. Ze realiseerden zich dat hun gevoel van buitenstaander zijn niet kwam omdat zij het probleem waren, maar omdat de gebruikelijke manier van AI-onderzoek kapot was.

Wat ze ontdekten: De "ongegronde" doos

De auteurs realiseerden zich dat de reden waarom ze zich zo vervreemd voelden, te maken had met wat zij "ongegronde abstractie" noemen.

Denk aan "gegronde" onderzoek als een boom met diepe wortels. De wortels zijn de echte wereld: de mensen, de geschiedenis, de pijn en de vreugde. "Ongegronde" onderzoek is als een boom die van haar wortels is afgesneden en nu gewoon in de lucht zweeft. Het ziet eruit als een boom, maar het kan geen water drinken of de wind voelen.

Het artikel betoogt dat AI-onderzoek deze wortels op vier specifieke manieren afknipt:

1. Getuigenis-abstractie (Testimony Abstraction): Wanneer een onderzoeker zegt: "Hé, dit doet mensen pijn," en de gemeenschap zegt: "Je bent geen echte expert, je bent gewoon emotioneel," en de persoon negeert.
2. Doel-abstractie (Purpose Abstraction): Wanneer het doel van een project verandert. Je begint met "laten we mensen helpen," maar de manier waarop succes wordt gemeten wordt "laten we de hoogste score op een test halen," en je vergeet de mensen volledig.
3. Positie-abstractie (Position Abstraction): Wanneer de data iedereen behandelt alsof ze hetzelfde zijn, waarbij wordt genegeerd dat sommige mensen meer macht hebben en anderen minder. Het is alsof je doet alsof een rijk persoon en een arm persoon precies dezelfde problemen hebben.
4. Affect-abstractie (Affect Abstraction): Dit is de meest persoonlijke. Dit is wanneer onderzoekers worden geleerd om hun gevoelens te verdoven. Als je iets slechts ziet gebeuren, hoor je niets te voelen zodat je door kunt werken. De auteurs zeggen dat dit gevaarlijk is, omdat je gevoelens eigenlijk een waarschuwingssysteem zijn dat je vertelt dat er iets mis is.

De oplossing: Luister naar je intuïtie en sta samen sterk

Het artikel klaagt niet alleen; het biedt ook een manier om dit te repareren. De auteurs stellen twee belangrijke dingen voor:

Ten eerste, Collectieve Actie. Je hoeft het systeem niet alleen te bevechten. Als je voelt dat er iets mis is, zoek dan andere mensen die hetzelfde voelen. Wanneer je samenstaat, is het moeilijker voor het systeem om je te negeren of je het gevoel te geven dat je gek bent. De auteurs vonden hun kracht in een groep vrienden die openlijk over hun angsten praatten.

Ten tweede, Affectieve Afstemming (Affective Attunement). Dit is een chique manier om te zeggen: "Luister naar je gevoelens." Als je je ongemakkelijk, boos of verdrietig voelt over een project, onderdruk die gevoelens dan niet. Probeer ze niet weg te "abstracteren". Behandel die gevoelens in plaats daarvan als belangrijke data. Je intuïtie kan het eerste teken zijn dat je onderzoek iemand schade berokkent. Door aandacht te besteden aan je emoties, kun je het "ongegronde" onderzoek stoppen voordat het echte schade aanricht.

Waarom dit ertoe doet

De auteurs benadrukken dat ze niet zeggen: "Stop met het doen van AI." Ze houden van technologie. Maar ze zeggen dat als we AI blijven bouwen zonder naar de echte wereld te kijken, zonder te luisteren naar de mensen die gekwetst worden, en zonder aandacht te besteden aan onze eigen gevoelens, we dingen zullen bouwen die kapot en gevaarlijk zijn.

Ze suggereren dat de manier waarop we onderwijzen en onderzoek doen moet veranderen. We moeten stoppen met de pretentie dat we de rommelige delen van het leven gewoon in een "doos" kunnen stoppen. We moeten onze wortels in de echte wereld houden. Door dit te doen, kunnen we AI maken die werkelijk iedereen helpt, en niet alleen de mensen die netjes in een doos passen. Het artikel eindigt door hun ideeën aan te bieden als een hulpmiddel voor iedereen die zich ook een buitenstaander voelt in de techwereld, in de hoop dat zij door het delen van hun verhaal anderen kunnen helpen hun eigen weg te vinden om een verschil te maken.