Abstracted Away: Resisting Alienation and Ungrounded Abstraction in AI Research Communities

Stell dir vor, du lernst in einer Werkstatt in der Schule, einen riesigen, magischen Roboter zu bauen. Deine Lehrer sagen dir, dass du zuerst die Kunst der „Abstraktion“ lernen musst, um den Roboter intelligent zu machen. In der Welt der Computer ist Abstraktion wie das Packen eines Stapels loser Einzelteile in eine Kiste und das bloße Etikettieren dieser Kiste mit der Aufschrift „Motor“. Du musst nicht wissen, wie jede einzelne Schraube funktioniert, um den Roboter in Bewegung zu setzen; du musst nur wissen, was hineingeht und was herauskommt. Das ist ein super nützlicher Trick, der Ingenieuren hilft, komplexe Dinge zu bauen, ohne den Überblick zu verlieren. Aber hier ist der Haken: Manchmal, wenn wir Dinge in eine Kiste packen, werfen wir versehentlich die wichtigsten Teile der Geschichte weg. Wir ignorieren vielleicht die Tatsache, dass der „Motor“ ein seltsames Geräusch macht, wenn es regnet, oder dass er wütend wird, wenn man mit ihm in einer bestimmten Sprache spricht. Wenn wir nur auf die Kiste schauen, verpassen wir die Realität dessen, was im Inneren passiert.

Dieses Papier handelt davon, was passiert, wenn dieser Trick des „Verpackens“ in der Welt der KI-Forschung (Künstliche Intelligenz) zu weit geht. Die Autorinnen sind drei junge Wissenschaftlerinnen, die das Gefühl hatten, nicht in ihre eigene Schule zu gehören. Sie bemerkten, dass die Art und Weise, wie KI-Forscher über ihre Arbeit sprechen, oft die Gefühle echter Menschen, deren Geschichte und deren Kämpfe ignoriert. Sie nennen dieses Gefühl „Entfremdung“, was sich anfühlt, als wäre man die einzige Person auf einer Party, die eine andere Sprache spricht, während alle anderen einfach über einen hinwegreden. Das Papier untersucht, warum das passiert, und legt nahe, dass die Art und Weise, wie Forscher ihre Daten „reinigen“ und ihre eigenen Emotionen ignorieren, genau den Menschen schadet, denen die Roboter eigentlich helfen sollen.

Die Geschichte von drei Forscherinnen, die sich wie Außenseiterinnen fühlten

Das Papier wurde von drei Nachwuchswissenschaftlerinnen geschrieben – Vyoma, Isabel und Neha –, die KI an Top-Universitäten in den USA studieren. Sie beschlossen, ihre Geschichte nicht als trockene Liste von Fakten zu erzählen, sondern als eine Sammlung von drei kurzen Szenen, oder „Vignetten“, um zu zeigen, wie sie sich aus ihren eigenen Forschungsgemeinschaften verdrängt fühlten.

Szene 1: Das Problem der „reinen“ Daten
In ihrer ersten Geschichte beschreiben die Autorinnen einen Kurs, in dem sie lernten, Versicherungsrisiken mithilfe von Krankenakten vorherzusagen. Der Lehrer sagte ihnen, sie sollten die Daten „reinigen“. Das bedeutete, jede Person zu finden, deren Krankengeschichte „merkwürdig“ aussah oder nicht dem Durchschnittsmuster entsprach, und diese zu löschen. Der Lehrer nannte diese Menschen „Rauschen“. Aber die Autorinnen erkannten etwas Beängstigendes: Die Menschen, die gelöscht wurden, waren oft diejenigen, die bereits am meisten zu kämpfen hatten – Menschen mit seltenen Krankheiten, Behinderungen oder unterschiedlichen Hintergründen. Indem sie diese Menschen wegwarfen, um die Mathematik „sauberer“ aussehen zu lassen, lehrte der Kurs sie, genau die Menschen zu ignorieren, die Hilfe am dringendsten benötigen. Die Autorinnen fühlten sich, als würden sie aufgefordert, Teile von sich selbst zu löschen, damit der Roboter besser funktioniert.

Szene 2: Das zweischneidige Schwert
In der zweiten Szene sprechen die Autorinnen über ihre Begeisterung, das Studium aufzunehmen. Sie wollten KI nutzen, um Gutes zu tun. Doch dann sahen sie Nachrichtenberichte darüber, wie dieselben KI-Werkzeuge, die sie studierten, von Armeen eingesetzt wurden, um Menschen in Kriegsgebieten zu verletzen. Sie versuchten, ihre Professoren und Kollegen darauf anzusprechen und fragten: „Sollten wir Werkzeuge bauen, die für Gewalt genutzt werden können?“ Anstatt eine tiefgründige Diskussion zu führen, wurde ihnen gesagt, sie sollten sich einfach darauf konzentrieren, die Technologie „ethischer“ oder „sicherer“ zu machen, als wäre das Problem nur ein kleiner Fehler, den man beheben könne. Die Autorinnen fühlten sich mundtot gemacht. Ihnen wurde gesagt, dass die Frage, ob die Technologie überhaupt existieren sollte, „simplistisch“ sei. Sie hatten das Gefühl, gezwungen zu werden, so zu tun, als fände das Schlimme nicht statt, damit sie ihre Jobs und Noten behalten konnten.

Szene 3: Einen sicheren Raum finden
Die dritte Szene ist der hoffnungsvolle Teil. Nachdem sie sich einsam und verwirrt gefühlt hatten, fanden die Autorinnen eine andere Gruppe von Menschen – eine Mischung aus Informatikern, Lehrern und Soziologen –, die bereit waren, über die schwierigen Themen zu sprechen. In dieser Gruppe eilte niemand vor. Sie nahmen sich Zeit zuzuhören. Sie versuchten nicht, die unordentlichen Teile des Gesprächs zu „reinigen“; stattdessen nutzten sie diese unordentlichen Teile, um das Problem besser zu verstehen. Zum ersten Mal fühlten sich die Autorinnen sicher. Sie erkannten, dass ihr Gefühl, eine Außenseiterin zu sein, nicht daran lag, dass sie selbst das Problem waren, sondern dass die übliche Art der KI-Forschung kaputt war.

Was sie fanden: Die „ungeerdete“ Box

Die Autorinnen erkannten, dass der Grund für ihre Entfremdung etwas ist, das sie „ungeerdete Abstraktion“ nennen.

Stellt euch „geerdete“ Forschung wie einen Baum mit tiefen Wurzeln vor. Die Wurzeln sind die reale Welt: die Menschen, die Geschichte, der Schmerz und die Freude. „Ungeerdete“ Forschung ist wie ein Baum, der von seinen Wurzeln abgeschnitten wurde und nun einfach in der Luft schwebt. Er sieht zwar aus wie ein Baum, kann aber kein Wasser trinken und keinen Wind spüren.

Das Papier argumentet, dass die KI-Forschung diese Wurzeln auf vier spezifische Arten kappt:

1. Zeugnis-Abstraktion (Testimony Abstraction): Wenn eine Forscherin sagt: „Hey, das verletzt Menschen“, und die Gemeinschaft antwortet: „Du bist keine echte Expertin, du bist nur emotional“, und sie ignoriert.
2. Zweck-Abstraktion (Purpose Abstraction): Wenn sich das Ziel eines Projekts ändert. Man beginnt mit „Lasst uns Menschen helfen“, aber die Art und Weise, wie Erfolg gemessen wird, wandelt sich zu „Lasst uns die höchste Punktzahl in einem Test erreichen“, und man vergisst die Menschen völlig.
3. Positions-Abstraktion (Position Abstraction): Wenn die Daten so behandeln, als wären alle gleich, und ignorieren, dass manche Menschen mehr Macht haben und andere weniger. Es ist, als würde man behaupten, ein reicher und ein armer Mensch hätten exakt dieselben Probleme.
4. Affekt-Abstraktion (Affect Abstraction): Dies ist die persönlichste Form. Es ist die Art und Weise, wie Forscher angewiesen werden, ihre Gefühle zu betäuben. Wenn man sieht, dass etwas Schlechtes passiert, soll man nichts fühlen, um weiterarbeiten zu können. Die Autorinnen sagen, dass dies gefährlich ist, weil eure Gefühle eigentlich ein Warnsystem sind, das euch mitteilt, dass etwas nicht stimmt.

Die Lösung: Auf das Bauchgefühl hören und zusammenstehen

Das Papier beschwert sich nicht nur; es bietet einen Weg zur Besserung an. Die Autorinnen schlagen zwei Hauptdinge vor:

Erstens: Kollektives Handeln (Collective Action). Man muss den Kampf gegen das System nicht alleine führen. Wenn man das Gefühl hat, dass etwas nicht stimmt, sucht nach anderen Menschen, die dasselbe fühlen. Wenn man zusammensteht, ist es schwieriger für das System, einen zu ignorieren oder einen für verrückt zu erklären. Die Autorinnen fanden ihre Stärke in einer Gruppe von Freunden, die offen über ihre Ängste sprachen.

Zweitens: Affektive Abstimmung (Affective Attunement). Das ist eine schicke Art zu sagen: „Hör auf deine Gefühle.“ Wenn du dich unwohl, wütend oder traurig über ein Projekt fühlst, dränge diese Gefühle nicht weg. Versuche nicht, sie zu „abstrahieren“. Behandle diese Gefühle stattdessen als wichtige Daten. Dein Bauchgefühl könnte das erste Anzeichen dafür sein, dass die Forschung jemandem schadet. Indem du auf deine Emotionen achtest, kannst du die „ungeerdete“ Forschung stoppen, bevor sie echten Schaden anrichtet.

Warum das wichtig ist

Die Autorinnen betonen vorsichtig, dass sie nicht sagen: „Hört auf, KI zu entwickeln.“ Sie lieben Technologie. Aber sie sagen, dass wir Dinge kaputt und gefährlich bauen werden, wenn wir weiterhin KI entwickeln, ohne auf die reale Welt zu schauen, ohne auf die Menschen zu hören, die verletzt werden, und ohne auf unsere eigenen Gefühle zu achten.

Sie schlagen vor, dass sich die Art und Weise, wie wir lehren und forschen, ändern muss. Wir müssen aufhören zu behaupten, dass wir die unordentlichen Teile des Lebens einfach „verpacken“ können. Wir müssen unsere Wurzeln in der realen Welt behalten. Nur so können wir eine KI erschaffen, die tatsächlich allen hilft und nicht nur denjenigen, die ordentlich in eine Box passen. Das Papier endet mit dem Angebot ihrer Ideen als Werkzeug für alle anderen, die sich in der Tech-Welt wie eine Außenseiterin fühlen, in der Hoffnung, dass sie durch das Teilen ihrer Geschichte andere dazu bewegen können, ihren eigenen Weg zu finden, um etwas zu bewirken.