The Costs of Pretending That There Are Data-Generating Probability Distributions in the Social World
Die Autoren argumentieren, dass die Annahme datengenerierender Wahrscheinlichkeitsverteilungen in der sozialen Welt nicht existiert und schädlich ist, und schlagen vor, stattdessen direkt relevante Populationen zu betrachten, ohne dabei die klassische Lerntheorie grundlegend zu verändern.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
🎲 Das große Missverständnis: Warum wir nicht wie ein Casino funktionieren
Stell dir vor, du bist ein Zauberkünstler, der versucht, die Zukunft vorherzusagen. In der Welt des maschinellen Lernens (KI) glauben viele Forscher, dass sie wie ein Casino funktionieren.
In einem Casino gibt es einen perfekten, unsichtbaren Mechanismus: Eine Roulettekugel fällt in ein Fach. Wenn du genug Zeit hast, kannst du berechnen: „Die Wahrscheinlichkeit, dass die Kugel auf Rot fällt, ist exakt 48,6 %.“ Das nennt man eine wahre Wahrscheinlichkeitsverteilung. Es ist eine feste, objektive Regel im Universum, die man nur „entdecken“ muss.
Die Autoren dieses Papers sagen jedoch: „Stopp! Das funktioniert bei Menschen nicht so."
1. Der Irrtum: Der „unsichtbare Gott der Daten"
Die meisten KI-Modelle gehen davon aus, dass die Daten, die wir über Menschen sammeln (z. B. „Wer begeht ein Verbrechen?", „Wer bekommt einen Kredit?"), wie Kugeln aus einem Zaubersack gezogen werden. Man glaubt, es gäbe eine „wahre Verteilung" da draußen, die man nur besser berechnen muss, um die perfekte Vorhersage zu treffen.
Die Analogie:
Stell dir vor, du versuchst, das Wetter für morgen vorherzusagen.
- Das Casino-Modell: Du glaubst, es gibt einen „Wetter-Gott", der jeden Tag eine Zahl zieht. Wenn du genug Daten hast, findest du heraus, dass er immer die Zahl 7 zieht, wenn es regnet.
- Die Realität (laut dem Paper): Menschen sind kein Wetter und kein Roulette. Menschen ändern sich, reagieren auf Vorhersagen und leben in einer chaotischen Welt. Es gibt keinen „Wetter-Gott", der eine feste Zahl zieht. Die „Wahrscheinlichkeit", dass du morgen einen Job findest, hängt nicht von einer unsichtbaren Formel ab, sondern davon, wie du dich heute verhältst, wie die Wirtschaft läuft und welche Entscheidungen andere treffen.
Die Pointe: In der sozialen Welt gibt es keine „wahren Wahrscheinlichkeiten", die man entdecken kann. Wir erfinden sie erst, indem wir Daten sammeln und zusammenfassen.
2. Das Problem mit der „Einzelkugel"
Das Paper zeigt ein extremes Beispiel:
Stell dir vor, du willst vorhersagen, ob jemand einen Kredit nicht zurückzahlt. Du hast eine extrem seltene Personengruppe: Nur drei Menschen auf der ganzen Welt passen genau auf dein Profil (z. B. „35 Jahre alt, rotes Haar, lebt in einer kleinen Stadt, mag Jazz").
Von diesen drei haben zwei den Kredit nicht zurückgezahlt.
- Das Casino-Modell sagt: „Die Wahrscheinlichkeit für diesen Typen ist also 2/3 (66 %). Das ist die Wahrheit!"
- Die Realität sagt: Das ist Unsinn! Wenn morgen ein vierter Mensch mit genau diesem Profil auftaucht und den Kredit zahlt, ändert sich die „Wahrscheinlichkeit" sofort auf 50 %.
Die Metapher:
Es ist, als würdest du versuchen, das Gewicht eines einzelnen Wassertropfens zu bestimmen, indem du nur drei Tropfen wiegst. Das Ergebnis ist nicht „die Wahrheit", sondern nur ein zufälliges Raten. Wenn wir KI-Modelle so behandeln, als gäbe es eine feste Wahrheit, dann bauen wir Modelle, die auf winzigen Zufällen basieren und bei der nächsten Person völlig danebenliegen.
3. Der gefährliche „Objektivitäts-Trick"
Warum ist das so schlimm? Weil es KI-Systemen einen falschen Anschein von Objektivität gibt.
Wenn ein Algorithmus sagt: „Dieser Bewerber hat eine 80 %ige Chance, den Job zu bekommen", klingt das nach einer harten, wissenschaftlichen Tatsache. Es klingt so, als hätte der Computer die „wahre Wahrscheinlichkeit" berechnet.
Die Wahrheit dahinter:
Der Computer hat keine Wahrheit berechnet. Er hat eine Entscheidung getroffen, wie er die Welt betrachtet.
- Welche Merkmale hat er gewählt? (Alter? Wohnort? Schulnoten?)
- Welche Gruppe von Menschen hat er als „ähnlich" definiert?
Die Analogie:
Stell dir vor, du willst vorhersagen, ob jemand ein guter Fußballspieler wird.
- Modell A vergleicht ihn nur mit Leuten, die sehr groß sind.
- Modell B vergleicht ihn mit Leuten, die sehr schnell sind.
Beide Modelle sind „mathematisch korrekt" basierend auf ihren Daten. Aber sie kommen zu völlig unterschiedlichen Ergebnissen! Das Paper sagt: Solange wir glauben, es gäbe eine „wahre Verteilung", denken wir, nur eines der Modelle sei richtig. In Wahrheit sind beide Konstruktionen unserer eigenen Wahl. Wir verstecken unsere Vorurteile hinter einer mathematischen Formel.
4. Was sollten wir stattdessen tun?
Die Autoren schlagen vor, aufzuhören, von „Wahrscheinlichkeiten" zu reden und stattdessen von konkreten Gruppen zu sprechen.
- Statt: „Wir berechnen die Wahrscheinlichkeit, dass diese Person straft."
- Sagen wir: „In unserer Gruppe von 10.000 ähnlichen Menschen aus dem letzten Jahr haben 200 eine Straftat begangen. Wenn wir diese Gruppe als Referenz nehmen, wie sieht es dann aus?"
Das klingt weniger magisch, aber es ist ehrlicher. Es erinnert uns daran, dass wir Muster erkennen wollen, um bessere Entscheidungen zu treffen, nicht dass wir eine göttliche Wahrheit enthüllen.
🎯 Das Fazit in einem Satz
Wir sollten aufhören, KI-Modelle wie einen perfekten Wahrsager zu behandeln, der eine unsichtbare „Wahrheit" über Menschen kennt. Stattdessen sollten wir sie als Werkzeuge sehen, die wir selbst bauen – mit all unseren Fehlern, Entscheidungen und Vorurteilen – und die wir offen dafür machen müssen, warum sie so entscheiden, wie sie entscheiden.
Kurz gesagt: Menschen sind keine Kugeln in einem Zaubersack. Wir sind lebendig, veränderlich und unsere „Wahrscheinlichkeiten" sind keine Entdeckungen, sondern Erfindungen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.