AI Pluralism and the Worlds It Misses
Dieses Paper argumentiert, dass KI-Pluralismus über die bloße Repräsentation diverser Werte hinausgehen muss, um die „ontologische Nivellierung“ zu adressieren, bei der KI-Systeme restriktive technische Kategorien auf komplexe Realitäten aufzuerlegen, und schlägt einen Rahmen für eine „pluralistische Lebenszyklus-Governance“ vor, um epistemische Inklusion und prozedurale Autorität während des gesamten KI-Entwicklungsprozesses zu gewährleisten.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Die Kernidee: Es geht nicht nur darum, „was“ die KI sagt, sondern „wie“ sie die Welt sieht
Stellen Sie sich vor, Sie versuchen, einem Roboter eine belebte Stadtstraße zu beschreiben. Sie könnten sagen: „Diese Straße ist ein Ort, an dem Nachbarn sich treffen, ein Platz für Kinder zum Spielen, ein riskanter Bereich in der Nacht, ein ruhiger Ort zur Reflexion und eine geschäftige Zone für den Handel.“
Die Arbeit argumentiert, dass die meisten heutigen KI-Systeme diese verschiedenen Geschichten nicht einfach nur anhören; sie zwingen die Straße dazu, eine einzige Sache zu werden, damit der Computer sie verstehen kann. Sie entscheiden vielleicht, dass die Straße einfach „sicher“ oder „unsicher“ ist, oder „inklusiv“ oder „nicht inklusiv“.
Der Autor nennt dies „Ontologische Nivellierung“ (Ontological Flattening).
- Die Metapher: Stellen Sie sich vor, man nimmt eine reiche, dreidimensionale Skulptur aus Ton, Holz und Glas und drückt sie flach gegen eine Wand, um daraus eine zweidimensionale Zeichnung zu machen. Die Zeichnung ist leichter zu messen und zu kopieren, aber sie verliert die Textur, die Tiefe und die Tatsache, dass das Objekt aus vielen verschiedenen Materialien besteht.
- Das Problem: Wenn KI die Welt „nivelliert“, verwandelt sie komplexe, chaotische menschliche Erfahrungen (wie Sicherheit, Komfort oder Zugehörigkeit) in einfache, feste technische Kategorien. Selbst wenn die KI Ihnen viele verschiedene Antworten gibt (Pluralismus), verwendet sie vielleicht immer noch dieselbe verflachte Landkarte, um diese Antworten zu finden.
Das Kernargument: Zwei Arten von „Pluralismus“
Die Arbeit besagt, dass wir zwischen zwei Dingen unterscheiden müssen:
- Ergebnispluralismus (Das „Was“): Die KI liefert Ihnen viele verschiedene Antworten.
- Analogie: Eine Speisekarte in einem Restaurant, die 50 verschiedene Gerichte anbietet.
- Der Haken: Selbst wenn es 50 Gerichte gibt, könnten sie alle aus exakt demselben Satz an Zutaten bestehen (derselben „verflachten“ Sicht auf die Welt).
- Prozeduraler Pluralismus (Das „Wie“): Die Menschen, die von der KI betroffen sind, dürfen entscheiden, was die Zutaten sind und wie die Speisekarte geschrieben wird.
- Analogie: Die Kunden dürfen dem Koch sagen: „Eigentlich sollte ‚Sicherheit‘ nicht nur ‚keine Kriminalität‘ bedeuten, sondern auch ‚das Gefühl, willkommen zu sein‘. Lass uns das Rezept ändern.“
Die Arbeit argumentiert, dass aktuelle KI-Systeme oft Ergebnispluralismus besitzen (viele Antworten), aber keinen prozeduralen Pluralismus (die Menschen können die Regeln des Spiels nicht ändern).
Die drei Praxisbeispiele (Die „Fälle“)
Der Autor untersuchte drei spezifische Projekte mit städtischen Straßen und KI, um aufzuzeigen, wo dies schiefläuft:
- Fall A (Der Bildgenerator): Eine KI wurde darauf trainiert, Bilder von „inklusiven“ öffentlichen Räumen zu generieren.
- Was passierte: Menschen gaben Feedback dazu, was ihnen gefiel. Die KI lernte, die „Gewinner-Bilder“ auszuwählen.
- Die Nivellierung: Die KI verwandelte komplexe Gefühle in einfache „Ich mag das“ vs. „Ich mag das nicht nicht“-Stimmen. Sie löschte die „Ich bin mir nicht sicher“ oder „Es kommt darauf an“-Antworten aus und erzwang eine binäre Entscheidung, wo eigentlich ein Graubereich existieren sollte.
- Fall B (Die Straßenkarte): Eine KI versuchte vorherzusagen, welche Straßen „inklusiv“ seien, basierend auf Fotos.
- Was passierte: Menschen bewerteten Straßen. Die KI lernte, Muster in den Fotos zu erkennen.
- Die Nivellierung: Die KI begann, „Inklusivität“ nur anhand dessen zu beurteilen, was sie sehen konnte (wie frische Farbe oder breite Gehwege). Sie übersah das Unsichtbare, wie etwa, ob die lokale Gemeinschaft sich dort tatsächlich sicher oder willkommen fühlte. Sie ersetzte ein tiefes menschliches Gefühl durch einen oberflächlichen visuellen Hinweis.
- Fall C (Der Testwert): Forscher testeten KI-Modelle darauf, wie gut sie Stadtszenen beschreiben.
- Was passierte: Sie verglichen KI-Antworten mit menschlichen Antworten.
- Die Nivellierung: Wenn Menschen uneinig waren (z. B. „Ist dieser Park sicher?“), behandelten die Forscher diese Uneinigkeit oft als „Rauschen“ oder Fehler. Die Arbeit argumentiert jedoch, dass diese Uneinigkeit tatsächlich wichtige Daten sind! Sie zeigt, dass das Konzept komplex ist, und nicht, dass der Mensch falsch liegt.
Die Lösung: Pluralistische Lebenszyklus-Governance (PLG)
Der Autor schlägt eine neue Art vor, KI-Systeme zu überprüfen, die Pluralistic Lifecycle Governance (PLG) genannt wird. Betrachten Sie dies nicht als einen Test, der eine Note vergibt (wie ein Zeugnis), sondern als eine Checkliste für Fairness, die den gesamten Lebenszyklus eines KI-Projekts abdeckt.
Sie stellt fünf große Fragen:
- Ist die Welt offen für Veränderungen? (Ontologische Offenheit)
- Frage: Können Menschen die Definitionen anfechten? Wenn die KI etwas als „riskant“ bezeichnet, kann die Gemeinschaft sagen: „Nein, das ist eigentlich ein Ort der Zuflucht“?
- Ziel: Die Regeln sollten nicht schon vor Projektbeginn in Stein gemeißelt sein.
- Werden alle Stimmen gehört? (Epistemische Inklusion)
- Frage: Vertraut die KI nur „Experten-Daten oder vertraut sie auch der gelebten Erfahrung normaler Menschen?
- Ziel: Die Geschichte einer Großmutter über eine Straße sollte als Beweis zählen, nicht nur ein Sensorwert.
- Haben Menschen echte Macht? (Prozedurale Autorität)
- Frage: Werden die Menschen nur nach ihrer Meinung gefragt (Stimme) oder können sie „Stopp“ sagen oder „Ändere das“ (Macht)?
- Ziel: Der Übergang von „Wir haben euch zugehört“ zu „Wir haben den Plan geändert, weil ihr es gesagt habt“.
- Ist Uneinigkeit sichtbar? (Evaluationspluralismus)
- Frage: Verbirgt der Bericht die Tatsache, dass Menschen uneinig waren, oder zeigt er die chaotische Realität?
- Ziel: Die Antworten nicht mitteln, um sie ordentlich aussehen zu lassen. Zeigen Sie die „Ich weiß es nicht“ und „Es kommt darauf an“-Antworten.
- Wer ist später verantwortlich? (Lebenszyklus-Verantwortlichkeit)
- Frage: Wenn die KI eingeführt wird, wer kann sie reparieren, wenn sie jemandem schadet?
- Ziel: Die Verantwortung endet nicht mit der Veröffentlichung der Software. Es muss einen Weg geben, die Regeln später anzupassen.
Das Fazit
Die Arbeit kommt zu dem Schluss, dass KI-Pluralismus nicht nur bedeutet, der KI mehr Optionen zu geben. Es geht darum, sicherzustellen, dass die KI nicht die chaotische, komplizierte und schöne Realität des menschlichen Lebens in eine einfache, starre Box presst.
Wenn wir wollen, dass KI wirklich fair ist, können wir sie nicht nur fragen, ob sie uns 100 verschiedene Antworten gibt. Wir müssen den Menschen, die von der KI betroffen sind, helfen zu entscheiden, was überhaupt die Fragen sind, und ihnen die Macht geben, die Regeln zu ändern, wenn die Antworten nicht zu ihrer Welt passen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.