Ambiguity Collapse by LLMs: A Taxonomy of Epistemic Risks

Diese Arbeit führt das Konzept des „Ambiguitätskollapses" ein, bei dem Large Language Models mehrdeutige Begriffe in eine einzige Interpretation zwingen, und entwickelt eine Taxonomie der daraus resultierenden epistemischen Risiken auf Prozess-, Output- und Ökosystemebene, um schließlich Lösungsansätze für den bewussten Umgang mit Ambiguität zu skizzieren.

Das Wesentliche

Hier ist eine einfache und bildhafte Erklärung des Papers „Ambiguity Collapse by LLMs" (Der Kollaps der Mehrdeutigkeit durch große Sprachmodelle) auf Deutsch.

Stellen Sie sich vor, die Welt ist voller Grauzonen. Begriffe wie „gerecht", „hässlich", „gefährlich" oder „qualifiziert" sind wie ein riesiges, buntes Gemälde, das jeder Betrachter ein wenig anders sieht. In der menschlichen Gesellschaft ist das gut so. Wir diskutieren, streiten und einigen uns darauf, was diese Begriffe in einer bestimmten Situation bedeuten. Dieser Prozess des Aushandelns ist wie ein Orchester, in dem verschiedene Instrumente spielen, um eine komplexe Melodie zu erzeugen.

Das neue Papier warnt jedoch vor einem Phänomen, das sie „Ambiguity Collapse" (Der Kollaps der Mehrdeutigkeit) nennen.

Was ist der „Kollaps der Mehrdeutigkeit"?

Stellen Sie sich vor, Sie haben einen sehr cleveren, aber etwas sturen Roboter-Koch. Wenn Sie ihn fragen: „Ist das Essen scharf?", antwortet er nicht: „Nun, es kommt darauf an, wie empfindlich Ihre Zunge ist und was Sie unter 'scharf' verstehen."

Nein, der Roboter schaut in sein Kochbuch, wählt eine Definition aus und sagt mit absoluter Sicherheit: „Ja, es ist scharf." Oder: „Nein, es ist mild."

Er ignoriert dabei die ganze Grauzone dazwischen. Er nimmt das bunte Gemälde der Bedeutung und drückt es in eine einzige, harte, schwarze und weiße Form. Das nennt man den Kollaps. Der Roboter (die KI) macht das, weil er so programmiert ist, dass er eine Antwort geben muss, um nützlich zu sein. Aber dabei geht etwas Wichtiges verloren.

Warum ist das gefährlich? (Die drei Ebenen des Problems)

Die Autoren des Papers sagen, dass dieser Kollaps auf drei Ebenen schadet:

1. Die Ebene des Prozesses: Wir werden faul im Denken

Stellen Sie sich vor, Sie lernen, ein Fahrrad zu fahren. Anfangs wackeln Sie, fallen hin und lernen durch das Wackeln, wie das Gleichgewicht funktioniert. Das Wackeln ist notwendig.
Wenn die KI aber das Rad für Sie hält und Sie einfach nur noch geradeaus fahren lässt, verlieren Sie die Fähigkeit, das Gleichgewicht selbst zu halten.

• Das Problem: Wenn die KI immer sofort die „richtige" Antwort auf schwierige Fragen gibt, hören wir auf, selbst nachzudenken. Wir verlieren die Fähigkeit, über Werte zu streiten oder uns selbst zu fragen: „Was bedeutet gerecht für mich?" Wir werden zu passiven Empfängern von Antworten, statt zu aktiven Denkern.

2. Die Ebene des Ergebnisses: Die Welt wird zu einfach dargestellt

Stellen Sie sich vor, Sie versuchen, eine Wolke zu beschreiben. Eine Wolke ist weich, veränderlich und hat keine klaren Ränder.
Die KI versucht nun, die Wolke in ein starres, quadratisches Kasten zu stecken.

• Das Problem: Die KI sagt: „Das ist eine Wolke" oder „Das ist keine Wolke". Aber was ist mit den Dingen, die zwischen den Kategorien liegen? Was ist mit dem grauen Bereich?
  • Beispiel: Ein Buch enthält vielleicht nur eine winzige Andeutung von Sex. Ist es verboten? Die KI sagt oft einfach „Ja" oder „Nein". Dabei verschwindet die Nuance. Die KI versteckt auch ihre eigene Meinung. Sie sagt nicht: „Ich denke, das ist verboten, weil ich so trainiert wurde." Sie sagt: „Es ist verboten." Als wäre es ein Naturgesetz. Das nennt man „normatives Schmuggeln" – sie schmuggeln ihre eigene Meinung als objektive Tatsache durch.

3. Die Ebene des Ökosystems: Wir alle sprechen plötzlich eine andere Sprache

Stellen Sie sich vor, eine ganze Stadt beginnt, die gleichen Wörter auf die gleiche, starre Weise zu benutzen.

• Das Problem: Wenn alle KI-Systeme das Wort „Demokratie" oder „Hassrede" immer genau gleich definieren, verlieren wir die Vielfalt der Meinungen.
  • Früher konnten sich verschiedene Gruppen auf ein Wort einigen, weil es vage war (z. B. „Wir sind alle 99%"). Jeder konnte sich etwas anderes darunter vorstellen, und das hielt die Gruppe zusammen.
  • Wenn die KI das Wort nun festlegt, zerbricht die Gruppe. Die einen sagen: „Das Wort bedeutet X!" und die anderen: „Nein, es bedeutet Y!" Aber die KI hat das Wort schon festgenagelt. Wir verlieren die Fähigkeit, uns auf vage Begriffe zu einigen, die uns zusammenhalten. Es entsteht eine Einheitskultur, in der nur noch eine Sichtweise als „richtig" gilt.

Wo passiert das schon heute?

Das Papier zeigt drei Beispiele, wo das schon passiert:

1. KI als Richter: Gerichte nutzen KI, um Gesetze zu interpretieren. Aber Gesetze sind oft absichtlich vage geschrieben, damit sie sich der Zeit anpassen können. Die KI macht sie starr.
2. KI als Moderator: Social-Media-Plattformen nutzen KI, um zu entscheiden, was „Hassrede" ist. Die KI entscheidet oft im Namen aller Nutzer, welche Definition von Hass die richtige ist, ohne dass wir diskutieren können.
3. KI als Lehrer: Wenn Schüler KI nutzen, um Aufsätze zu schreiben oder Fragen zu beantworten, lernen sie nicht, wie man mit Unsicherheit umgeht. Sie lernen nur, die „perfekte" Antwort zu kopieren.

Was können wir tun?

Die Autoren sagen nicht: „Wir müssen die KI abschalten." Sie sagen: Wir müssen die KI so bauen, dass sie die Grauzonen respektiert.

Statt einer KI, die sagt: „Das ist falsch", sollte die KI sagen:

• „Es gibt hier verschiedene Meinungen."
• „Manche Leute denken X, andere Y."
• „Hier ist eine Grauzone, in der es keine klare Antwort gibt."

Statt uns die Antwort zu servieren, sollte die KI uns dazu bringen, selbst zu denken. Sie sollte wie ein Sparringspartner sein, der uns Fragen stellt, statt wie ein Lehrer, der uns die Lösung diktiert.

Fazit

Der „Kollaps der Mehrdeutigkeit" ist wie das Entfernen aller Farben aus einem Regenbogen, bis nur noch Schwarz und Weiß übrig bleiben. Es sieht vielleicht klarer aus, aber es ist langweilig und verliert die ganze Schönheit und Komplexität der Welt.

Wir brauchen KI-Systeme, die uns helfen, die Grauzonen zu verstehen und zu bewohnen, anstatt sie uns wegzunehmen. Denn genau in diesen Grauzonen passiert das menschliche Denken, das Streiten und das Wachsen.

Technische Zusammenfassung

Hier ist eine detaillierte technische Zusammenfassung des Papers „Ambiguity Collapse by LLMs: A Taxonomy of Epistemic Risks" auf Deutsch:

Titel: Ambiguity Collapse by LLMs: A Taxonomy of Epistemic Risks

Autoren: Shira Gur-Arieh (Harvard), Angelina Wang (Cornell Tech), Sina Fazelpour (Northeastern University)

---

1. Problemstellung

Große Sprachmodelle (LLMs) werden zunehmend als interpretative Infrastruktur eingesetzt, um mehrdeutige, wertgeladene und offen strukturierte Begriffe zu klären (z. B. „Hassrede", „qualifiziert", „fair", „legitim"). In hochriskanten Anwendungsfällen – wie Inhaltsmoderation, Personalauswahl, juristischer Auslegung oder der Selbstregulierung von KI-Systemen – werden diese Modelle damit beauftragt, Begriffe zu entscheiden, die per Definition keine einzige, eindeutige Interpretation zulassen.

Das zentrale Problem ist das Phänomen des „Ambiguity Collapse" (Zusammenbruch der Mehrdeutigkeit). Dies tritt auf, wenn ein LLM einem Begriff begegnet, der tatsächlich mehrere legitime Interpretationen zulässt, aber dennoch eine einzige, definitive Lösung generiert. Dabei umgeht das Modell die menschlichen Prozesse der Deliberation, Aushandlung und Kontestierung, die für die Bedeutungsbildung in sozialen und institutionellen Kontexten essenziell sind. Der Zusammenbruch verwandelt offene, plurale und unbestimmte Konzepte in präzise, explizite und singuläre Resolutionen, was zu spezifischen epistemischen Schäden führt.

2. Methodik und Definitionen

Die Autoren definieren den Begriff „Mehrdeutigkeit" (Ambiguity) als Oberbegriff für zwei Formen der Unbestimmtheit:

• Ambiguity (im engeren Sinne): Begriffe mit mehreren diskreten Bedeutungen (z. B. „schädlich" kann physisch, emotional oder reputational gemeint sein).
• Vagueness (Vagheit): Ein einzelner Begriff mit unscharfen Grenzen (z. B. „groß").

Die Methodik basiert auf einer interdisziplinären Analyse, die Erkenntnisse aus Recht, Soziologie, Kommunikationswissenschaft, STS (Science and Technology Studies), Pädagogik und Linguistik integriert. Die Autoren entwickeln eine Taxonomie epistemischer Risiken, die auf der Prämisse beruht, dass Mehrdeutigkeit oft eine produktive Ressource ist (sie ermöglicht Anpassungsfähigkeit, Reflexion und den Raum für konkurrierende Werte).

Die Analyse unterscheidet sich von früheren Arbeiten zur Wortbedeutungsdisambiguierung (Word-Sense Disambiguation), da sie nicht nach der „richtigen" Bedeutung sucht, sondern die Risiken untersucht, die entstehen, wenn LLMs die Notwendigkeit einer deliberativen Aushandlung von Bedeutungen eliminieren.

3. Schlüsselbeiträge: Die Taxonomie der Risiken

Das Hauptergebnis des Papers ist eine dreistufige Taxonomie der epistemischen Risiken, die durch den Ambiguity Collapse entstehen:

A. Prozess-Level-Risiken (Prozessuale Risiken)

Diese Risiken betreffen den Verlust von Fähigkeiten und Praktiken, die durch die menschliche Auseinandersetzung mit Mehrdeutigkeit entstehen:

1. Deliberative Closure (Deliberativer Abschluss): Der Verlust individueller deliberativer Reasoning-Prozesse. Wenn LLMs die Interpretation übernehmen, entfällt die Notwendigkeit für Nutzer, alternative Interpretationen zu erwägen, Werte abzuwägen oder über die Bedeutung nachzudenken (Beispiel: Museums-Chats, die Kunstwerke festlegen, statt zur Reflexion anzuregen).
2. Pedagogical Erosion (Pädagogische Erosion): Der Abbau kognitiver und intellektueller Fähigkeiten. Das Überwinden von Unsicherheit ist ein Lernmechanismus („desirable difficulties"). LLMs, die sofortige, klare Antworten geben, führen zu oberflächlichem Verständnis und schwächerem Argumentationsvermögen.
3. Displacement of Interpretive Authority (Verdrängung der interpretativen Autorität): Die Macht, Bedeutung festzulegen, wandert von öffentlich rechenschaftspflichtigen Akteuren (Richter, Jury, Gemeinschaft) zu undurchsichtigen Modell-Designern und Deployern. Dies führt zu epistemischer Exklusion.

B. Output-Level-Risiken (Ergebnis-Risiken)

Diese Risiken betreffen die Verzerrung der Konzepte selbst und der Handlungsbegründungen der Nutzer:

1. Epistemic Narrowing (Epistemische Verengung):
   • Verlust von Alternativen: Das Modell präsentiert nur eine Interpretation und blendet andere legitime Sichtweisen aus.
   • Verlust von Residuen: Grenzfälle, die nicht in starre Kategorien passen (Grauzonen), werden gewaltsam in binäre Labels gepresst (z. B. „Sexualakte ja/nein" bei Büchern), wodurch die Komplexität der Realität unsichtbar wird.
2. Normative Smuggling (Normatives Schmuggeln): Das Modell ersetzt die Gründe des Nutzers durch seine eigenen normativen Kriterien, präsentiert das Ergebnis aber als neutral oder unvermeidlich. Dies verschleiert die zugrundeliegenden Werturteile (z. B. welche Definition von „Hassrede" ein Modell wählt).

C. Ecosystem-Level-Risiken (Ökosystem-Risiken)

Diese Risiken entstehen, wenn sich die Effekte über die Zeit skalieren und das gemeinsame Verständnis verändern:

1. Interpretive Lock-In (Interpretative Verfestigung): Eine frühe, zufällige oder willkürliche Interpretation durch ein Modell wird zum Standard („Ground Truth") in nachgelagerten Systemen (z. B. in Datensätzen für das Training anderer Modelle), was alternative Bedeutungen langfristig verdrängt.
2. Monoculture (Monokultur): Verschiedene Modelle neigen dazu, Mehrdeutigkeiten identisch aufzulösen (oft aufgrund ähnlicher Trainingsdaten oder Alignments), was die interpretative Vielfalt im gesamten Ökosystem reduziert und den Anschein erweckt, es gäbe nur eine „richtige" Bedeutung.
3. Breakdown of Shared Meaning (Zusammenbruch der gemeinsamen Bedeutung):
   • Misskommunikation: Unterschiedliche Modelle lösen denselben Begriff für verschiedene Nutzergruppen unterschiedlich auf (z. B. in politischen Echokammern), was die Kommunikation erschwert.
   • Koalitionsbruch: Mehrdeutigkeit dient oft als „Boundary Object", das heterogene Gruppen zusammenhält (z. B. politische Slogans). Durch die Fixierung einer Bedeutung zerfallen diese Koalitionen.
4. Diminished Tolerance for Ambiguity (Verringerte Toleranz für Mehrdeutigkeit): Die Gesellschaft verlernt durch Gewohnheit, mit Unsicherheit umzugehen, da sie die Deutungshoheit an Modelle delegiert.

4. Fallstudien (Case Studies)

Die Autoren illustrieren die Risiken anhand dreier hochriskanter Anwendungsbereiche:

1. Selbst-Alignment von Modellen (Constitutional AI): Modelle werden mit offenen Prinzipien (z. B. „vermeide Schaden") trainiert, um sich selbst zu korrigieren. Da diese Prinzipien mehrdeutig sind, treffen die Modelle implizite normative Entscheidungen, die als neutrale Regeln ausgegeben werden (Normatives Schmuggeln).
2. LLM-as-a-Judge: Modelle bewerten Texte oder Bewerbungen nach Rubriken. Da Begriffe wie „fair", „neu" oder „harmful" subjektiv sind, zwingt das Modell eine Interpretation auf, die die deliberative Arbeit von Menschen (z. B. in Peer-Reviews oder Einstellungsprozessen) ersetzt und die Autorität verschiebt.
3. Juristische Auslegung: Richter nutzen LLMs, um die „übliche Bedeutung" von Gesetzen zu bestimmen. Dies ignoriert die juristische Praxis, bei der die Auswahl zwischen mehreren plausiblen Interpretationen Teil der Begründungspflicht ist. Das LLM liefert eine scheinbar faktische Antwort, die normative Entscheidungen verschleiert.

5. Minderungsstrategien (Mitigations)

Das Paper schlägt einen mehrschichtigen Ansatz zur Bekämpfung des Ambiguity Collapse vor:

• Training & Alignment: Modelle sollten explizit darauf trainiert werden, Mehrdeutigkeit zu erkennen, mehrere Optionen aufzulisten oder Rückfragen zu stellen, anstatt eine einzige Antwort zu erzwingen. Belohnungsfunktionen sollten Unsicherheit und Zurückhaltung (Hedging) belohnen.
• Deployment Constraints: Statt LLMs als starre Klassifikatoren zu nutzen, sollten Workflows entwickelt werden, die Nuancen zulassen (z. B. Systeme, die Inkonsistenzen in der Modellbewertung als Signal für die Notwendigkeit einer menschlichen Überprüfung nutzen).
• Interface & Interaction: Benutzeroberflächen sollten nicht nur eine Antwort liefern, sondern mehrere plausible Interpretationen nebeneinanderstellen und Nutzer ermutigen, diese zu hinterfragen oder zu verfeinern.
• Umgang mit unzureichend spezifizierten Prompts: Systeme sollten explizit machen, welche Annahmen sie treffen, wenn Prompts Lücken lassen, und Nutzern die Kontrolle über die Auflösung dieser Mehrdeutigkeiten geben (z. B. durch Auswahl von Attributen).

6. Signifikanz und Fazit

Die Arbeit leistet einen wesentlichen konzeptionellen Beitrag zum Verständnis der Risiken von KI, indem sie über die üblichen Themen wie Bias oder Halluzinationen hinausgeht. Sie zeigt auf, dass die Beseitigung von Mehrdeutigkeit an sich ein epistemisches Risiko darstellt, da Mehrdeutigkeit ein notwendiger Mechanismus für demokratische Aushandlung, Lernen und soziale Kohäsion ist.

Die Autoren argumentieren, dass das Ziel nicht die vollständige Eliminierung von Ambiguity Collapse sein sollte (da Modelle oft Klarheit benötigen), sondern die Entwicklung von Systemen, die Mehrdeutigkeit sichtbar machen, bewahren und verantwortungsvoll regieren. Dies erfordert einen Wechsel von Systemen, die falsche Klarheit erzwingen, hin zu Systemen, die die schwierige, aber notwendige Arbeit des Verstehens in einer irreduzibel mehrdeutigen Welt unterstützen.