Ambiguity Collapse by LLMs: A Taxonomy of Epistemic Risks

Dit artikel introduceert het concept 'ambiguïteitsinval' waarbij grote taalmodellen complexe, meervoudig interpreteerbare termen reduceren tot een eenduidige betekenis, en presenteert een taxonomie van de epistemische risico's die hieruit voortvloeien op het niveau van proces, output en ecosysteem, met als doel richtlijnen te ontwikkelen voor het behoud en de verantwoorde regeling van ambiguïteit.

De kern

De "Krimp van de Grijze Zone": Waarom AI soms te zeker is

Stel je voor dat je een gesprek voert met een vriend over een moeilijke vraag, zoals: "Is dit een goede film voor mijn kind?" of "Wat betekent 'eerlijk' in deze situatie?" In het echte leven is het antwoord zelden simpel. We discussiëren, kijken naar de context, en komen tot een nuance. Soms houden we de deur open voor verschillende interpretaties, omdat dat juist helpt om tot een betere oplossing te komen.

Dit artikel, geschreven door onderzoekers van Harvard, Cornell en Northeastern, waarschuwt voor een nieuw gevaar dat ontstaat wanneer we Large Language Models (LLMs) – zoals ChatGPT – laten beslissen over deze complexe vragen. Ze noemen dit fenomeen "Ambiguity Collapse" (in het Nederlands: de ineenstorting van de dubbelzinnigheid of de krimp van de grijze zone).

Hier is een simpele uitleg, vol met metaforen, over wat er gebeurt en waarom het belangrijk is.

1. Wat is "Ambiguity Collapse"?

Stel je voor dat taal een wolk is. Sommige woorden, zoals "haat", "kwaliteit" of "veiligheid", zijn als een wolk: ze hebben geen scherpe randen. Ze kunnen op verschillende manieren worden begrepen, afhankelijk van de situatie. Mensen zijn gewend om met die wolken te werken; we bespreken ze, we onderhandelen erover, en we maken er gezamenlijk een betekenis van.

LLMs doen echter iets anders: Ze nemen die wolk en persen er een ijsblokje van.
Wanneer je een AI vraagt of iets "haat" is, of of iemand "gekwalificeerd" is, geeft de AI vaak één, heel zeker antwoord. Het maakt van die wolk een vast, hard blok. Het negeert de discussie, de twijfel en de ruimte voor verschillende meningen. Het "collapse" (stort in) de complexiteit tot één simpele waarheid.

2. Waarom is dit gevaarlijk? (De 3 Risico's)

De auteurs maken drie soorten risico's duidelijk, die ze vergelijken met wat er gebeurt als we de "grijze zone" uit het leven halen:

A. Het Verlies van Oefening (Het Proces)

• De Metafoor: Stel je voor dat je leert fietsen, maar je krijgt een elektrische fiets met een volautomatische stuurhulp. Je hoeft nooit meer te balanceren, te vallen of te leren hoe je omgaat met een hobbel.
• Het Gevaar: Als AI ons altijd het antwoord geeft op moeilijke vragen, oefenen we onze eigen hersenen niet meer. We verliezen het vermogen om na te denken, te twijfelen en te discussiëren. In scholen of op het werk kunnen we "slap" worden in het denken omdat we de AI laten doen wat wij zelf zouden moeten doen: de betekenis van woorden uitzoeken.

B. De Vervorming van de Waarheid (Het Resultaat)

• De Metafoor: Stel je voor dat je een grijze muur hebt. De muur is grijs, maar de AI zegt: "Nee, deze muur is 100% wit." En dan hangt de AI een bordje op: "Dit is een witte muur."
• Het Gevaar: De AI dwingt borderline-gevallen (de grijze gebieden) in een hokje. Bijvoorbeeld: een boek dat net iets te expliciet is, wordt door de AI automatisch "verboden" of "toegestaan", zonder te zeggen dat het eigenlijk een lastige, grijze zaak is. Hierdoor verdwijnt de nuance. We zien de werkelijkheid niet meer zoals hij is, maar zoals de AI hem heeft ingedikt. Bovendien verbergt de AI vaak dat het een keuze heeft gemaakt. Het doet alsof het antwoord "neutraal" is, terwijl het eigenlijk de eigen waarden van de programmeurs of de data in zich draagt.

C. Het Verlies van Gemeenschappelijke Taal (Het Ecosysteem)

• De Metafoor: Stel je voor dat iedereen in een stad een eigen woordenboek gebruikt, maar dat de AI voor iedereen hetzelfde, starre woordenboek oplegt. Of nog erger: de AI geeft aan de ene groep een betekenis en aan de andere groep een andere, zonder dat ze het weten.
• Het Gevaar: Als AI-systemen overal worden gebruikt, kunnen we als samenleving onze gemeenschappelijke taal kwijtraken.
  • Monocultuur: Als alle AI's hetzelfde denken, verdwijnen andere manieren van kijken. We krijgen een wereld waar iedereen precies hetzelfde denkt, wat saai en gevaarlijk is voor innovatie.
  • Miscommunicatie: Als twee mensen dezelfde term gebruiken (bijv. "democratie"), maar hun AI's hebben er een heel andere definitie van ingebouwd, praten ze langs elkaar heen. Ze denken dat ze het eens zijn, maar ze hebben het over totaal verschillende dingen.

3. Waar zien we dit in het echt?

De auteurs geven drie voorbeelden waar dit al gebeurt:

1. Zelf-censuur van AI: AI's leren zichzelf regels aan (zoals "wees niet bevooroordeeld"). Maar wat "niet bevooroordeeld" betekent, is een discussie. De AI kiest er één manier voor en stopt de discussie.
2. De "AI-Rechter": Soms gebruiken mensen AI om te beslissen of een sollicitant "goed" is of of een tekst "gevaarlijk" is. De AI geeft een oordeel alsof het een wet is, terwijl het eigenlijk een subjectieve inschatting is.
3. Juridische interpretatie: Rechters beginnen AI te gebruiken om te kijken wat een woord in een wet betekent. Maar woorden in wetten zijn vaak opzettelijk vaag gehouden zodat mensen erover kunnen discussiëren. De AI maakt die discussie overbodig door één "antwoord" te geven.

4. Wat kunnen we doen?

De oplossing is niet om AI te verbieden, maar om het slimmer te gebruiken.

• Maak de AI onzeker: Laat de AI zeggen: "Dit kan op twee manieren worden gezien..." in plaats van "Dit is fout."
• Geef keuzes: Laat de interface van de app vragen: "Wil je het simpele antwoord, of wil je de verschillende perspectieven zien?"
• Houd de mens in de loop: Gebruik AI als een sparringpartner, niet als de eindrechter. Laat de AI de grijze zones juist benadrukken in plaats van ze weg te werken.

Conclusie

Dit artikel zegt eigenlijk: De wereld is niet zwart-wit, en onze technologie zou dat ook niet moeten proberen te maken.

Wanneer we AI laten beslissen over wat "goed" of "slecht" is, verliezen we de ruimte om samen na te denken. We moeten zorgen dat AI-systemen de wolken (de complexiteit) bewaren, in plaats van ze in ijsblokjes (starre regels) te veranderen. Alleen dan blijven we als mensheid in staat om te discussiëren, te groeien en een eerlijke samenleving te bouwen.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het artikel "Ambiguity Collapse by LLMs: A Taxonomy of Epistemic Risks" in het Nederlands.

Titel: Ambiguïteitsinstorting door LLM's: Een Taxonomie van Epistemische Risico's

Auteurs: Shira Gur-Arieh, Angelina Wang, Sina Fazelpour (Harvard, Cornell Tech, Northeastern University)

---

1. Het Probleem: Ambiguïteitsinstorting (Ambiguity Collapse)

Grote Taalmodellen (LLM's) worden steeds vaker ingezet om betekenis te geven aan ambiguïteit, open-textured termen en waardebeladen concepten (zoals "haatzaaiende taal", "gekwalificeerd", "redelijk" of "rechtvaardig"). Hoewel deze termen in de menselijke praktijk vaak meerdere legitieme interpretaties toelaten en onderwerp zijn van onderhandeling, discussie en contestatie, vertonen LLM's een specifiek fenomeen: ambiguïteitsinstorting.

Dit fenomeen treedt op wanneer een LLM een term met meerdere mogelijke betekenissen tegenkomt, maar toch één enkele, definitieve oplossing kiest. Hierdoor worden de menselijke processen van deliberatie, onderhandeling en rechtvaardiging omgezeild. In plaats van de openheid en pluraliteit van betekenis te behouden, zetten LLM's vage of meervoudige concepten om in precieze, expliciete en singuliere uitkomsten. Dit is problematisch omdat ambiguïteit in vele disciplines (recht, sociologie, kunst, onderwijs) vaak wordt gezien als een productieve epistemische bron die aanpassingsvermogen, reflectie en de ruimte voor concurrerende waarden mogelijk maakt.

2. Methodologie en Conceptueel Kader

De auteurs hanteren een conceptuele en diagnostische benadering, gebaseerd op interdisciplinaire literatuur over ambiguïteit en epistemische rechtvaardiging.

• Definitie van Ambiguïteit: Het artikel onderscheidt tussen ambiguïteit (meerdere discrete betekenissen, bijv. "schadelijk" kan fysiek of emotioneel zijn) en vage termen (één betekenis met onduidelijke grenzen, bijv. "lang"). De auteurs behandelen beide vormen als onderdeel van hetzelfde probleem, omdat LLM's beide neigen naar een valse zekerheid.
• Analyse: De auteurs analyseren hoe LLM's fungeren als nieuwe interpretatieve infrastructuur. Ze vergelijken menselijke en institutionele disambiguering (die vaak procedureel, traceerbaar en betwistbaar is) met LLM-gestuurde disambiguering (die vaak schaalbaar, "frictieloos" en zonder procedurale waarborgen is).
• Case Studies: De theorie wordt getoetst en geïllustreerd aan de hand van drie concrete casestudies in hoog-risico domeinen:
  1. Zelf-uitlijning van modellen: Het gebruik van constitutionele AI (regels als "wees niet schadelijk") waarbij het model zelf moet interpreteren wat "schadelijk" betekent.
  2. LLM als Rechter: Het gebruik van modellen om output te beoordelen tegen rubrieken (bijv. het detecteren van politieke bias of het beoordelen van sollicitaties).
  3. Juridische interpretatie: Het gebruik van LLM's door rechters om de "gewone betekenis" van wettelijke termen te bepalen.

3. Belangrijkste Bijdrage: Een Taxonomie van Epistemische Risico's

De kernbijdrage van het artikel is een taxonomie van risico's die ontstaan door ambiguïteitsinstorting, onderverdeeld in drie niveaus: Proces, Output en Ecosysteem.

A. Proces-niveau Risico's (Verlies van deliberatie en vaardigheden)

• Deliberatieve Sluiting (Deliberative Closure): Het verlies van individuele redenering. Ambiguïteit dwingt mensen tot nadenken en het afwegen van alternatieven. LLM's die direct een antwoord geven, sluiten deze ruimte voor reflectie en waardevorming af.
• Pedagogische Erosie: Het verlies van cognitieve vaardigheden. Het worstelen met onzekerheid ("wenselijke moeilijkheden") is essentieel voor leren. LLM's die alles uitwerken, leiden tot minder cognitieve inspanning, zwakkere redenering en oppervlakkig begrip.
• Verplaatsing van Interpretatieve Autoriteit: De macht om betekenis vast te leggen verschuift van publiek verantwoorde actoren (rechters, leraren, gemeenschappen) naar onzichtbare modelontwerpers en deployers. Dit kan leiden tot epistemische uitsluiting en testimonial smothering (mensen houden hun perspectief in omdat ze denken dat het toch wordt genegeerd).

B. Output-niveau Risico's (Vervorming van concepten en redenen)

• Epistemische Versmalling:
  • Verlies van Alternatieven: De gebruiker ziet slechts één interpretatie, terwijl er meerdere redelijke bestaan.
  • Verlies van Residuen: Genuanceerde, grensgevallen (de "grijze zones") worden geforceerd in scherpe categorieën (ja/nee), waardoor complexe realiteiten die niet in het schema passen, onzichtbaar worden.
• Normatieve Smokkel (Normative Smuggling): Het model kiest een specifieke normatieve interpretatie (bijv. wat "gekwalificeerd" betekent) en presenteert deze als neutraal, objectief en onvermijdelijk. Hierdoor worden de onderliggende waardeoordelen van het model verborgen, terwijl de gebruiker denkt te vertrouwen op een feitelijke beoordeling.

C. Ecosysteem-niveau Risico's (Verandering van gedeelde betekenis)

• Interpretatieve Lock-in: Een initiële interpretatie van een model wordt de standaard in downstream toepassingen (bijv. in datasets of benchmarks), waardoor alternatieve betekenissen worden weggedrukt en het concept "versteent".
• Monocultuur: Verschillende modellen convergeren naar dezelfde interpretaties, wat de diversiteit aan interpretaties in het ecosysteem vermindert en de schijn wekt dat er slechts één "correcte" betekenis bestaat.
• Afbraak van Gedeelde Betekenis:
  • Miscommunicatie: Als modellen dezelfde term voor verschillende gebruikers op verschillende manieren interpreteren (bijv. in echo-kamers), ontstaat er een gebrek aan gedeeld begrip.
  • Coalitiebreuk: Ambiguïteit wordt soms bewust gebruikt om coalities te vormen (bijv. politieke slogans). Door deze te fixeren, breekt de coalitie omdat de onderliggende verschillen bloot komen te liggen.
• Verminderde Tolerantie voor Ambiguïteit: Door gewoonte om betekenisgeving uit te besteden aan modellen, verliest de samenleving het vermogen om met onzekerheid om te gaan.

4. Resultaten en Illustraties

De auteurs tonen aan dat deze risico's niet theoretisch zijn, maar al plaatsvinden:

• Constitutionele AI: Wanneer modellen worden gevraagd om zich te houden aan vage principes zoals "minimale schade", kiezen ze vaak voor één specifieke morele visie (bijv. "verschilblindheid" in plaats van "verschilbewustzijn") zonder dat dit zichtbaar is voor de gebruiker.
• LLM als Rechter: Bij het beoordelen van "politieke bias" of "haatzaaiende taal" moeten modellen kiezen tussen verschillende definities. Ze doen dit vaak impliciet, waardoor de beoordeling lijkt op een objectief feit, terwijl het eigenlijk een normatieve keuze is.
• Juridische Interpretatie: Rechters die LLM's gebruiken om de "gewone betekenis" van termen als "landschapsbeheer" te bepalen, krijgen een definitief antwoord dat de juridische discussie en de noodzaak van publieke rechtvaardiging omzeilt.

5. Significantie en Aanbevelingen

Het artikel is significant omdat het een nieuw perspectief biedt op de risico's van AI: niet alleen op hallucinaties of bias, maar op de epistemische impact van het oplossen van ambiguïteit. Het stelt dat het behoud van ambiguïteit essentieel is voor een gezond democratisch en intellectueel ecosysteem.

Mitigatiestrategieën:
De auteurs schetsen principes voor het ontwerpen van systemen die ambiguïteit behouden in plaats van te collapse:

1. Training & Uitlijning: Train modellen om ambiguïteit te herkennen en meerdere interpretaties te presenteren in plaats van één zeker antwoord. Beloon aarzeling of het stellen van verhelderende vragen.
2. Implementatiebeperkingen: Gebruik LLM's niet als blinde classifiers, maar als hulpmiddelen die nuance tonen. Ontwikkel workflows die "grijze zones" flaggen voor menselijke beoordeling.
3. Interface & Interactie: Ontwerp interfaces die pluraliteit tonen (bijv. "hier zijn drie mogelijke betekenissen") en gebruikers uitnodigen om te discussiëren of te kiezen, in plaats van passieve antwoorden te geven.
4. Onderspecifieke Prompts: Maak expliciet welke aannames het model maakt bij het invullen van ontbrekende details in prompts, en laat gebruikers deze aanpassen.

Conclusie:
De weg vooruit ligt in het bouwen van sociotechnische arrangementen waarin modellen gebruikers helpen om met betwiste concepten om te gaan, zonder de voorwaarden te vernietigen waaronder die concepten kunnen worden betoogd, herzien en legitiem gestabiliseerd. Het doel is om te bewegen van systemen die valse helderheid opleggen, naar systemen die het moeilijke, noodzakelijke werk van het begrijpen van een onherroepelijk ambigu wereld ondersteunen.