💬 NLP

Disentangling Ambiguity from Instability in Large Language Models: A Clinical Text-to-SQL Case Study

Dit artikel introduceert CLUES, een framework dat input-ambiguïteit ontkoppelt van modelinstabiliteit in klinische Text-to-SQL door semantische onzekerheid te decomponeren in afzonderlijke scores, waardoor gerichte interventies en efficiëntere foutentriage mogelijk worden in vergelijking met bestaande methoden.

Oorspronkelijke auteurs: Angelo Ziletti, Leonardo D'Ambrosi

Gepubliceerd 2026-07-09

📖 7 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Angelo Ziletti, Leonardo D'Ambrosi

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een detective bent die een mysterie probeert op te lossen met behulp van een superintelligente AI-assistent. Je stelt de AI een vraag over een enorme bibliotheek met medische dossiers, zoals: "Hoeveel patiënten boven de 18 hebben atopische dermatitis?" De AI komt misschien terug met een SQL-query (een speciale taal om de database te bevragen) en een antwoord. Maar hier is de crux: soms zit de AI ernaast, en soms zit hij ernaast om twee heel verschillende redenen.

De paper "Disentangling Ambiguity from Instability in Large Language Models" introduceert een nieuw detectivetool genaamd CLUES. De hoofdtaken hiervan zijn om uit te zoeken waarom de AI in de war is. Is de vraag zelf een raadsel met meerdere betekenissen (Ambiguïteit)? Of heeft de AI gewoon een slechte dag en gedraagt hij zich grillig (Instabiliteit)?

De Twee Soorten Verwarring

Beschouw het brein van de AI als een keuken.

1. Het Ambiguïteitsprobleem (Het Raadsel)
Stel je voor dat je de chef vraagt: "Maak me een broodje."

Interpretatie A: "Maak een kalkoenbroodje zonder mayonaise."
Interpretatie B: "Maak een hambroodje met extra kaas."
Als de chef beide maakt en jij krijgt twee verschillende broodjes, dan is dat Ambiguïteit. Het probleem lag niet bij de kookvaardigheden van de chef; het was jouw vage bestelling. In de medische wereld is vragen "Hoeveel patiënten boven de 18?" lastig. Betekent "boven de 18" hun leeftijd nu, of hun leeftijd op het moment van de eerste diagnose? Als de AI de verkeerde interpretatie kiest, geeft hij een fout antwoord. De paper suggereert dat wanneer dit gebeurt, de oplossing is om de mens te vragen: "Hé, bedoelde je de leeftijd nu of de leeftijd bij diagnose?"

2. Het Instabiliteitsprobleem (De Grillige Chef)
Stel je nu voor dat je de chef een kristalheldere opdracht geeft: "Maak een kalkoenbroodje zonder mayonaise."

Poging 1: Een perfect kalkoenbroodje.
Poging 2: Een verbrand kalkoenbroodje.
Poging 3: Een kalkoenbroodje met mayonaise (oeps!).
Hier was de opdracht perfect, maar de chef is instabiel. Dit is Instabiliteit. De AI is in de war over zijn eigen interne regels of heeft gewoon een glitch. De paper suggereert dat je bij dit type verwarring niet de mens om verduidelijking moet vragen; je moet het antwoord markeren zodat een mens het kan controleren of de training van de AI kan verbeteren.

De Oude Manier vs. De CLUES-Manier

Voordat deze paper bestond, gebruikten onderzoekers een enkele score (genaamd Kernel Language Entropy of KLE) om te meten hoe "door elkaar gehusseld" de antwoorden van de AI waren.

De Oude Manier: Als de AI vijf verschillende antwoorden gaf, ging de score omhoog. Maar de oude score kon niet vertellen waarom. Was het omdat de vraag een raadsel was, of omdat de AI aan het glitchen was? Het was als een rookmelder die alleen maar schreeuwt "Brand!", zonder te zeggen of het een echte brand is of gewoon aangebrand brood.
Het Argument van de Paper: De auteurs pleiten expliciet tegen het gebruik van slechts één score. Ze zeggen dat je de twee soorten verwarring moet scheiden om te weten wat je moet doen.

Hoe CLUES Werkt: De Magische Grafiek

De auteurs bouwden een framework genaamd CLUES (Conditional Language Uncertainty via Entropy and Schur). Ze behandelen het denkproces van de AI als een tweekerig spektakel:

Fase 1 (De Interpretatie): De AI raadt wat de vraag zou kunnen betekenen. Hij schrijft een paar verschillende versies van de vraag op.
Fase 2 (Het Antwoord): Voor elke versie van de vraag probeert de AI meerdere keren antwoord te geven.

Om de verwarring te meten, tekenen ze een enorme kaart (een "bipartieve semantische grafiek").

Eén kant van de kaart bevat de Vragen (Interpretaties).
De andere kant bevat de Antwoorden.
Ze verbinden deze met lijnen. Als twee vragen vergelijkbaar zijn, is de lijn dik. Als twee antwoorden vergelijkbaar zijn, is de lijn dik.

Vervolgens gebruiken ze een slimme wiskundige truc, de Schur complement (stel je dit voor als een wiskundig filter dat de "vraagverwarring" aftrekt van de "totale verwarring").

Het Resultaat: Ze krijgen twee aparte getallen:
- $H_I$ (Ambiguïteitsscore): Hoeveel de vragen van elkaar verschillen.
- $H_{R|I}$ (Instabiliteitsscore): Hoeveel de antwoorden verschillen zelfs wanneer de vraag vaststaat.

Wat de Cijfers Zeggen

Het team testte dit op twee soorten puzzels:

Algemene Trivia: Ze gebruikten 300 vragen uit AmbigQA en 300 uit SituatedQA.
- Ze ontdekten dat de nieuwe Instabiliteitsscore ( $H_{R|I}$ ) veel beter was in het voorspellen wanneer de AI zou falen dan de oude enkele score.
- Bijvoorbeeld, op het KimiK2-model voorspelde de oude score falen met een nauwkeurigheid (AUROC) van 0,663, terwijl de nieuwe CLUES-score naar 0,770 sprong.
- Ze merkten ook op dat als ze simpelweg de scores van elkaar zouden aftrekken (een "naïeve" methode), dit rampzalig verliep en in 37% tot 60% van de gevallen negatieve getallen opleverde. Dit bewees dat hun complexe wiskundige truc noodzakelijk was.
Medische Dossiers (De Praktijk): Ze testten dit op een klinische Text-to-SQL dataset met 2.180 vragen.
- Hier was de nieuwe score nog beter. De oude score had een nauwkeurigheid van 0,600, terwijl CLUES de 0,762 bereikte.
- Ze ontdekten dat de "Instabiliteit"-score vooral goed was in het opsporen van momenten waarop de AI gewoon grillig was.

De "Regime"-Strategie: De Rommel Sorteren

De paper stelt voor om elke vraag in een van de vier "Regimes" te sorteren op basis van de twee scores:

Regime I (Zelfverzekerd): Lage Ambiguïteit, Lage Instabiliteit. -> Beantwoord het automatisch.
Regime II (Ambiguïteit): Hoge Ambiguïteit, Lage Instabiliteit. -> Vraag de mens om verduidelijking.
Regime III (Instabiliteit): Lage Ambiguïteit, Hoge Instabiliteit. -> Markeer voor menselijke controle.
Regime IV (Gecombineerd): Hoge Ambiguïteit, Hoge Instabiliteit. -> Doe beide!

Dit sorteren is een game-changer voor de efficiëntie. In hun deployment-test ontdekten ze dat Regime IV (de rommelige, risicovolle zone) verantwoordelijk was voor 51% van alle fouten, ook al bevatte het slechts 25% van de totale vragen.

De Les: Als je alleen de rommelige 25% van de vragen naar een mens stuurt om te controleren, vang je de helft van alle fouten! Dat is twee keer zo efficiënt als het willekeurig controleren van vragen.

Hoe Zeker Zijn Ze?

De auteurs zijn vrij zelfverzekerd over hun resultaten, maar ze zijn voorzichtig om de aard van hun bevindingen niet te overschatten.

Ze hebben het framework gedemonstreerd en de effectiviteit ervan gevalideerd door middel van empirisch bewijs op specifieke datasets (AmbigQA, SituatedQA en hun klinische benchmark), in plaats van een theoretisch wiskundig bewijs te leveren voor de onderliggende vergelijkingen.
Ze hebben de verbetering in real-world-achtige omgevingen gemeten, waarbij ze lieten zien dat de nieuwe score consequent beter is in het opsporen van fouten.
Ze geven echter toe dat in een echte operationele omgeving waar fouten zeldzaam zijn (slechts ongeveer 4,4% van de vragen was fout in hun test), het systeem nog niet perfect is. Het is een geweldig hulpmiddel voor "triage" (sorteren), maar het lost niet elk probleem automatisch op.
Ze merken ook een beperking op: het systeem moet eerst meerdere interpretaties genereren, wat meer rekenkracht kost. Als de AI die de interpretaties genereert slecht is, kan het hele systeem in de war raken.

De Kern van het Verhaal

De paper beweert niet dat ze de onzekerheid van AI hebben "opgelost". In plaats daarvan suggereren ze dat we, door een tweestaps-proces en een speciale wiskundige filter (de Schur complement) te gebruiken, eindelijk het verschil kunnen zien tussen een verwarrende vraag en een glitchende AI. Dit stelt ons in staat om te stoppen met gokken en de juiste actie te ondernemen: hulp vragen wanneer de vraag vaag is, of het werk controleren wanneer de AI onvoorspelbaar gedrag vertoont. Dit is een stap richting het veiliger en betrouwbaarder maken van AI-artsen en AI-onderzoekers.

Technische Samenvatting: Het ontwarren van ambiguïteit en instabiliteit in Large Language Models

Probleemstelling

Het inzetten van Large Language Models (LLM's) voor klinische Text-to-SQL-toepassingen stuit op een kritische barrière: het risico op het genereren van syntactisch correcte maar semantisch foutieve queries. Een primaire uitdaging is latente ambiguïteit, waarbij invoervragen impliciete onzekerheden bevatten (bijv. "patiënten ouder dan 18" wat kan verwijzen naar leeftijd bij diagnose versus huidige leeftijd), die de resultaten aanzienlijk veranderen maar niet evident zijn voor de gebruiker.

Huidige methoden voor onzekerheidskwantificatie, zoals Kernel Language Entropy (KLE), leveren een enkele score die de outputdiversiteit meet. Echter, deze aanpak combineert twee fundamenteel verschillende bronnen van onzekerheid:

Input Ambiguïteit (Aleatorisch-achtig): Diversiteit voortvloeiend uit de inherente ambiguïteit van de vraag van de gebruiker, die legitiem meerdere geldige interpretaties oplevert.
Model Instabiliteit (Epistemisch-achtig): Diversiteit voortvloeiend uit de interne inconsistentie of het gebrek aan kennis van het model bij het verwerken van een enkele, heldere interpretatie.

Deze samensmelting belemmert effectieve systeemimplementatie. Hoge ambiguïteit zou een verhelderingsdialoog met de gebruiker moeten triggeren, terwijl hoge instabiliteit een query moet markeren voor menselijke beoordeling. Bestaande methoden kunnen deze regimes niet onderscheiden, wat gerichte interventies verhindert.

Methodologie: Het CLUES-framework

De auteurs stellen CLUES voor (Conditional Language Uncertainty via Entropy and Schur), een framework dat Text-to-SQL modelleert als een tweestaps generatief proces om semantische onzekerheid te decomponeren.

1. Tweestaps Generatief Proces

Het systeem wordt geformaliseerd als:

Interpretatiefase: Het systeem genereert $N$ verschillende semantische interpretaties ( $I = \{I_1, ..., I_N\}$ ) die plausibele lezingen van de oorspronkelijke query vertegenwoordigen.
Generatiefase: Voor elke interpretatie $I_n$ genereert het systeem $M$ kandidaat SQL-queries en bijbehorende antwoorden ( $R_n = \{R_{n,1}, ..., R_{n,M}\}$ ).
Deze structuur creëert een bipartiete relatie waarbij diversiteit over interpretaties heen ambiguïteit vertegenwoordigt, en diversiteit binnen een enkele interpretatie instabiliteit vertegenwoordigt.

2. Constructie van een Bipartiete Semantische Graaf

Een gelijkenisfunctie $k(\cdot, \cdot)$ wordt gebruikt om een gewogen adjacency matrix $W$ voor het gehele systeem te construeren, gestructureerd als een bipartiete graaf:
$W = \begin{pmatrix} W_{II} & W_{IR} \\ W_{RI} & W_{RR} \end{pmatrix}$

$W_{II}$ : Codeert de semantische gelijkenis tussen interpretaties.
$W_{RR}$ : Codeert de semantische gelijkenis tussen alle gegenereerde antwoorden.
$W_{IR}/W_{RI}$ : Binaire toewijzingsmatrices die antwoorden koppelen aan hun ouder-interpretatie.

Een heat diffusion kernel ( $K_\tau = e^{-\tau L}$ ) wordt toegepast om deze gelijkenissen te verzachten, waarbij $\tau$ de granulariteit van het clustering bepaalt.

3. Decompositie via de Schur-complement

De kerninnovatie is de decompositie van totale onzekerheid in een Ambiguïteitsscore ( $H_I$ ) en een Instabiliteitsscore ( $H_{R|I}$ ).

Ambiguïteit ( $H_I$ ): Berekend als de entropie van de interpretatiematrix $W_{II}$ met behulp van het KLE-framework.
Instabiliteit ( $H_{R|I}$ ): Gedefinieerd als de conditionele entropie van resultaten gegeven interpretaties. De auteurs verwerpen de naïeve aftrekwijze ( $H_{R,I} - H_I$ ) omdat deze de ketenregel voor von Neumann-entropie op heat-kernel dichtheidsmatrices schendt en frequent negatieve waarden oplevert.
Schur Complement Oplossing: In plaats van aftrek, berekent het framework de conditionele gelijkenisstructuur direct:
$S = W_{RR} - W_{RI}(W_{II} + \epsilon I)^{-1}W_{IR}$
De matrix $S$ vertegenwoordigt de residuele gelijkenis in antwoorden die niet verklaard kan worden door de interpretatiestructuur. De entropie van $S$ levert $H_{R|I}$ op. Deze aanpak garandeert niet-negatieve scores en isoleert wiskundig de interne inconsistentie van het systeem.

4. Onzekerheidsregimes

Het framework definieert vier operationele regimes op basis van drempelwaarden voor $H_I$ en $H_{R|I}$ :

Regime I (Zeker): Lage ambiguïteit, lage instabiliteit $\rightarrow$ Automatisch antwoord.
Regime II (Ambiguïteit): Hoge ambiguïteit, lage instabiliteit $\rightarrow$ Trigger verhelderingsdialoog.
Regime III (Instabiliteit): Lage ambiguïteit, hoge instabiliteit $\rightarrow$ Markeren voor menselijke beoordeling.
Regime IV (Gecombineerd): Hoge ambiguïteit, hoge instabiliteit $\rightarrow$ Verheldering + Beoordeling.

Belangrijkste Bijdragen

CLUES Framework: Een model-agnostische methode om semantische onzekerheid te decomponeren in ambiguïteit en conditionele instabiliteit met behulp van de Schur-complement van een bipartiete semantische graaf.
Klinische Dataset & Procedure: Een interpretatie-generatieprocedure voor epidemiologische vragen en een klinische Text-to-SQL benchmark die meerdere geldige interpretaties bevat voor bekende queries.
Empirische Validatie: Bewijs dat $H_{R|I}$ de falenvoorspelling verbetert ten opzichte van de state-of-the-art KLE ( $H_R$ ) en effectieve foutentriage mogelijk maakt via regime-gebaseerde routering.

Experimentele Resultaten

Open-Domain QA (AmbigQA & SituatedQA)

Gebruikmakend van gold-standard interpretaties, werd CLUES geëvalueerd over vijf frontier LLM's.

Falen Voorspellen: De instabiliteitsscore $H_{R|I}$ presteerde consequent beter dan de baseline $H_R$ in het voorspellen van fouten (AUROC-verbeteringen van +0,074 tot +0,077 op gepoolde data).
Regime Discriminatie: Onder queries met een hoge outputdiversiteit (hoge $H_R$ ), hadden queries met een lage instabiliteit ( $H_{R|I}$ ) een significant hogere nauwkeurigheid dan die met een hoge instabiliteit. Bijvoorbeeld, in SituatedQA daalde de nauwkeurigheid van 46,8% (Regime A) naar 13,3% (Regime B), een statistisch significant verschil (odds ratio ~5,7).
Faal van Naïeve Aftrek: De naïeve aftrekbenadering ( $\tilde{H}_{R|I}$ ) leverde in 37–60% van de gevallen negatieve waarden op en presteerde nabij toeval, wat de noodzaak van de Schur-complement valideert.

Klinische Text-to-SQL (Bekende Interpretaties)

Geëvalueerd op een dataset afgeleid van EHRSQL en EpiAskKB met 2.180 query-model instanties.

Prestaties: $H_{R|I}$ bereikte een gepoolde AUROC van 0,762 vergeleken met 0,600 voor $H_R$ (p < $10^{-10}$ ).
Robuustheid: De instabiliteitsscore bleef stabiel over verschillende heat kernel parameters ( $\tau \in [2, 20]$ ), terwijl de baseline $H_R$ aanzienlijk degradeerde bij hogere $\tau$ .
Temperatuurgevoeligheid: Matige sampling temperaturen (T=1.0–1.5) leverden de sterkste instabiliteitssignalen op, wat suggereert dat hogere diversiteit latente modelinstabiliteit blootlegt.

Deployment Setting (Gegenereerde Interpretaties)

In een productie-achtige setting waar interpretaties on-the-fly worden gegenereerd (niet gegeven als gold labels):

Nauwkeurigheid: Modellen bereikten een hoge nauwkeurigheid (84–100%), wat resulteert in schaarse fouten (4,4% foutpercentage).
Regime Efficiëntie: Hoewel de single-score AUROC niet significant verschilde tussen $H_R$ en $H_{R|I}$ in dit schaarse regime, bleek de regime-analyse waardevol. Regime IV (Hoge Ambiguïteit + Hoge Instabiliteit) bevatte 51% van alle fouten terwijl het slechts 25% van de queries besloeg.
Routering: Een strategie die alleen Regime IV naar menselijke beoordeling routeert, vangt de helft van alle fouten op door slechts een kwart van de queries te beoordelen, wat de efficiëntie verdubbelt ten opzichte van willekeurige selectie.

Betekenis en Claims

Het artikel claimt dat CLUES een diagnostische decompositie biedt die onbeschikbaar is via single-score metrieken. Door onderscheid te maken tussen input ambiguïteit en model instabiliteit, maakt het framework gerichte interventies mogelijk:

Verheldering voor queries met hoge ambiguïteit.
Menselijke Beoordeling voor queries met hoge instabiliteit.

De auteurs benadrukken dat dit onderscheid operationeel cruciaal is voor veiligheidskritische domeinen zoals klinische EHR-toegang, waar "plausibele maar incorrecte" resultaten aanzienlijke risico's vormen. Het framework is ontworpen om model-agnostisch te zijn, waarbij enkel output sampling vereist is, en biedt een wiskundig gefundeerde aanpak voor onzekerheid die de valkuilen van naïeve entropie-aftrek vermijdt.

De auteurs merken bescheiden de beperkingen op, waaronder de computationele kosten van meerdere LLM-aanroepen per query en de afhankelijkheid van de kwaliteit van de gegenereerde interpretaties. Ze erkennen ook dat in omgevingen met een hoge nauwkeurigheid, het schaarse foutpercentage de discriminerende kracht van fijnmazige onzekerheidssignalen beperkt, hoewel regime-gebaseerde routering nog steeds efficiëntievoordelen biedt ten opzien van willekeurige selectie.