Technische Samenvatting: ECUASn – Een Familie van Metrieken voor Principiële Evaluatie van Onzekerheid-Verrijkte Systemen

Probleemstelling

Bij risicovolle geautomatiseerde besluitvorming hebben gebruikers (mensen of downstream-systemen) toegang nodig tot voorspellende onzekerheid om te beslissen of ze de output van een systeem accepteren of verwerpen, gebaseerd op applicatiespecifieke kostenafwegingen. Deze systemen, aangeduid als Onzekerheid-Verrijkte (UA) systemen, geven zowel een kandidaatvoorspelling als een onzekerheidsscore uit.

De huidige literatuur evalueert UA-systemen met losgekoppelde metrieken:

1. Voorspellingskwaliteit: Gemeten via nauwkeurigheid of foutpercentage.
2. Onzekerheidskwaliteit: Gemeten via binaire classificatiemetrieken (bijv. AUC, ECE, Brier-score) die onzekerheid behandelen als een voorspeller van onjuiste antwoorden.
3. Geïntegreerde Metrieken: Benaderingen zoals het Oppervlak onder de Risico-Dekkingscurve (AURC) integreren deze aspecten door een verwerpingsdrempel te variëren.

De auteurs betogen dat deze benaderingen ontoereikend zijn. Afzonderlijke metrieken geven geen weer van de waarde die wordt geboden aan de gebruiker die een definitieve beslissing neemt. Bovendien zijn AURC en zijn varianten invariant ten opzichte van monotoon transformaties van de onzekerheidsscore; ze belonen rangschikking maar straffen geen slecht gekalibreerde onzekerheden (over- of onderschatting) zolang de relatieve volgorde behouden blijft. Dit is een kritiek gebrek voor systemen waarbij onzekerheid moet worden geïnterpreteerd als een waarschijnlijkheid van correctheid. Daarnaast vereisen bestaande methoden vaak het vaststellen van een specifieke verwerpingskost ($\gamma$) tijdens de ontwikkeling, wat mogelijk niet bekend is of kan variëren tussen gebruikers en instanties.

Methodologie

Het paper stelt ECUASn (Verwachte Kosten voor Onzekerheid-Verrijkte Systemen) voor, een familie van metrieken gebaseerd op Bayesiaanse besluittheorie.

1. Besluittheoretische Grondslag

De auteurs definiëren een UA-systeem als een functie $f^{UA}: \mathcal{X} \to \tilde{\mathcal{D}} \times \mathbb{R}_{\ge 0}$, die een kandidaatrespons $\tilde{d}$ en een onzekerheidsscore $u$ uitbrengt. De definitieve beslissing $d$ is ofwel $\tilde{d}$ of een verwerping $d_r$.

Een kostenfunctie $C_\gamma(y, d)$ wordt gedefinieerd op basis van een verwerpingskost $\gamma$:
$$C_\gamma(y, d) = \begin{cases} \tilde{C}(y, d) & \text{als } d \in \tilde{\mathcal{D}} \\ \gamma & \text{als } d = d_r \end{cases}$$
waarbij $\tilde{C}$ de kosten van de kandidaatrespons zijn, gegeven de grondwaarheid $y$.

2. Afleiding van Behoorlijke Scorende Regels (PSR)

Om het vaststellen van $\gamma$ te vermijden, construeren de auteurs een metriek die systemen belonen die probabilistisch interpreteerbare onzekerheden produceren.

• Bayes-beslissing: Voor een gegeven kostenfunctie en een conditionele verdeling $q$ over klassen, minimaliseert de optimale beslissing de verwachte kosten. De verwachte kosten van de optimale beslissing, aangeduid als $u_{\tilde{C}}(q)$, dienen als de theoretische onzekerheid.
• Behoorlijke Scorende Regel (PSR): Door de kostenfunctie te evalueren bij de Bayes-beslissing, wordt een nieuwe kostenfunctie $C^*_\gamma(y, q)$ afgeleid. Deze functie is een Behoorlijke Scorende Regel, wat betekent dat deze in verwachting wordt geminimaliseerd wanneer de voorspelde verdeling overeenkomt met de ware verdeling. Deze eigenschap zorgt ervoor dat de metriek goed gekalibreerde waarschijnlijkheden belooft, in tegenstelling tot AURC.

3. De ECUASn-familie

Om een metriek te creëren die onafhankelijk is van een specifieke verwerpingskost, integreren de auteurs de PSR $C^*_\gamma$ over een bereik van mogelijke verwerpingskosten $\gamma$, gewogen door een functie $w(\gamma)$.
$$C^*_w(y, q) = \int_{0}^{u_M} w(\gamma) C^*_\gamma(y, q) d\gamma$$
De auteurs parameteriseren de weegfunctie als $w_n(\gamma) \propto \gamma^{n-1}$, wat resulteert in de ECUASn-metriek. De parameter $n$ beheert de afweging:

• $n=0$: Straft zwaar onjuiste voorspellingen die met hoge zekerheid worden gedaan (hoge onzekerheid is vereist voor verwerping). Dit wordt aanbevolen voor risicovolle scenario's.
• $n \to \infty$: De metriek degenereren naar de standaard 0-1 foutenrate, waardoor deze minder gevoelig wordt voor de kwaliteit van de onzekerheidsscore zelf.

4. Toepassing op Generatieve Systemen

Voor generatieve modellen wordt het concept van "correctheid" gedefinieerd over semantische equivalentieklassen in plaats van exacte string-overeenkomsten. De auteurs betogen dat voor optimale besluitvorming onzekerheid moet worden berekend over de verdeling van deze equivalentieklassen, en niet over individuele tokenreeksen. Dit biedt een theoretische rechtvaardiging voor empirische bevindingen dat semantische entropie betere onzekerheidsscores oplevert. In de praktijk wordt voor generatieve taken aangenomen dat het aantal klassen $K$ naar oneindig nadert.

Belangrijkste Bijdragen

1. Principiële Metriekvervanging: Introductie van ECUASn, een familie van metrieken gebaseerd op besluittheorie die AURC vervangt. In tegenstelling tot AURC, belooft ECUASn onzekerheden die probabilistisch interpreteerbaar zijn (behoorlijke scorende regels), terwijl het agnostisch blijft ten opzichte van een specifieke verwerpingskost.
2. Theoretisch Inzicht in Generatieve Onzekerheid: Een theoretische verklaring waarom onzekerheidsscores afgeleid van semantische equivalentieklassen (in plaats van individuele voorspellingen) superieur zijn voor generatieve systemen. Dit is direct afgeleid uit de constructie van de Bayes-beslissingskosten.
3. Geparametriseerde Afweging: De introductie van de parameter $n$, waarmee practitioners de metriek kunnen afstemmen op het specifieke risicoprofiel van hun toepassing (bijv. $n=0$ voor risicovolle verwerpingsscenario's).

Empirische Resultaten

De auteurs hebben ECUASn geëvalueerd op diverse classificatie- en generatiedatasets:

• Classificatie: Experimenten op taal (AGNews, SST-2), spraak (SITW, FVCAUS) en afbeelding (CIFAR-10/100) datasets.
  • Kalibratie-impact: ECUASn-metrieken (met name voor lage $n$) detecteerden succesvol verbeteringen in systeemkwaliteit door post-hoc kalibratie, terwijl AURC vaak onveranderd bleef omdat het invariant is voor monotoon transformaties die de rangschikking behouden.
  • Naïeve Baseline: ECUASn identificeerde correct systemen die, ondanks goede kalibratiescores (zoals CE of Brier-score op de verdeling $q$), slechter presteerden dan een naïef op prior gebaseerd systeem wanneer het gecombineerde output van voorspelling en onzekerheid werd beschouwd.
• Generatie (TriviaQA & MMLU): Experimenten met verschillende LLM's (Qwen, Ministral, Gemini) en drie methoden voor het eliciteren van vertrouwen (Sequence Posterior, Is True, Verbalized).
  • Metriek-Disagreement: De rangschikking van methoden voor het eliciteren van vertrouwen varieerde aanzienlijk afhankelijk van de gebruikte metriek. Bijvoorbeeld, de "Verbalized"-methode had vaak het beste foutpercentage (ER) maar slechte kalibratie, wat leidde tot hoge ECUASn-scores (slechtere prestaties) vergeleken met "Sequence Posterior".
  • Gevoeligheid voor Grondwaarheid: De auteurs hebben handmatig een subset van TriviaQA (455 samples) samengesteld om fouten in automatische semantische equivalentielabeling te corrigeren. Ze toonden aan dat automatische evaluatie de rangschikking van systemen drastisch kan veranderen, wat de noodzaak benadrukt van zorgvuldige evaluatieprotocollen.

Betekenis en Aanspraken

Het paper stelt dat ECUASn een omvattende beoordeling biedt van UA-systemen door de impact van zowel onjuiste voorspellingen als imperfecte onzekerheden te integreren in één waarde.

• Besluittheoretische Uitlijning: De metrieken zijn ontworpen om de daadwerkelijke bruikbaarheid van het systeem voor een gebruiker die beslissingen neemt onder onzekerheid weer te geven, in plaats van alleen statistische eigenschappen van de output te meten.
• Kalibratiegevoeligheid: Door probabilistische interpreteerbaarheid te belonen, adresseert ECUASn een groot nadeel van AURC, dat geen onderscheid maakt tussen goed en slecht gekalibreerde onzekerheden als de rangschikking behouden blijft.
• Praktische Bruikbaarheid: Het kader stelt gebruikers in staat een $n$-waarde te selecteren die past bij hun risicotolerantie, waardoor het een flexibel instrument wordt voor het evalueren van systemen in risicovolle omgevingen waar de kosten van een vals positief (het accepteren van een fout antwoord) ernstig zijn.

De auteurs concluderen dat, hoewel ECUASn ervan uitgaat dat de gebruiker opereert binnen een besluittheoretisch kader (minimaliseren van verwachte kosten), het een robuuster en principieler alternatief biedt voor de huidige evaluatiepraktijken voor onzekerheid-verrijkte systemen.