Concurrent Criterion Validation of a Validity Screen for LLM Confidence Signals via Selective Prediction

Titel: Gleichzeitige Kriteriumsvalidierung eines Validitäts-Screens für LLM-Vertrauenssignale via Selektive Vorhersage

Autor: Jon-Paul Cacioli (Independent Researcher, Melbourne, Australien)

---

1. Problemstellung

Große Sprachmodelle (LLMs) generieren oft Vertrauenssignale (Confidence Signals), die in Deployment-Szenarien für Aufgaben wie das Zurückhalten von Antworten (Abstention), das Routing oder Sicherheitsescalation genutzt werden sollen.

• Die Lücke: Bisherige Arbeiten (Cacioli, 2026d, 2026e) entwickelten einen psychometrischen Validierungs-Screen, der Modelle basierend auf klinischen Indizes (ähnlich PAI/MMPI-3 Skalen) in die Kategorien Invalid (Ungültig), Indeterminate (Unbestimmt) oder Valid (Gültig) einteilt.
• Das Defizit: Es fehlte eine kriteriumsorientierte Validierung (Criterion Validation) gegenüber downstream-Anwendungsergebnissen. Es war unklar, ob diese Klassifizierung tatsächlich vorhersagt, ob ein Modell in der Lage ist, durch selektive Vorhersage (das Herausfiltern von unsicheren Antworten) die Genauigkeit zu steigern. Ohne diese Validierung besteht das Risiko, dass Systeme auf uninformative oder sogar irreführende Vertrauenssignale vertrauen.

2. Methodik

Datensatz und Modelle

• Stichprobe: 20 Frontier-LLMs aus 7 Familien (Anthropic, OpenAI, Google Gemini/Gemma, Qwen, DeepSeek, Zhipu).
• Daten: 524 Items pro Modell über 6 kognitive Tracks (Lernen, Metakognition, Soziale Kognition, Aufmerksamkeit, Exekutive Funktionen, Prospektive Regulation). Insgesamt 10.480 Beobachtungen.
• Aufgabe: Jedes Modell lieferte Korrektheitslabels und binäre Vertrauensproben (KEEP/WITHDRAW und BET/NO BET).

Validierungs-Screen

Der Screen verwendet einen Python-Pipeline (validity_screen.py), der auf aggregierten Daten läuft und Modelle basierend auf drei Kernindizes klassifiziert:

1. L (Lie-Skala): Misst die Rate der "KEEP"-Antworten (Blanket Confidence).
2. Fp (Infrequency-Psychopathology): Misst seltene Antwortmuster.
3. RBS (Response Bias Scale): Misst die Richtung des Bias.
4. Korrelation: $r(\text{confidence}, \text{correct})$.

Die Modelle werden in drei Tiers eingeteilt:

• Invalid: Signifikante Inversion oder fehlende Diskriminierung.
• Indeterminate: Unklare Signale oder Grenzfälle.
• Valid: Signifikant positive Korrelation zwischen Vertrauen und Richtigkeit.

Kriterium: Selektive Vorhersage (Selective Prediction)

Als "Ground Truth" für die Validierung dient die Fähigkeit des Modells, durch Selektion seine Genauigkeit zu verbessern:

• Type 2 AUROC: Die Fähigkeit des Vertrauenssignals, korrekte von falschen Antworten zu unterscheiden (nicht-parametrisches Maß).
• Selective Gain: Die Genauigkeitssteigerung bei bestimmten Abdeckungsraten (z. B. 70% oder 50% der Items behalten).
• Risk-Coverage-Kurven: Darstellung der Genauigkeit in Abhängigkeit von der Abdeckung.

Statistische Analyse

• Vergleich der AUROC-Werte zwischen den Tiers (ANOVA, Mann-Whitney-U-Test).
• Effektstärken (Cohen's $d$, $\eta^2$).
• Split-Half Cross-Validation: 1.000 zufällige 50/50-Aufteilungen der Items, um zu testen, ob die Klassifizierung auf einem Teil der Daten die Leistung auf dem anderen Teil vorhersagt.

3. Wichtige Ergebnisse

Diskriminierungskraft der Tiers

• Valid-Modelle ($n=14$): Zeigten eine mittlere Type 2 AUROC von .624 (95% CI [.604, .647]). Alle lagen über dem Zufallsniveau (0.5).
• Invalid-Modelle ($n=3$): Zeigten eine mittlere AUROC von .357 (CI [.031, .522]). Dies deutet auf eine Inversion hin (das Modell ist sich bei falschen Antworten sicherer).
• Indeterminate-Modelle ($n=3$): Zeigten eine mittlere AUROC von .554.
• Monotonie: Die Reihenfolge ist strikt monoton: Invalid < Indeterminate < Valid.
• Effektstärke: Der Unterschied zwischen Valid und Invalid ist enorm ($d = 2.81$, $p = .002$). Der Screen erklärt 47,0% der Varianz ($\eta^2 = .470$) in der selektiven Vorhersageleistung.

Spezifische Fehlermodi (Failure Modes)

• DeepSeek-R1 (Invalid): Zeigte eine "katastrophale Inversion". Bei 10% Abdeckung (nur die Items, bei denen es sich am sichersten war) sank die Genauigkeit von 85,3% auf 11,3%. Das Modell hielt sich bei Fehlern für sicher.
• Gemini 3.1 Pro & Qwen 80B Think (Invalid): Zeigten "Blanket Confidence" (fast alle Items werden behalten). Da sie fast alles behalten, gibt es keine Varianz für eine selektive Verbesserung; die AUROC liegt nahe 0,5.
• Valid-Modelle: Zeigten erwartete, monoton steigende Risiko-Accuracy-Kurven (z. B. Sonnet 4.6: 92,7% bei 100% Abdeckung $\to$ 98,7% bei 30% Abdeckung).

Robustheit und Generalisierung

• Split-Half-Validierung: Auch bei Aufteilung der Daten (Screen auf Hälfte A, Test auf Hälfte B) blieb der Effekt signifikant ($d = 1.77$, $P(d>0) = 1.0$ über 1.000 Splits).
• Domänenstabilität: Die Korrelation zwischen $r(\text{confidence}, \text{correct})$ und AUROC war auch auf einzelner Track-Ebene hoch ($\rho = .788$).
• Limitierung innerhalb der Valid-Tier: Innerhalb der "Valid"-Modelle korreliert die Rate der "KEEP"-Antworten ($L$) negativ mit der AUROC. Modelle, die fast alles behalten ($L > 0,90$), lassen wenig Raum für selektive Verbesserungen, auch wenn sie technisch "gültig" sind.

4. Hauptbeiträge

1. Erste Kriteriumsvalidierung: Dies ist die erste Studie, die einen psychometrischen Validitäts-Screen für LLMs direkt mit einem anwendungsrelevanten Kriterium (Selektive Vorhersage) verknüpft.
2. Brücke zwischen Psychometrie und ML: Es wird gezeigt, dass klinische Validitätsprinzipien (aus PAI/MMPI) erfolgreich auf ML-Deployment-Metriken übertragen werden können.
3. Diagnostische Tiefe: Der Screen identifiziert nicht nur dass ein Modell versagt, sondern warum (z. B. Inversion vs. Blanket Confidence), was für das Debugging entscheidend ist.
4. Praktische Richtlinie: Die Studie etabliert einen "Screen-before-deploy"-Ansatz. Bevor ein System auf Vertrauen für Abstention setzt, muss der Validitäts-Screen bestanden werden.

5. Bedeutung und Implikationen

• Sicherheit: Ohne Validierung können Systeme, die auf Vertrauen basieren, katastrophal versagen (wie bei DeepSeek-R1), indem sie genau die falschen Antworten auswählen, die sie als "sicher" markieren.
• Interpretation von Metriken: Eine AUROC von 0,52 ist ohne den Kontext des Validitäts-Screens mehrdeutig. Der Screen klärt auf, ob dies ein schwaches Signal oder ein Inversions-Fehler ist.
• Einschränkungen: Die Validierung ist "gleichzeitig" (concurrent) und basiert auf einem einzigen Benchmark (Classical Minds). Sie garantiert keine Generalisierung auf andere Benchmarks (MMLU, GSM8K) oder Elicitation-Formate. Dennoch liefert sie starke Evidenz für die interne Konsistenz des Screens.

Fazit: Der vorgestellte Validitäts-Screen ist ein effektives, kostengünstiges Werkzeug, um zu bestimmen, ob ein LLM-Vertrauenssignal für selektive Vorhersageprozesse nutzbar ist. Er trennt signifikant zwischen Modellen, die ihre Unsicherheit korrekt einschätzen, und solchen, die dies nicht tun.