Conformal Selective Prediction with General Risk Control

Titel: Conformal Selective Prediction met Algemene Risicobeheersing (SCoRE)

1. Probleemstelling

Bij het implementeren van kunstmatige intelligentie (AI) modellen is het onvermijdelijk dat fouten optreden door onvolledige modellering, steekproefonzekerheid en randomiteit in het trainingsproces. Een veelgebruikte aanpak om dit te beheersen is selectieve voorspelling (selective prediction): het model maakt alleen een voorspelling als het er zeker van is, en onthoudt zich anders (abstention).

Echter, bestaande methoden hebben twee belangrijke beperkingen:

1. Beperkte risicotypes: De meeste methoden richten zich op binaire risico's (bijv. "is de voorspelling fout of niet?"). Veel kritieke toepassingen vereisen echter controle over continu waarden risico's (bijv. de kosten van een valse leidraad in medicijnontwikkeling, of de kwadratische fout in een medische voorspelling).
2. Aannames en garanties: Bestaande methoden vertrouwen vaak op asymptotische garanties of uniforme concentratie-onzekerheidsintervallen, wat leidt tot conservatieve resultaten of onvoldoende controle in eindige steekproeven.

Het centrale vraagstuk is: Geven een black-box model $f$, gelabelde data en een nieuwe instantie, kunnen we een "vertrouwensbeslissing" ($\psi \in \{0,1\}$) afleiden die een onbekend, continu risico $L$ controleert voor de gevallen waarin we het model vertrouwen?

2. Methodologie: SCoRE Framework

De auteurs introduceren SCoRE (Selective Conformal Risk control with E-values), een raamwerk dat selectieve voorspelling koppelt aan hypothese-toetsing met e-waarden (e-values).

Kernconcepten:

• Risico-geadjusteerde e-waarden: In plaats van p-waarden (die werken met kansen), gebruikt SCoRE e-waarden. Een e-waarde $E$ is een niet-negatieve stochastische variabele waarbij de verwachting van het product met het risico $\leq 1$ is ($E[L \cdot E] \leq 1$). Grote e-waarden wijzen op een klein risico.
• Exchangeability: De methode vereist geen specifieke modellering van de data, maar alleen dat de data (calibratie en test) uitwisselbaar (exchangeable) zijn. Dit maakt het robuust en toepasbaar op elke black-box model.

Twee Risicometrieken:
SCoRE definieert en controleert twee soorten risico's voor de "positieve" (vertrouwde) gevallen:

1. Marginal Deployment Risk (MDR): De verwachte totale kosten van fouten over alle gedeployde gevallen. Dit is analoog aan het type-I foutpercentage in hypothese-toetsing.
   • Doel: $E[L \cdot \psi] \leq \alpha$.
2. Selective Deployment Risk (SDR): De verwachte gemiddelde kosten per gedeployde geval. Dit is een generalisatie van de False Discovery Rate (FDR).
   • Doel: $E\left[\frac{\sum L_j \psi_j}{1 \vee \sum \psi_j}\right] \leq \alpha$.

Het Algoritme:

1. Calibratie: Gebruik gelabelde calibratie-data om een "score" $s(X)$ te bouwen die het risico schat (of gerelateerde onzekerheid).
2. Constructie van E-waarden: Voor elke testinstantie wordt een e-waarde berekend door een infimum te nemen over mogelijke waarden van het onbekende risico, gebaseerd op de rangorde van de scores in de calibratie-data.
3. Beslissing:
   • Voor MDR: Deplooi het model als de e-waarde $\geq 1/\alpha$.
   • Voor SDR: Pas de e-BH procedure (e-value Benjamini-Hochberg) toe op de verzameling e-waarden om een selectie te maken die de FDR-achtige controle garandeert.

Uitbreiding naar Covariate Shift:
Het framework wordt uitgebreid naar situaties waar de verdeling van de testdata verschilt van de calibratie-data (covariate shift). Dit wordt gedaan door gewichten toe te passen in de constructie van de e-waarden, wat leidt tot dubbel robuuste garanties (guarantees die gelden als óf de gewichten correct zijn, óf het risicomodel correct is).

3. Belangrijkste Bijdragen

• Generalisatie van Risicobeheersing: SCoRE is de eerste methode die strikte, eindige-steekproef (finite-sample) en distributie-vrije garanties biedt voor continu waarden risico's in selectieve voorspelling.
• Gebruik van E-waarden: Het introduceert een nieuwe brug tussen conformele inferentie en e-waarden, wat toelaat om verwachtingen van risico's direct te controleren zonder uniforme concentratie-argumenten.
• Twee Complementaire Metrieken: Het biedt een unificerend kader voor zowel totale risico-controle (MDR) als gemiddeld risico per geval (SDR), wat essentieel is voor verschillende downstream toepassingen.
• Asymptotische Optimaliteit: De auteurs leiden af welke scores optimaal zijn om de "power" (het aantal nuttige selecties) te maximaliseren onder de risicobeperkingen. Voor MDR is dit gebaseerd op de verhouding risico/beloning; voor SDR op de verhouding van het excess risico tot de beloning.
• Robuustheid: De methode werkt onder covariate shift en biedt dubbel robuuste garanties bij geschatte gewichten.

4. Resultaten en Evaluatie

De auteurs evalueren SCoRE via simulaties en drie real-world toepassingen:

1. Medicijnontwikkeling (Drug Discovery):

   • Scenario: Selectie van drugkandidaten waarbij valse leidraden hoge ontwikkelkosten veroorzaken.
   • Resultaat: SCoRE controleert effectief de gemiddelde kosten van valse leidraden (SDR) en de totale kosten (MDR), zelfs onder covariate shift. Het selecteert meer waardevolle kandidaten dan basismethoden op basis van concentratie-onzekerheid.

2. Klinische Voorspelling (ICU Verblijfsduur):

   • Scenario: Voorspellen van de verblijfsduur op de intensive care.
   • Resultaat: SCoRE selecteert voorspellingen met een lage kwadratische fout (MSE), waardoor de totale fout in de gedeployde voorspellingen binnen de limiet blijft.

3. LLM Abstentie (Radiologie Verslaggeving):

   • Scenario: Genereren van radiologieverslagen door Large Language Models.
   • Resultaat: SCoRE selecteert verslagen die semantisch dicht bij expertverslagen liggen, met controle op de semantische afstand (continu risico). Het vermijdt het deployen van onbetrouwbare AI-verslagen.

Simulaties:
De simulaties tonen aan dat SCoRE:

• Strikte controle houdt over het nominale niveau $\alpha$ (de werkelijke risico's liggen onder de limiet).
• Significant meer "power" (meer nuttige selecties) biedt dan methoden gebaseerd op uniforme concentratie (zoals Hoeffding of Rademacher grenzen), die vaak te conservatief zijn.
• Robuust is bij het schatten van gewichten voor covariate shift.

5. Betekenis en Impact

De paper is van groot belang voor de ontwikkeling van betrouwbare AI (Trustworthy AI) in hoog-risico domeinen:

• Praktische Toepasbaarheid: Het biedt een wiskundig onderbouwde manier om AI-modellen in te zetten waar de kosten van fouten variëren en continu zijn (niet alleen "fout" of "goed").
• Veiligheid: Het stelt organisaties in staat om AI-systemen te gebruiken met een gegarandeerd maximum aan schade of kosten, wat cruciaal is voor medische toepassingen, farmaceutisch onderzoek en financiële planning.
• Methodologische Vooruitgang: Door e-waarden te integreren in conformele inferentie, opent het nieuwe wegen voor statistische controle in complexe, afhankelijke en verschuivende data-omgevingen, zonder zware modelaannames.

Samenvattend biedt SCoRE een krachtig, flexibel en wiskundig rigoureus instrument om AI-modellen selectief in te zetten met strikte controle over de gevolgen van fouten, zelfs wanneer die gevolgen complex en continu van aard zijn.