Technische Samenvatting: Onzekerheidsschatting via Hypersferische Vertrouwenskartering

1. Probleemstelling

Het kwantificeren van onzekerheid in voorspellingen van neurale netwerken is cruciaal voor het inzetten van AI in hoog-risicodomeinen zoals autonoom rijden, gezondheidszorg en halfgeleiderproductie. Bestaande methoden voor onzekerheidsschatting staan voor aanzienlijke afwegingen:

• Op steekproeven gebaseerde methoden (bijv. Monte Carlo Dropout, Deep Ensembles) zijn effectief, maar brengen aanzienlijke reken- en geheugenoverhead met zich mee, wat de toepasbaarheid in real-time beperkt.
• Op verdeling gebaseerde methoden (bijv. Gaussische regressie, Evidential Learning) bieden deterministische inferentie, maar vertrouwen op sterke parametrische aannames (bijv. Gaussische of Dirichlet-priors) die mogelijk geen complexe of multimodale onzekerheid kunnen vastleggen.
• Op intervallen gebaseerde en op gelijkenis gebaseerde methoden vereisen vaak meerdere kwantieluitvoer, zorgvuldig ontwerp van de doelstelling, of vertrouwen op klassenprototypen die zich niet van nature uitbreiden naar regressietaken.

Het artikel identificeert de behoefte aan een raamwerk dat vrij is van steekproeven, vrij is van verdelingen, rekenkundig efficiënt en interpreteerbaar is voor zowel regressie- als classificatietaken.

2. Methodologie: Hypersferische Vertrouwenskartering (HCM)

Het voorgestelde raamwerk, Hypersferische Vertrouwenskartering (HCM), herformuleert het voorspellingsprobleem door de modeluitvoer te ontleden in twee geometrische componenten: een scalair magnitude $R$ en een eenheidsnormrichtingsvector $d$.

2.1 Geometrische Formulering

Voor een doel $y \in \mathbb{R}^D$ herformuleert HCM de voorspelling als $y = Rd$, waarbij $R \in \mathbb{R}^+$ en $d \in \mathbb{R}^D$ met $\|d\|_2 = 1$. Het model wordt getraind om $\hat{R}$ en $\hat{d}$ te voorspellen, waarbij de uiteindelijke output wordt gereconstrueerd als $\hat{y} = \hat{R}\hat{d}$.

• Behandeling van scalair regressie: Voor scalair doelen ($D=1$) wordt het doel via duplicatie ingebed in een 2D-ruimte ($y_{exp} = (y, y)$) om de decompositie in magnitude-richting mogelijk te maken zonder de kernformulering te wijzigen.
• Beperking: De richtingsvector $\hat{d}$ is beperkt om op de eenheidshypersfeer te liggen ($\|\hat{d}\|_2 = 1$).

2.2 Onzekerheid als Beperkingsovertreding

In tegenstelling tot traditionele methoden die onzekerheid modelleren via variantie of steekproeven, interpreteert HCM onzekerheid als de graad van overtreding van de geometrische beperking.

• Onzekerheidsscore: De onzekerheid $u(x)$ wordt gedefinieerd als:
  $$u(x) := \hat{R}(x) \left| \|\hat{d}(x)\|_2 - 1 \right|$$
• Interpretatie: Als het model zeker is, zal $\hat{d}$ dicht bij de eenheidshypersfeer liggen. Als het model onzeker is (bijv. door ruis of inputs buiten de verdeling), wijkt $\hat{d}$ af van de eenheidsnorm. Deze afwijking, geschaald met de voorspelde magnitude, dient als een deterministische onzekerheidsscore.

2.3 Trainingsdoel

De totale verliesfunctie $L_{total}$ bestaat uit drie termen:

1. Richtingsverlies: $\phi_d(R \|e_d\|_2)$, toezicht houdend op de richtingsvector.
2. Magnitudeloss: $\phi_R(e_R)$, toezicht houdend op de magnitude.
3. Normregularisatie: $\lambda_{norm} \phi_{norm}(\left| \|\hat{d}\|_2 - 1 \right|)$, die de eenheidsnormbeperking zacht afdwingt.

Deze formulering stelt het verlies in staat om zijn kromming aan te passen (bijv. met Huber of smooth-$\ell_1$) terwijl het een uniforme behandeling van richting, magnitude en norm behoudt.

2.4 Theoretische Grondslagen

Het artikel legt theoretische verbanden tussen de onzekerheidsscore en de voorspellingsfout:

• Ondergrens voor Fout: Propositie 1 bewijst dat de voorspellingsfout $\|e_y\|_2$ ondergrens is door $u(x)$ (specifiek $\|e_y\|_2 \geq u(x)(1-\epsilon)$). Een hoge onzekerheidsscore garandeert dus wiskundig een grote voorspellingsfout.
• Volgen van Ruis: Propositie 2 toont aan dat een afgeleide grootheid $\hat{\sigma}(x)$ het grondwaarheidsruisniveau $\sigma^2$ volgt onder additieve Gaussische ruis, wat een deterministische maat biedt voor aleatorische variabiliteit.

3. Belangrijkste Bijdragen

1. Nieuw Raamwerk: Introductie van HCM, een methode voor onzekerheidsschatting die vrij is van steekproeven en verdelingen en toepasbaar is op zowel regressie als classificatie.
2. Theoretische Gronding: Herformulering van voorspelling als een geoptimaliseerd probleem met beperkingen, waarbij beperkingsovertredingen dienen als een bewijsbare ondergrens voor de voorspellingsfout.
3. Empirische Validatie: Uitgebreide benchmarking toont aan dat HCM kalibratie en Out-of-Distribution (OOD) detectie even goed of beter presteert dan ensemble- en evidentiële benaderingen, met aanzienlijk lagere inferentiekosten.
4. Industriële Toepasbaarheid: Demonstratie van de effectiviteit van HCM in real-world taken voor halfgeleiderproductie voor anomaliedetectie.

4. Experimentele Resultaten

4.1 Classificatie en OOD-detectie (CIFAR-10)

• Prestatie: HCM (specifiek de variant "HCM mix" die MixUp-augmentatie gebruikt) behaalde een gemiddelde AUROC van 89,44% voor OOD-detectie, concurrerend met KNN (90,97%) en NCI (90,36%).
• Efficiëntie: In tegenstelling tot op steekproeven gebaseerde methoden (Ensembles, MC Dropout) die meerdere forward passes vereisen, werkt HCM met één enkele forward pass. Het behaalde de laagste rekenlatentie van alle vergeleken methoden terwijl het concurrerende nauwkeurigheid behield.
• Synergie met MixUp: Het artikel merkt op dat MixUp de prestaties van HCM aanzienlijk verbetert, omdat geïnterpoleerde samples natuurlijk overeenkomen met richtingen tussen klassenankers op de eenheidsfeer, waardoor het model onzekerheid getrouwer kan uitdrukken. Dit voordeel werd niet waargenomen voor andere baselines.

4.2 Regressie en Kalibratie (NYU-v2 Diepteschatting)

• Kalibratie: HCM toonde de sterkste uitlijning tussen voorspelde onzekerheid en gerealiseerde fout, met de hoogste Pearson- (0,4919) en Spearman-correlaties (0,5425).
• Afwegingen: Hoewel HCM superieure kalibratie en foutuitlijning toonde, vertoonde het iets hogere RMSE en lagere dekkingmetrieken (cov@1$\sigma$, cov@2$\sigma$) in vergelijking met op variantie gebaseerde baselines zoals Deep Ensembles. De auteurs schrijven dit toe aan de reconstructiefout die inherent is aan de decompositie in magnitude-richting.
• Kwalitatief Gedrag: HCM produceerde gladde vertrouwensbanden die verbreedden in ruisachtige gebieden en buiten het trainingsdomein, waardoor zowel aleatorische als epistemische onzekerheid effectief werden vastgelegd.

4.3 Industriële Hoog-dimensionale Regressie

• Taak: Voorspellen van 3D-geometrie van wafersgaten uit spectroscopische ellipsometriegegevens.
• Resultaten: HCM behaalde de sterkste Pearson- (0,8435) en Spearman-correlaties (0,7579) tussen onzekerheidsscores en werkelijke fouten.
• Praktisch Nut: HCM slaagde erin samples met hoge fouten te identificeren door ze lage vertrouwensscores toe te wijzen, waardoor het filteren van onbetrouwbare voorspellingen mogelijk werd zonder toegang tot grondwaarheid. Deze capaciteit is cruciaal voor veiligheidskritische industriële implementatie.

5. Betekenis en Claims

Het artikel positioneert HCM als een veelzijdig alternatief voor conventionele technieken voor onzekerheidsschatting. De primaire betekenis ligt in:

• Geometrische Interpreteerbaarheid: Door onzekerheid te verankeren in de overtreding van een geometrische beperking, biedt de methode een deterministische, interpreteerbare score zonder te vertrouwen op probabilistische priors.
• Efficiëntie: Het elimineert de rekenlast van steekproeven, waardoor het geschikt is voor real-time en hulpbronnenbeperkte omgevingen.
• Taak-agnostisch: Het verenigt de behandeling van regressie en classificatie onder één enkel geometrisch raamwerk.

De auteurs erkennen beperkingen, waarbij zij opmerken dat de onzekerheidsscore afhankelijk is van trainingsdynamiek (specifiek de balans tussen het gewicht van de normbeperking $\lambda$ en de leersnelheid) en dat de methode momenteel op uitvoerniveau werkt, wat fijnafstemming vereist in plaats van direct toepasbaar te zijn op bevroren grote taalmodellen. Bovendien gaat de methode ervan uit dat doelen kunnen worden ontbonden in magnitude en richting, wat taken met intrinsiek meerwaardige outputs kan beperken.

Ondanks deze beperkingen concluderen de auteurs dat HCM de kracht van geometrische structuur in onzekerheidsschatting benadrukt, en een schaalbare en betrouwbare aanpak biedt voor vertrouwenswaardige AI in zowel academische benchmarks als industriële toepassingen.