A Safety Envelope for Foundation-Model Dental Diagnosis: Bounded-Deviation Guarantees and Cross-Center Refusal

Sintesi Tecnica: Un Involucro di Sicurezza per la Diagnosi Dentale basata su Modelli Fondazionali

Problematica
Sebbene i modelli fondazionali per la radiografia dentale abbiano raggiunto un'elevata accuratezza diagnostica, essi mancano delle proprietà di affidabilità necessarie per l'impiego clinico. Nello specifico, questi modelli soffrono spesso di calibrazione errata (dove la confidenza riportata non corrisponde alla frequenza empirica), degradazione silenziosa durante il ridestinamento in nuovi ambienti e l'incapacità di astensione dalle predizioni su input non familiari (fuori distribuzione o OOD). Gli attuali sistemi si concentrano su metriche di accuratezza ma non riescono a fornire garanzie di deviazione limitata o meccanismi di rifiuto strutturati, creando un divario tra alte prestazioni e sicurezza clinica.

Metodologia
Gli autori propongono un "involucro di sicurezza" (safety envelope) agnostico rispetto al backbone che avvolge qualsiasi encoder fondazionale congelato senza richiedere il riaddestramento dello stesso. Il sistema opera su ritagli a livello di dente da radiografie panoramiche e consiste in tre componenti integrate:

1. Baseline Calibrata: Una sonda lineare con scalatura della temperatura viene adattata sugli embedding congelati per stabilire una baseline di predizione affidabile e calibrata.
2. Involucro di Sicurezza a Deviazione Limitata: Una testa residua superficiale aggiunge una correzione per condizione alla logit della baseline. Questa correzione è tagliata rigidamente (hard-clipped) a un limite simmetrico $\delta$. Questo vincolo strutturale assicura che la predizione finale devii dalla baseline calibrata di al massimo $\delta$ e recuperi esattamente la baseline se la testa residua è zero. Ciò fornisce una garanzia verificabile del caso peggiore contro la degradazione silenziosa.
3. Gate di Rifiuto Out-of-Distribution: Un detector OOD basato sulla distanza di Mahalanobis dell'embedding di input dalla distribuzione di addestramento. Gli input che superano una soglia (regolata su un tasso di rifiuto in-distribution specifico, ad esempio il 5%) vengono deferiti a un clinico invece di ricevere una predizione.

Il metodo è progettato per essere leggero, richiedendo solo l'addestramento di una piccola testa e un singolo calcolo della distanza sopra un encoder congelato.

Contributi Chiave
Il documento delinea quattro contributi primari:

• (C1) Garanzia di Deviazione Limitata: Una testa dell'involucro residuo con un taglio rigido che impone un limite verificabile $\delta$ sulla deviazione dalla baseline calibrata, garantendo il recupero esatto nel caso peggiore (Proposizione 1).
• (C2) Meccanismo di Rifiuto OOD: Un gate nello spazio degli embedding basato sulla distanza di Mahalanobis che si astiene su input non familiari, regolato su un tasso di rifiuto in-distribution specifico.
• (C3) Evidenza Empirica di Calibrazione Errata: Dimostrazione tramite uno "zoo di classificatori" (tre architetture) e ablazione della testa multi-label che i classificatori dentali accurati sono sistematicamente mal calibrati, motivando la necessità di uno strato di sicurezza post-hoc piuttosto che di una maggiore complessità architettonica.
• (C4) Validazione Cross-Center: Valutazione su un database clinico genuinamente differente (Tufts Dental Database) che mostra come il meccanismo di rifiuto deferisca la maggior parte degli input di centri non visti, mantenendo bassi i tassi di rifiuto sul proprio centro.

Risultati
Gli esperimenti sono stati condotti sul benchmark panoramico DENTEX e validati incrociatamente su Tufts Dental Database e sul set di validazione esterna ADCD. Sono stati testati due encoder congelati strutturalmente diversi: un Vision Transformer specifico per l'odontoiatria (ViT-L) e un modello Vision-Language biomedico (BiomedCLIP).

• Calibrazione e Discriminazione: Sul backbone dentale, l'involucro ha migliorato l'Errore di Calibrazione Attesa (ECE) da 0,040 a 0,034 pur migliorando leggermente la macro-AUC (da 0,849 a 0,857). Sul backbone biomedico, ha preservato la calibrazione e migliorato la discriminazione. La garanzia di deviazione ha retto in tutte le diciotto condizioni testate (tre seed $\times$ due backbone $\times$ sweep di $\delta$).
• Metriche del Punto Operativo: A una soglia decisionale di 0,5, l'involucro ha aumentato la macro-F1 da 0,46 a 0,58, principalmente recuperando la sensibilità su condizioni rare (Carie Profonda e Lesione Periapicale) che la baseline aveva mancato.
• Prestazioni di Rifiuto: Sul dataset Tufts (un paese e un sistema di acquisizione differenti), l'involucro ha rifiutato il 84,7% degli input in un punto operativo che rifiutava solo il 5,1% del proprio centro (DENTEX). Il gate basato su Mahalanobis ha superato significativamente i detector basati su logit (MSP, Energy, ODIN) nel distinguere il centro non visto (AUROC 0,968 vs ~0,78).
• Robustezza: Il metodo è stato robusto rispetto all'iperparametro $\delta$, con prestazioni ottimali osservate nell'intervallo $[1,0, 2,0]$. Il limite è stato verificato empiricamente come stretto e mai violato.

Significatività e Rivendicazioni
Il documento afferma che il contributo primario è la sicurezza, non un aumento uniforme dell'accuratezza. La significatività risiede nel fornire una "triade di sicurezza":

1. Calibrazione: Punteggi di confidenza significativi.
2. Deviazione Limitata: Un contratto strutturale che impedisce la degradazione silenziosa rispetto a una baseline affidabile.
3. Rifiuto: La capacità di deferire a un clinico su dati non familiari.

Gli autori sottolineano che la garanzia di sicurezza è architetturale, non statistica; è valida per ogni input e per ogni backbone perché si basa sull'operazione di clipping piuttosto che su assunzioni della distribuzione dei dati. Il metodo è progettato per essere immediatamente riutilizzabile man mano che vengono rilasciati modelli fondazionali dentali più forti, agendo come uno strato di sicurezza portabile che "migliora dove necessario, non danneggia mai e fornisce una garanzia formale". Il documento dichiara esplicitamente che i guadagni in discriminazione sono modesti per design, e l'opera non deve essere letta come un risultato di performance ma come un framework per un deployment affidabile.

Limitazioni Note dagli Autori

• I guadagni in discriminazione sono modesti; l'attenzione è strettamente focalizzata sulle proprietà di sicurezza.
• I dataset (DENTEX, Tufts, ADCD) sono pubblici e relativamente piccoli; è necessaria una coorte clinica prospettica con etichette per singolo dente per una valutazione definitiva dell'affidabilità.
• L'encoder dentale utilizzato è stato addestrato su immagini periapicali ma applicato a ritagli panoramici; tuttavia, i test con un backbone capace di gestire panoramiche hanno mostrato risultati simili, suggerendo che gli errori siano a livello di task piuttosto che artefatti di shift del dominio.
• La garanzia di deviazione limitata è relativa a una semplice baseline calibrata; sostituirla con un prior derivato da un clinico renderebbe il contratto clinicamente significativo.
• Il metodo non localizza i denti; richiede una fase a monte di rilevamento del dente.
• Il metodo non confronta l'approccio con i metodi di incertezza basati su ensemble (ad esempio, deep ensembles), poiché sono incompatibili con l'impostazione di encoder congelato e senza riaddestramento.