🤖 machine learning

Conformal Risk Minimization for Semi-Supervised Domain Adaptation via Optimal Transport

Questo articolo propone un framework end-to-end per l'Adattamento di Dominio Semi-Supervisionato che integra la Minimizzazione del Rischio Conforme con il Trasporto Ottimale per generare pseudolabel, consentendo l'addestramento di modelli che producono set di predizione compatti e validi per copertura nonostante i limitati dati etichettati nel target.

Autori originali: Manos Giannopoulos, Yi Shen, Michael M. Zavlanos

Pubblicato 2026-08-25

📖 6 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Manos Giannopoulos, Yi Shen, Michael M. Zavlanos

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Nel mondo ad alta posta in gioco della diagnosi medica, un modello di machine learning viene spesso addestrato su dati provenienti da un gruppo di pazienti, ma deve essere utilizzato per diagnosticare un gruppo diverso. Questo spostamento della popolazione crea una lacuna nascosta: il modello potrebbe riconoscere schemi che non ha mai visto prima, portando a errori che potrebbero danneggiare un paziente. Per costruire fiducia, i medici hanno bisogno di qualcosa di più di un singolo tentativo; hanno bisogno di sapere quanto il modello sia sicuro. Un metodo chiamato previsione conforme (conformal prediction) offre una soluzione fornendo un elenco di possibili diagnosi invece di una sola. Questo elenco garantisce di contenere la risposta corretta una determinata percentuale delle volte, offrendo ai clinici una rete di sicurezza. Tuttavia, sorge un problema maggiore quando questi elenchi vengono generati dopo che il modello è già stato addestrato. Poiché il processo di addestramento non ha considerato come si sarebbero formati questi elenchi, i risultati sono spesso troppo grandi per essere utili, contenendo così tante possibilità che un medico non può prendere una decisione.

Ricercatori dell'Università Duke hanno sviluppato un nuovo approccio per risolvere questo problema, specificamente per situazioni in cui i dati etichettati per il nuovo gruppo di pazienti sono scarsi. Hanno creato un sistema che insegna al modello a pensare alle dimensioni dei suoi futuri elenchi di diagnosi mentre è ancora in fase di apprendimento. Combinando una tecnica che allinea diverse popolazioni di pazienti con un metodo che ottimizza per elenchi più piccoli e precisi, hanno costruito un modello che produce set compatti e affidabili di potenziali diagnosi. Il loro lavoro suggerisce che, pianificando l'incertezza durante la fase di addestramento anziché aggiungerla successivamente, l'IA medica può diventare sia più accurata che più pratica per l'uso nel mondo reale.

La sfida centrale affrontata dal team è nota come adattamento di dominio semi-supervisionato (semi-supervised domain adaptation). Immaginate un medico che ha studiato migliaia di immagini della pelle provenienti da un ospedale, ma che deve ora diagnosticare pazienti in un altro ospedale dove solo poche immagini sono etichettate. I pazienti del nuovo ospedale potrebbero avere diverse tonalità di pelle, condizioni di illuminazione o apparecchiature, creando uno "spostamento della distribuzione" (distribution shift) che confonde il modello. I metodi tradizionali cercano di colmare questo divario insegnando al modello a ignorare le differenze tra i due ospedali e a concentrarsi solo sulle caratteristiche che contano per la diagnosi. Tuttavia, questi metodi mirano solitamente solo alla singola risposta più probabile. Non si curano della dimensione della rete di sicurezza che il modello fornirà in seguito.

Quando i ricercatori applicano la previsione conforme a questi modelli pre-addestrati come fase finale, la rete di sicurezza diventa spesso una rete così ampia da catturare tutto. Ciò accade perché il modello non è mai stato addestrato per minimizzare il numero di opzioni che offre. Il team di Duke ha capito che, per ottenere un elenco utile, il modello deve essere addestrato con la consapevolezza dell'elenco fin dall'inizio. Hanno proposto un framework chiamato CP-JDOT, che integra l'obiettivo di creare elenchi piccoli ed efficienti direttamente nel processo di addestramento. Ciò consente al modello di apprendere una rappresentazione dei dati che conduce naturalmente a previsioni più strette e sicure.

Per far sì che ciò funzioni con pochissimi esempi etichettati dall'ospedale di destinazione, i ricercatori hanno utilizzato uno strumento matematico chiamato trasporto ottimale (optimal transport). Pensate a questo strumento come a un modo per abbinare ogni paziente non etichettato del nuovo ospedale con un paziente simile del vecchio ospedale, prendendo in prestito efficacemente la diagnosi del vecchio paziente per guidare quella del nuovo. Questo crea un insieme di "pseudolabels" che agiscono come un ponte, permettendo al modello di apprendere dai dati abbondanti dell'ospedale di origine pur adattandosi alle esigenze specifiche dell'ospedale di destinazione. Il sistema utilizza poi il piccolo numero di esempi effettivamente etichettati dell'ospedale di destinazione per impostare una soglia per quanto debbano essere grandi gli elenchi di previsione.

I ricercatori hanno testato il loro metodo su due diversi scenari. Per prima cosa, hanno utilizzato un benchmark standard di riconoscimento di oggetti che coinvolgeva immagini da quattro domini: arte, clipart, prodotti e foto del mondo reale. Hanno simulato la condizione difficile in cui erano disponibili solo uno o tre esempi etichettati per categoria nel dominio di destinazione. In questi test, il loro metodo ha prodotto costantemente elenchi di previsioni più piccoli rispetto ai migliori metodi esistenti, riducendo il numero medio di opzioni di circa il cinque o dieci per cento. Questo miglioramento è stato significativo anche nei casi in cui il trasferimento tra i domini era difficile, suggerendo che l'approccio è robusto.

Hanno anche applicato il metodo a un compito medico più critico: la classificazione delle lesioni cutanee. Utilizzando i dati del dataset HAM10000 come fonte, hanno testato il modello su cinque diversi dataset target che rappresentavano varie condizioni di imaging cutaneo. In questo caso, i risultati sono stati ancora più sorprendenti. Il nuovo metodo ha ridotto la dimensione media degli elenchi di previsione fino al dodici per cento rispetto ai precedenti approcci. Ciò significa che per un medico che osserva una lesione cutanea, il modello offrirebbe una lista molto più breve di potenziali condizioni, rendendo la diagnosi più veloce e azionabile, pur mantenendo la rigorosa garanzia che la diagnosi corretta sia inclusa nell'elenco.

Oltre a rendere gli elenchi semplicemente più piccoli, i ricercatori hanno dimostrato che il loro framework può essere calibrato per rispettare specifiche regole mediche. Nella diagnosi del tumore della pelle, è pericoloso avere un elenco che includa simultaneamente possibilità sia benigne che maligne, poiché ciò crea un segnale confondente per il medico. Il team ha modificato la funzione di perdita (training loss) per penalizzare tali elenchi contraddittori. Quando hanno fatto questo, il numero di elenchi misti e confondenti è sceso drasticamente, del sessanta o settantacinque per cento attraverso i diversi dataset. Il compromesso è stato un lievissimo aumento della dimensione complessiva degli elenchi, ma il risultato è stato un insieme di previsioni che non solo erano statisticamente valide, ma anche semanticamente coerenti e clinicamente utili.

Le scoperte suggeriscono che il modo tradizionale di addestrare i modelli di IA — ottimizzare per una singola risposta corretta e poi cercare di correggere l'incertezza in un secondo momento — è fondamentalmente limitato. Integrando l'obiettivo di una quantificazione efficiente dell'incertezza direttamente nel processo di apprendimento, il modello impara a produrre output che sono intrinsecamente più adatti al processo decisionale ad alta posta in gioco. I ricercatori hanno dimostrato che è possibile addestrare un modello che sia consapevole dei propri limiti e della struttura delle proprie future previsioni, anche quando i dati sono scarsi. Questo approccio offre una strada promettente verso un'IA medica che sia non solo accurata, ma anche affidabile e allineata con le necessità pratiche dei clinici.

Riepilogo Tecnico: Conformal Risk Minimization per la Semi-Supervised Domain Adaptation tramite Optimal Transport

1. Definizione del Problema

Nelle applicazioni cliniche ad alto rischio, i modelli di apprendimento automatico affrontano spesso uno shift di distribuzione quando vengono addestrati su una popolazione di pazienti sorgente e distribuiti su una popolazione target. Sebbene la Semi-Supervised Domain Adaptation (SSDA) affronti questo problema sfruttando dati sorgente etichettati e limitati dati target etichettati per migliorare l'accuratezza delle predizioni puntuali, i metodi SSDA esistenti non riescono a fornire una quantificazione dell'incertezza fondata.

La Conformal Prediction (CP) convenzionale offre garanzie di copertura indipendenti dalla distribuzione, ma viene tipicamente applicata post-hoc a modelli pre-addestrati. Questo approccio spesso genera set di predizione eccessivamente ampi perché il modello sottostante è stato ottimizzato per l'accuratezza puntuale, non per la geometria dei punteggi di non-conformità che determina la dimensione del set. Il Conformal Risk Minimization (CRM) integra l'ottimizzazione della dimensione del set direttamente nell'addestramento, ma richiede tradizionalmente grandi dataset etichettati per calcolare le soglie di non-conformità durante l'addestramento — una risorsa scarsa nel regime SSDA.

Il problema centrale affrontato è: Come possiamo addestrare ottimamente i predittori conformi per compiti di semi-supervised domain adaptation dove i dati etichettati nel dominio target sono limitati?

2. Metodologia: CP-JDOT

Gli autori propongono CP-JDOT, un framework end-to-end che integra il Conformal Risk Minimization in un framework di Joint Domain Adaptation (JDOT) utilizzando l'Optimal Transport (OT). Il metodo è progettato per ottimizzare un modello predittivo $f_\theta$ (composto da una funzione di embedding $g$ e un classificatore $h$ ) per produrre set di predizione compatti e con copertura valida sul dominio target.

2.1 Componenti Core

L'obiettivo di addestramento minimizza una funzione di perdita composita:
$\min_{\theta} L_{cls}(f_\theta) + \lambda_1 L_{DA}(f_\theta) + \lambda_2 L_c(f_\theta)$
Dove:

$L_{cls}$ : Perdita di classificazione (adattata per l'apprendimento cross-domain).
$L_{DA}$ : Perdita di allineamento del dominio.
$L_c$ : Perdita di allineamento conformale (che penalizza i set di predizione di grandi dimensioni).

2.2 Il Ciclo di Addestramento

L'algoritmo opera in modo iterativo e stocastico utilizzando due minibatch: uno dal set sorgente etichettato ( $S$ ) e uno dal set target non etichettato ( $T_u$ ).

Stima della Soglia: Ad ogni iterazione, viene calcolato un quantile $(1-\alpha)$ differenziabile $\tau$ dei punteggi di non-conformità utilizzando il piccolo set target etichettato ( $T_l$ ). Questo $\tau$ funge da soglia conformale.
Accoppiamento Optimal Transport: Il framework utilizza la Joint Domain Adaptation per mappare i domini sorgente e target in uno spazio latente condiviso. Utilizza l'Optimal Transport (OT) per calcolare un accoppiamento $\gamma$ tra i campioni sorgente e i campioni target non etichettati. Questo accoppiamento trasferisce le etichette sorgente alle istanze target come pseudolabels, fornendo il segnale di supervisione necessario per i dati target non etichettati.
Ottimizzazione della Perdita: Il modello viene aggiornato tramite discesa del gradiente stocastica per minimizzare una perdita totale che include:
- Source ERM: Standard cross-entropy sui dati sorgente etichettati per stabilizzare l'addestramento.
- Allineamento del Dominio ( $L_{DA}$ ): Utilizza il Geometric Optimal Transport (GOT) per allineare le distribuzioni delle feature tra sorgente e target.
- Classificazione Conforme ( $L_{cls}$ ): Una penalità differenziabile che assicura che il set conforme per un campione target includa l'etichetta sorgente propagata tramite OT.
- Efficienza Conforme ( $L_c$ ): Un termine di penalità che minimizza la cardinalità attesa (dimensione) dei set di predizione per i campioni target non etichettati.

2.3 Vincoli Specifici del Dominio

Il framework supporta l'incorporazione della conoscenza del dominio modificando la perdita di classificazione in una perdita di controllo ( $L_{control}$ ). Ciò consente penalità sulle composizioni specifiche dei set. Ad esempio, nella classificazione delle lesioni cutanee, la perdita può penalizzare i set di predizione che includono simultaneamente classi mutuamente esclusive (ad esempio, diagnosi benigne e maligne), garantendo la coerenza semantica anche se ciò aumenta leggermente la dimensione del set.

3. Contributi Chiave

Framework CP-JDOT: Un nuovo framework di SSDA che integra il CRM all'interno di un contesto di Joint Domain Adaptation con Optimal Transport. Colma il divario tra CRM supervisionato e SSDA sfruttando gli pseudolabels derivati da OT per calibrare i predittori conformi in uno spazio di feature globalmente allineato utilizzando solo un piccolo set target etichettato.
Controllo della Composizione del Set: Il metodo dimostra che l'incorporazione dell'obiettivo conforme direttamente nel ciclo di addestramento consente l'uso di termini di penalità su misura per i requisiti specifici del dominio. Ciò permette di controllare la composizione del set (ad esempio, mitigando la "confusione di copertura" escludendo classi contrastanti), producendo set di predizione statisticamente validi e semanticamente significativi.
Superiorità Empirica: Un'analisi rigorosa mostra che l'approccio end-to-end supera costantemente i metodi SSDA allo stato dell'arte seguiti da wrapper conformi post-hoc. Il metodo ottiene set di predizione con dimensioni medie più piccole preservando le garanzie di copertura.

4. Risultati Sperimentali

Gli autori hanno valutato CP-JDOT su due scenari benchmark:

Office-Home: Un benchmark standard di domain adaptation con 12 direzioni di trasferimento pairwise (Art, Clipart, Product, Real World) utilizzando ResNet-34 in configurazioni 1-shot e 3-shot.
Classificazione delle Lesioni Cutanee: Un setting di imaging medico che trasferisce da HAM10000 (sorgente) a cinque domini target (PH2, Derm7pt, MSK, SONIC, UDA) utilizzando ResNet-18 con 10 campioni target etichettati per classe.

Risultati Chiave:

Riduzione della Dimensione del Set: CP-JDOT ha costantemente ottenuto la dimensione media del set di predizione più piccola tra tutte le direzioni di trasferimento, superando i migliori baseline (ad esempio, MME, CDAC, DECOTA) di circa il 5–10% su Office-Home e fino al 12% sui dataset delle lesioni cutanee.
Accuratezza vs. Efficienza: Notevolmente, CP-JDOT ha ottenuto questi miglioramenti anche quando presentava fino al 10% in meno di accuratezza top-1 rispetto ai più forti baseline SSDA. Ciò supporta l'ipotesi che gli obiettivi di accuratezza convenzionali siano disallineati con l'efficienza del set di predizione conforme a valle.
Controllo Semantico: Nello studio di ablazione sulle lesioni cutanee, sostituire la perdita standard con $L_{control}$ ha ridotto la proporzione di "set conflittuali" (contenenti sia classi benigne che maligne) del 60–75% attraverso i dataset, con solo un modesto aumento della dimensione media del set.

5. Significato e Rivendicazioni

Il paper sostiene che CP-JDOT fornisca una base utile per lo sviluppo di modelli adattivi al dominio dove la quantificazione dell'incertezza non è trattata come un passaggio di post-elaborazione separato. Ottimizzando congiuntamente l'adattamento del dominio e gli obiettivi conformi, il framework produce set di predizione che sono:

Compatti: Significativamente più piccoli di quelli generati dalla calibrazione post-hoc di modelli ottimizzati per l'accuratezza.
Validi per la Copertura: Mantenendo rigorose garanzie indipendenti dalla distribuzione.
Clinicamente Azionabili: Capaci di incorporare vincoli specifici del dominio (ad esempio, escludendo diagnosi contraddittorie) direttamente nel processo di addestramento.

Gli autori sottolineano che questo approccio è particolarmente critico in contesti ad alto rischio come l'assistenza sanitaria, dove la composizione di un set di predizione (ad esempio, evitare un mix di diagnosi benigne e maligne) è importante quanto la sua dimensione per il processo decisionale clinico.