🤖 machine learning

Parameter-efficient Prompt Tuning of Vision Foundation Model With Adaptive Focal Loss for Interpretable MCI Screening

Questo articolo propone un framework parametrico-efficiente che adatta un modello DINOv2-Small congelato utilizzando token di prompt apprendibili e una perdita focale adattiva per consentire uno screening intrinsecamente interpretabile e ad alte prestazioni del decadimento cognitivo lieve dai test neuropsicologici di disegno, superando al contempo la scarsità di dati e lo squilibrio delle classi.

Autori originali: Javad Khoramdel, Farhad Hoseyni, Amirhossein Nikoofard

Pubblicato 2026-07-17

📖 4 min di lettura☕ Lettura da pausa caffè

CC BY 4.0

Autori originali: Javad Khoramdel, Farhad Hoseyni, Amirhossein Nikoofard

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di essere un detective che cerca di risolvere un mistero, ma gli indizi sono nascosti nelle linee tremolanti di un disegno. Questo è il mondo del Compromesso Cognitivo Lieve (MCI), un segnale di allerta subdolo che indica che il cervello potrebbe iniziare a rallentare, spesso prima che si instauri la demenza conclamata. I medici di solito lo individuano osservando come le persone disegnano cose semplici come orologi o cubi, ma è un gioco complicato. La linea tra un disegno "sano" e uno "problematico" è spesso sfumata, come cercare di distinguere tra un sorriso leggermente storto e un broncio.

Per risolvere questo caso, gli scienziati usano l'Intelligenza Artificiale (IA), specificamente un tipo chiamato Vision Transformers. Pensa a questi modelli di IA come a studenti super intelligenti che hanno letto milioni di libri e visto miliardi di immagini del mondo reale. Sono bravissimi a individuare schemi, ma insegnare loro a comprendere i disegni medici è solitamente come cercare di insegnare a un grande maestro di scacchi a giocare a dama riscrivendo interamente il suo cervello. Richiede una quantità enorme di tempo, denaro e potenza di calcolo. Questo articolo pone una domanda più semplice: possiamo insegnare a questa IA super intelligente a individuare gli indizi in un disegno senza riscrivere il suo cervello, dandole solo alcuni piccoli suggerimenti speciali?

I ricercatori dietro questo studio, Javad Khoramdel e il suo team, dicono "sì". Hanno costruito un sistema intelligente e leggero che agisce come un detective con tre diversi paia di occhiali. Invece di costringere l'IA a imparare tutto da capo, hanno mantenuto il "cervello" dell'IA congelato (invariato) e hanno semplicemente aggiunto tre piccoli "token di prompt" personalizzati. Puoi pensare a questi token come a dei piccoli post-it che l'IA attacca al disegno prima di guardarlo. Un biglietto dice: "Cerca errori nell'orologio", un altro dice: "Controlla gli angoli del cubo" e il terzo dice: "Scansiona i percorsi delle linee".

La magia avviene perché l'IA usa questi biglietti per focalizzare la sua attenzione. Quando l'IA guarda il disegno di un orologio, il "biglietto dell'orologio" le dice esattamente quali parti dell'immagine sono più importanti, creando una mappa di calore che mostra ai medici esattamente dove l'IA è preoccupata. Questo è un grande passo avanti perché di solito l'IA è una "scatola nera" che fornisce semplicemente una risposta senza spiegare il perché. Qui, la spiegazione è integrata direttamente nel sistema.

Ma c'è un problema: i dati sono disordinati. Il dataset utilizzato ha molti più soggetti sani che malati (circa 651 sani contro 267 con MCI), e molte persone si trovano proprio sul limite del punteggio di soglia, il che le rende difficili da classificare. Per gestire questo, il team ha inventato una speciale "perdita focale adattata al MoCA" (MoCA-adapted focal loss). Immagina questo come un insegnante che non si limita a dare un voto come "passato" o "non passato". Invece, se lo studente si trova proprio sulla linea di confine, l'insegnante dedica loro un'attenzione extra e cerca con più impegno di comprenderne le difficoltà specifiche. L'IA fa la stessa cosa, imparando a prestare un'attenzione speciale ai casi confusi vicino alla linea di diagnosi.

I risultati sono promettenti. Quando hanno testato il loro sistema, hanno identificato correttamente i pazienti con MCI con un punteggio (F1) di 0,641, che è significativamente migliore di un sistema molto più pesante e complesso chiamato ResViT (che ha ottenuto 0,531). Il nuovo sistema ha anche raggiunto un AUC di 0,795, una misura di quanto sia bravo a separare i sani dai malati. Forse la cosa più importante è che ha fatto tutto questo utilizzando solo 1,19 milioni di parametri, una frazione minuscola dei 32 milioni di parametri richiesti dai modelli più vecchi e pesanti.

Il team ha anche testato cosa succede se si rimuovono i loro trucchi speciali. Hanno scoperto che se avessero tolto il "modulatore di probabilità MoCA" (la parte che si concentra sui casi limite), le prestazioni del sistema sarebbero scese sensibilmente. Ciò suggerisce che gestire l'area "grigia" della diagnosi è fondamentale. Hanno anche scoperto che l'uso di tre "biglietti" separati (uno per ogni tipo di disegno) funzionava meglio rispetto all'uso di un unico biglietto generico per tutti i disegni, provando che l'IA deve trattare ogni compito di disegno come un puzzle unico.

In breve, questo articolo suggerisce che non abbiamo bisogno di costruire cervelli di IA enormi ed costosi per rilevare il declino cognitivo precoce. Inveve, possiamo prendere un'IA pre-addestrata e intelligente, darle alcuni semplici suggerimenti specifici per il compito e insegnarle a guardare i punti giusti con un focus speciale sui casi complicati e limite. È un modo più leggero, veloce e trasparente per aiutare i medici a cogliere i primi segni della perdita di memoria, trasformando un complesso mistero medico in un puzzle risolvibile.

Sintesi Tecnica: Prompt Tuning Efficiente nei Parametri di un Modello di Vision Foundation con Focal Loss Adattiva per lo Screening Interpretabile dell'MCI

1. Definizione del Problema

L'Impairment Cognitivo Lieve (MCI) rappresenta una fase critica di declino cognitivo che precede la malattia di Alzheimer. Il rilevamento automatizzato tramite test neuropsicologici di disegno (nello specifico il Clock Drawing Test, il Cube Copying Test e il Trail Making Test) affronta tre vincoli fondamentali:

Scarsità e Sbilanciamento dei Dati: I dataset sono spesso piccoli con distribuzioni di classe asimmetriche (ad esempio, un rapporto di 2,4:1 tra controlli sani e pazienti MCI).
Ambiguità Diagnostica: I confini clinici sono incerti, con i punteggi MoCA che si addensano densamente attorno alla soglia di 25, rendendo subottimale una classificazione binaria rigida.
Limitazioni dei Metodi Esistenti: Gli attuali approcci allo stato dell'arte si affidano ad architetture ibride (ad esempio, combinando ResNet e ViT) computazionalmente costose e a pieno fine-tuning, che mancano di efficienza nei parametri. Inoltre, l'interpretabilità in questi modelli è tipicamente un'approssimazione post-hoc (ad esempio, attention rollout o Grad-CAM) piuttosto che una proprietà architettonica intrinseca.

2. Metodologia

Gli autori propongono un framework efficiente nei parametri che adatta un modello di vision foundation DINOv2-Small congelato tramite Prompt Tuning e una nuova MoCA-adapted Focal Loss.

2.1 Architettura: Prompt Tuning Efficiente nei Parametri

Invece di effettuare il fine-tuning dell'intero backbone, il modello mantiene congelati i pesi di DINOv2-Small. L'adattamento è ottenuto tramite:

Token Imparabili Specifici per Modalità: Vengono introdotti tre distinti token di prompt imparabili, uno per ogni compito di disegno (orologio, cubo, sentiero). Ogni token è inizializzato casualmente e ottimizzato end-to-end.
Aggregazione Cross-Attention: Ogni token specifico per il compito agisce come una query in uno strato di cross-attention condiviso, prestando attenzione ai token di patch dell'immagine corrispondente elaborata dal backbone congelato. Ciò produce embedding condizionati al compito ( $e_k$ ) che riassumono le patch spaziali più informative per quella specifica funzione cognitiva.
Fusione della Query Attention Imparabile: I tre embedding dei compiti vengono aggregati tramite un vettore di query imparabile che presta attenzione agli embedding. Questo produce un vettore paziente fuso e un insieme di pesi di importanza della modalità ( $\alpha$ ), che indicano quale test di disegno ha influenzato maggiormente la decisione finale.
Interpretabilità Intrinseca: I pesi della cross-attention dai token di prompt alle patch dell'immagine fungono da mappe di salienza spaziale dirette, senza richiedere ulteriori calcoli inversi o approssimazioni post-hoc.

2.2 Funzione di Perdita: MoCA-Adapted Focal Loss

Per affrontare l'ambiguità diagnostica e lo sbilanciamento delle classi, gli autori introducono una funzione di perdita unificata che generalizza gli approcci standard a etichette morbide (soft-label). Essa integra:

Soft Anchor: Converte il punteggio MoCA continuo ( $m_i$ ) in un target morbido ( $s_i$ ) utilizzando una funzione sigmoide centrata sulla soglia clinica ( $C=25,5$ ).
Modulatore di Probabilità MoCA: Un modulatore innovativo che ricalibra la perdita in base alla discrepanza tra la probabilità predetta dal modello ( $p_i$ ) e l'aspettativa derivata dal MoCA ( $s_i$ ). I campioni in cui la previsione diverge dall'aspettativa basata sul punteggio vengono pesati maggiormente.
Pesatura Adattiva per Campione: Corregge le frequenze diseguali dei soggetti attraverso i bin del MoCA (pesatura adattiva per bin MoCA), garantendo che i casi rari o limite non vengano ignorati.

2.3 Strategie di Addestramento

Il framework impiega diverse strategie mirate di aumento e campionamento:

Inversione dell'Immagine: Invertire l'intensità dei pixel per allineare i disegni a sfondo bianco con le statistiche delle immagini naturali di DINOv2 pre-addestrato.
Campionamento dei Batch Bilanciato per Classe: Garantire una rappresentazione equa delle classi in ogni batch.
Mixup Preservante il Tipo: Interpolare immagini ed etichette all'interno dello stesso tipo di disegno per mantenere la coerenza clinica.
Scambio di Disegno MoCA-Neighbor: Sostituire uno o due disegni in una tripletta con quelli di un soggetto con un punteggio MoCA simile per aumentare la diversità strutturale.

3. Contributi Chiave

Classificazione Efficiente nei Parametri e Interpretabile: Il framework utilizza un modello di vision foundation congelato con solo 1,19 milioni di parametri addestrabili (meno del 6% del totale). Produce mappe di attenzione spaziale e pesi di importanza della modalità come sottoprodotti diretti del processo di inferenza.
MoCA-Aware Focal Loss: Una formulazione di perdita unificata che generalizza rigorosamente i precedenti metodi a etichette morbide, incorporando punteggi cognitivi continui nel target di addestramento, nella modulazione della perdita e nella pesatura adattiva.
Aumento Mirato: Strategie progettate specificamente per affrontare il gap fotometrico del dominio (inversione dell'immagine) e la limitata diversità dei dataset neuropsicologici (scambio di disegno, Mixup preservante il tipo).

4. Risultati Sperimentali

Il modello è stato valutato su un dataset di 918 soggetti (651 sani, 267 MCI) utilizzando una validazione incrociata a cinque pieghe stratificata.

Performance: L'architettura proposta ha raggiunto un F1 score della classe MCI di 0,641 ± 0,026 e un AUC di 0,795 ± 0,024.
Confronto: Ha superato la baseline ResViT (un modello ibrido ResNet50/ViT), molto più pesante dal punto di vista computazionale, di 0,110 nell'F1 score della classe MCI, nonostante utilizzi significativamente meno parametri addestrabili.
Studi di Ablazione:
- La rimozione del modulatore di probabilità MoCA ha causato il calo di performance più significativo (F1MCI diminuito di 0,017), confermando il suo ruolo critico nel gestire l'ambiguità dei confini.
- I token di prompt specifici per il compito si sono rivelati superiori rispetto ai token condivisi o agli approcci basati solo su CLS, poiché permettono al modello di specializzarsi nei deficit specifici del compito invece di mediarli.
- Il Prompt Tuning ha superato le strategie LoRA e Top Tuning, ottenendo il miglior richiamo (recall) per l'MCI con il minor numero di parametri aggiuntivi.

5. Significato e Rivendicazioni

L'articolo sostiene che la complessità architettonica (impilare molteplici reti grandi) non è necessaria per questo compito. Al contrario, un modello di vision foundation auto-supervisionato, se adattato tramite un leggero prompt tuning specifico per il compito, fornisce una base superiore.

Le principali rivendicazioni riguardanti la significatività includono:

Efficienza: Il metodo raggiunge prestazioni allo stato dell'arte con una frazione dei parametri addestrabili richiesti dal fine-tuning completo o dalle architetture ibride.
Interpretabilità Intrinseca: A differenza dei lavori precedenti che si affidano ad approssimazioni post-hoc, questo framework fornisce mappe di salienza spaziale e punteggi di importanza della modalità come conseguenze strutturali inerenti all'architettura.
Gestione dell'Ambiguità: La MoCA-adapted focal loss affronta efficacementmente l'incertezza intrinseca vicino ai confini clinici, sfruttando punteggi cognitivi continui anziché etichette binarie rigide.
Rilevanza Clinica: La capacità di identificare quale specifica modalità di disegno (orologio, cubo o sentiero) abbia guidato una previsione offre un livello di interpretabilità potenzialmente utile per il supporto alle decisioni cliniche, sebbene gli autori notino che ciò richieda una futura validazione rispetto al giudizio degli esperti.

Gli autori mantengono una posizione modesta, riconoscendo limitazioni come l'uso di un singolo dataset proveniente da un'unica istituzione, l'esclusione di dati cinematici temporali (velocità/pressione della penna) e la necessità di una validazione esterna dei pesi della modalità rispetto agli esperti clinici.