AdvDINO: Domain-Adversarial Self-Supervised Representation Learning for Spatial Proteomics

1. Il Problema: Lo Shift di Dominio nella Proteomica Spaziale

L'apprendimento auto-supervisionato (SSL) è diventato uno strumento potente per l'estrazione di rappresentazioni visive senza annotazioni manuali. Tuttavia, i metodi SSL standard (come DINOv2) mostrano una scarsa robustezza di fronte allo shift di dominio (differenze sistematiche tra fonti di dati).
Nel contesto della proteomica spaziale (in particolare l'immunofluorescenza multiplex o mIF), questo problema è critico a causa degli effetti batch. Le variazioni nell'intensità di colorazione, nel contrasto e nella distribuzione del segnale tra diversi vetrini (slide) o lotti di analisi possono oscurare i veri segnali biologici.

• Conseguenza: I modelli SSL standard tendono a "memorizzare" le caratteristiche specifiche di ogni vetrino (batch effects) invece di apprendere pattern biologici generalizzabili, rendendo inaffidabili le analisi di clustering e la predizione prognostica.

2. Metodologia: AdvDINO

Gli autori propongono AdvDINO, un framework di apprendimento auto-supervisionato che integra un approccio avversario di dominio all'interno dell'architettura DINOv2.

Architettura e Componenti Chiave:

1. Base DINOv2: Utilizza una coppia studente-insegnante basata su Vision Transformer (ViT-L) con obiettivi di distillazione della conoscenza e modellazione di immagini mascherate (MIM).
2. Layer di Inversione del Gradiente (GRL): Viene inserito un discriminatore di dominio tra l'encoder studente e il classificatore di dominio.
   • Forward Pass: Il GRL agisce come funzione identità, passando l'embedding al discriminatore.
   • Backward Pass: Il GRL moltiplica i gradienti provenienti dal discriminatore per -1. Questo forza l'encoder a generare caratteristiche che confondono il discriminatore, impedendogli di prevedere l'origine del dominio (es. l'ID del vetrino).
3. Obiettivo di Addestramento Combinato: La funzione di perdita totale ($L_{total}$) combina:
   • La perdita di distillazione ($L_{distill}$) e MIM ($L_{MIM}$) di DINOv2.
   • La perdita avversaria di dominio ($L_{adv}$), calcolata tramite cross-entropy per classificare l'origine del dominio (es. ID del vetrino).
   • Formula: $L_{total} = \lambda_{distill}L_{distill} + \lambda_{MIM}L_{MIM} + \lambda_{adv}L_{adv}$.

Dati e Preprocessing:

• Dataset: 435 vetrini interi (WSI) di carcinoma polmonare non a piccole cellule (NSCLC) con 6 canali di marcatori (CD8, FOXP3, PD-L1, PD-1, CK, DAPI), per un totale di oltre 5,46 milioni di tile (256x256 pixel).
• Augmentation: Adattata per mIF, include crop globali e locali, flip orizzontale/verticale, blur gaussiano e masking, ma esclude la solarizzazione (non definita per immagini non RGB).
• Inizializzazione: I pesi sono inizializzati da UNI (un modello ViT-L pre-addestrato su H&E), adattando il primo strato per gestire 6 canali invece di 3.

3. Contributi Chiave

1. Framework AdvDINO: Prima integrazione di un discriminatore di dominio avversario direttamente nel pre-addestramento SSL di DINOv2 per dati di proteomica spaziale.
2. Mitigazione degli Effetti Batch: Dimostrazione che l'approccio avversario riduce drasticamente la dipendenza dalle caratteristiche specifiche del vetrino, permettendo l'apprendimento di rappresentazioni invarianti al dominio.
3. Scoperta di Fenotipi Biologici: Identificazione di cluster di tile che riflettono vere differenze proteomiche e prognostiche, piuttosto che artefatti tecnici.
4. Validazione Trasversale: Applicazione e validazione del metodo non solo sul NSCLC, ma anche su un cohort di cancro al seno, dimostrando la generalizzabilità dell'approccio.

4. Risultati Sperimentali

A. Robustezza al Dominio

• Visualizzazione (UMAP): Mentre DINOv2 standard produce cluster separati per ogni vetrino (alta correlazione con l'ID della slide), AdvDINO mostra una miscelazione significativa dei dati tra diversi vetrini.
• Metrica ARI (Adjusted Rand Index):
  • DINOv2 (baseline): ARI = 0.66 (i cluster sono fortemente legati al vetrino).
  • AdvDINO: ARI = 0.037 (i cluster sono indipendenti dal vetrino e riflettono la biologia).

B. Caratterizzazione Proteomica e Prognostica

• Clustering: L'analisi non supervisionata su AdvDINO ha identificato cluster con profili proteici distinti.
  • Esempio: Il Cluster 5 (associato a sopravvivenza più lunga) mostra arricchimento di DAPI, CD8 e PD-1 (infiltrazione immunitaria).
  • Esempio: Il Cluster 12 (associato a sopravvivenza più breve) mostra pattern istologici specifici di cellule tumorali sparse.
• Correlazione con la Sopravvivenza: Molti cluster mostrano associazioni significative con la sopravvivenza del paziente (C-index tra 0.67 e 0.73 per i cluster favorevoli).

C. Predizione della Sopravvivenza (ABMIL)

Utilizzando l'Attention-Based Multiple Instance Learning (ABMIL) sui tile embeddings:

• AdvDINO: C-index = 0.799 ± 0.034.
• DINOv2 (non avversario): C-index = 0.789 ± 0.028.
• Baseline CoxPH (metriche cellulari tradizionali): C-index = 0.680 ± 0.044.
• Risultato: AdvDINO supera sia il modello SSL non avversario che le metriche cliniche tradizionali, identificando caratteristiche prognostiche non catturate dallo staging attuale.

D. Generalizzabilità (Cancro al Seno)

Applicando AdvDINO a un cohort di 218 WSI di cancro al seno:

• Miglioramento dell'ARI da 0.44 (DINOv2) a 0.12 (AdvDINO).
• Identificazione di 8 cluster significativamente associati al sottotipo TNBC (Triple Negative Breast Cancer), contro 0 per DINOv2. Uno di questi cluster mostra un arricchimento immunitario coerente con la letteratura.

5. Significato e Conclusioni

Il lavoro di AdvDINO dimostra che l'integrazione di tecniche avversarie di dominio nell'apprendimento auto-supervisionato è cruciale per l'analisi di immagini biomediche complesse come la proteomica spaziale.

• Impatto Clinico: Permette di estrarre segnali biologici puri da dati rumorosi e variabili, facilitando la scoperta di nuovi biomarcatori e migliorando la predizione prognostica.
• Scalabilità: Sebbene testato su mIF, il metodo è applicabile ad altri domini di imaging medico (istopatologia, radiologia) dove lo shift di dominio è una sfida comune.
• Futuro: L'approccio apre la strada all'uso di modelli foundation su dati multi-sorgente non etichettati, riducendo la necessità di costose annotazioni manuali e migliorando la trasferibilità dei modelli tra diversi laboratori e protocolli di colorazione.