Sintesi Tecnica: Moonstone – Un Modello Fondazionale Multimodale e un Benchmark per il Telerilevamento Lunare

1. Definizione del Probleamento

Decenni di missioni orbitali (ad esempio, LRO della NASA, Chandrayaan-1 dell'India, GRAIL) hanno generato terabyte di dati di telerilevamento multimodali per la Luna, spaziando da immagini ottiche, spettroscopia, emissioni termiche, radar, gravità e composizione elementale. Tuttavia, questi dataset rimangono frammentati in archivi incompatibili (NASA PDS, USGS, ISRO PRADAN) con risoluzioni spaziali e formati variabili. Fondamentalmente, non esiste un benchmark standardizzato per valutare i modelli di machine learning sui dati lunari. I modelli fondazionali esistenti per l'Osservazione della Terra (EO) non possono essere applicati direttamente perché i loro embedding di patch sono codificati rigidamente su sensori specifici della Terra (ad esempio, Sentinel-2, SAR in banda C) e mancano di corrispondenza con le modalità lunari come la gravità GRAIL o la riflettanza iperspettrale M3. Inoltre, i dati lunari presentano sfide uniche: una copertura spaziale altamente non uniforme (che varia dal 16% al 100% a seconda dello strumento), l'assenza di atmosfera/vegetazione e una estrema scarsità di dati etichettati per compiti supervisionati.

2. Metodologia: Il Framework Moonstone

2.1 Il Dataset

Gli autori introducono Moonstone, un dataset fondazionale globale composto da 28 canali provenienti da sette famiglie di strumenti attraverso cinque missioni.

• Risoluzione: 128 pixel per grado (circa 237 m/pixel).
• Organizzazione: I canali sono raggruppati in sette gruppi di modalità fisicamente significativi: Superficie (WAC/LOLA), Termico (Diviner), Spettrale (M3), Gravità (GRAIL), Radar (Mini-RF), Hapke (WAC) e Composizione (Clementine/LP-GRS).
• Copertura: Varia significativamente, dal 100% per Superficie e Gravità fino a meno del 16-18% per il Radar.
• Preelaborazione: I dati sono allineati a una griglia equirettangolare comune, normalizzati tramite z-score e memorizzati come array mappati in memoria per consentire un campionamento casuale illimitato di crop 256×256 durante l'addestramento.

2.2 Il Modello: MG-MAE (Modality-Grouped Masked Autoencoder)

Il documento propone MG-MAE, un autoencoder mascherato specificamente progettato per gestire l'eterogeneità dei dati lunari. I componenti chiave dell'architettura includono:

• Tokenizzazione per Gruppi: Invece di assegnare un tokenizer a ciascuno dei 28 canali, il modello utilizza un singolo tokenizer convoluzionale multicanale per gruppo di modalità (7 tokenizer totali). Ciò consente al modello di apprendere le correlazioni intra-gruppo (ad esempio, attraverso lo spettro continuo della riflettanza M3) riducendo al contempo il numero di parametri.
• Encoder Condiviso con Mascheramento delle Modalità Mancanti: Un encoder ViT-Base condiviso elabora i token di tutti i gruppi. Per gestire gli strumenti con copertura parziale (ad esempio, il Radar che copre solo il 16% della superficie), il modello inserisce token segnaposto (vettori zero) per i gruppi mancanti e applica un mascheramento dell'attenzione per dimensione chiave (impostando i punteggi di attenzione a $-\infty$). Questo evita che le modalità non disponibili corrompano il meccanismo di attenzione, una distinzione critica rispetto ai modelli multimodali standard che assumono la presenza di tutte le modalità.
• Mascheramento Adattivo alla Copertura: Riconoscendo che la copertura varia di un ordine di grandezza, il rapporto di mascheramento è regolato per gruppo in base alla copertura globale ($m_g = 0.75 + \alpha(c_g - \bar{c})$). Questo preserva più token dalle modalità rare (ad esempio, il Radar) e maschera maggiormente i gruppi con copertura totale.
• Decoder Cross-Modale: Un decoder leggero condiviso utilizza la cross-attention per ricostruire le patch mascherate. Sfrutta le informazioni da tutti i gruppi disponibili per inferire i dati mancanti in uno specifico gruppo (ad esempio, inferire i pattern termici dalle osservazioni superficiali).
• Funzione di Perdita: L'obiettivo combina:
  1. MSE Proporzionalmente Pesata: I pesi ($w_g$) sono regolati dinamicamente in base alla perdita di ricostruzione corrente di ciascun gruppo, aumentando automaticamente il peso dei gruppi più difficili (come il Radar) e diminuendo quello dei più semplici (come la Gravità).
  2. Perdita Contrastiva InfoNCE: Allinea le feature mediate (mean-pooled) tra i diversi gruppi di modalità per incoraggiare rappresentazioni invarianti rispetto alla modalità.
  3. Regolarizzazione della Continuità Spettrale ($\mathcal{L}_{SCR}$): Una penalità L2 sulle differenze finite del secondo ordine attraverso gli 8 canali spettrali M3 ricostruiti. Questo impone ricostruzioni spettrali fisicamente plausibili e fluide, un vincolo specifico per la spettroscopia planetaria non presente nei modelli EO terrestri.

2.3 Protocollo di Addestramento

Il modello è addestrato per 100 epoche su 256 patch per batch utilizzando AdamW. Viene impiegata una strategia di mascheramento complementare dove, con una probabilità del 50%, 1–2 gruppi ancora mantengono il 100% dei loro token mentre gli altri vengono mascherati al 90%, costringendo il modello a fare affidamento pesantemente sull'inferenza cross-modale.

3. Benchmark e Valutazione

Gli autori definiscono una suite di benchmark di sei compiti downstream con split train/val/test fissi:

1. Classificazione Geologica: Classificazione a 49 classi delle unità geologiche USGS.
2. Classificazione dell'Età: Classificazione a 5 classi dei periodi di età superficiale.
3. Regressione della Composizione: Predizione delle frazioni in peso di FeO e TiO2.
4. Regressione Cross-Modale: Predizione dei valori termici da input non termici.
5. Segmentazione dei Mari: Segmentazione binaria dei basalti marini rispetto agli altipiani.
6. Segmentazione dei Crateri: Delimitazione dei crateri da impatto (> 10 km).

Le metriche di valutazione includono Accuratezza/F1, $R^2$ e mIoU.

4. Risultati Chiave

• Prestazioni Superiori: Le feature pre-addestrate di MG-MAE superano i baseline "from scratch", i modelli pre-addestrati su ImageNet e i baseline MAE vanilla su tutti i sei compiti.
  • Geologia: MG-MAE raggiunge il 56,3% di accuratezza (fine-tuned), un guadagno del +16,2% rispetto allo scratch e un distacco massiccio rispetto a ImageNet (33,2%).
  • Segmentazione dei Crateri: MG-MAE raggiunge lo 0,768 mIoU, un guadagno di +14,7 punti rispetto allo scratch.
  • Composizione: Il linear probing sulle feature di MG-MAE produce un $R^2$ di 0,924, superando sia lo scratch (0,802) che il modello fine-tuned (0,908), indicando che l'encoder cattura efficacemente i trend geochimici.
• Few-Shot Learning: In regimi di dati limitati (5-shot e 10-shot), MG-MAE supera significativamente i baseline scratch (ad esempio, +9,3% di accuratezza sulla geologia a 5-shot), dimostrando l'utilità per la prospezione di risorse dove la verità di base è scarsa.
• Generalizzazione: Sotto split geografici (addestramento su regioni equatoriali, test su alte latitudini), MG-amenti mantiene guadagni relativi costanti (+14,4% rispetto allo scratch), confermando che le rappresentazioni generalizzano attraverso diverse regioni lunari.
• Specificità del Dominio: Il transfer learning da modelli fondazionali di Osservazione della Terra (SatMAE, Prithvi-EO-2.0, TerraMind) fornisce solo guadagni marginali (+1,9% al massimo) rispetto allo scratch, confermando che le feature specifiche della Terra (vegetazione, atmosfera) non si trasferiscono alla Luna.
• Approfondimenti dall'Ablazione:
  • Il mascheramento delle modalità mancanti è il componente più critico; rimuoverlo riduce l'accuratezza della geologia del 4,6%.
  • La tokenizzazione per gruppi migliora le prestazioni rispetto ai tokenizer per singolo canale, catturando le correlazioni intra-gruppo.
  • La regolarizzazione della continuità spettrale migliora la regressione della composizione di 1,3 punti $R^2$.

5. Significato e Rivendicazioni

Il documento sostiene che Moonstone sia il primo benchmark di modello fondazionale multimodale per il telerilevamento lunare. La sua importanza risiede in:

1. Affrontare la Frammentazione dei Dati: Unifica dataset lunari disparati in un unico formato standardizzato e mappato in memoria.
2. Abilitare la Scienza Lunare Assistita dall'IA: Fornendo un benchmark, permette confronti equi tra i modelli, una capacità precedentemente assente per i dati lunari.
3. Validare il Pre-addestramento Specifico del Dominio: I risultati dimostrano che, mentre i modelli fondazionali della Terra falliscono nel trasferimento, il pre-addestramento sui dati lunari con adattamenti architettonici specifici (gestione delle modalità mancanti, continuità spettrale) produce sostanziali guadagni di prestazione.
4. Scalabilità: L'architettura è progettata per accogliere futuri dati da missioni imminenti (ad esempio, Chandrayaan-3, Lunar Trailblazer) come nuovi gruppi di modalità senza richiedere modifiche all'architettura.

Gli autori concludono che il pre-addestramento multimodale è essenziale per la scienza lunare, in particolare per compiti che richiedono l'interpretazione congiunta di morfologia, mineralogia e gravità, e che il loro dataset rilasciato, il codice e la suite di benchmark forniscono un protocollo comune per la ricerca futura nei modelli fondazionali planetari.