Sintesi Tecnica: Miglioramento del Modello KidSat per la Predizione della Povertà Infantile

Definizione del Problema

La mappatura accurata della povertà tramite immagini satellitari affronta tre sfide primarie: (i) supervisione rumorosa e sparsa derivante da indagini sui nuclei familiari, (ii) problemi di qualità delle immagini come la copertura nuvolosa e la corruzione dei sensori, e (iii) mancanza di una struttura spaziale esplicita nei modelli basati esclusivamente su immagini. L'originale framework KidSat, che stima la proporzione di bambini sotto i 18 anni che vivono in condizioni di grave deprivazione in 16 paesi africani, era limitato da una matrice di fine-tuning ad alta cardinalità e scarsa densità, una mancanza di controllo sistematico della qualità delle immagini e un affidamento esclusivo su caratteristiche visive che non riuscivano a catturare le dipendenze specifiche della località.

Metodologia

Gli autori propongono una pipeline potenziata che integra una raffinata preelaborazione dei dati, una valutazione sistematica della qualità delle immagini e una codifica geografica matematicamente definita. La metodologia si compone di tre componenti fondamentali:

1. Raffinamento della Matrice di Fine-Tuning

La pipeline originale utilizzava una matrice one-hot encoded a 103 dimensioni basata su 17 variabili DHS, risultando in un'alta sparsità (50 dimensioni con <5% di voci non nulle) e instabilità numerica. Gli autori hanno affrontato questo problema tramite:

• Augmentation delle Variabili: Inclusione dell'indicatore di residenza rurale-urbana e dell'indice di ricchezza del nucleo familiare, che presentano forti correlazioni con la povertà.
• Riappregazione Informata: Fusione manuale delle colonne categoriche sparse basata sui codici DHS e sulla letteratura precedente, consolidando le categorie rare in un'unica classe "Altro".
• Riduzione della Dimensionalità: Riduzione della matrice di fine-tuning da 103 a 48 dimensioni, rafforzando così i segnali del gradiente e migliorando la stabilità della normalizzazione.

2. Valutazione e Selezione della Qualità delle Immagini

Per mitigare il rumore causato dalla copertura nuvolosa e dagli errori dei sensori (specificamente i gap nelle linee di scansione in Landsat 7 e i pixel nulli in Landsat 7/8), è stata implementata una procedura di screening a due fasi:

• Fase 1 (Corruzione del Sensore): Rilevamento dei gap nelle linee di scansione e dei pixel nulli (RGB = 0,0,0).
• Fase 2 (Rilevamento delle Nuvole): Un approccio basato sulla fisica ispirato a FMASK, che calcola quattro indici spettrali (luminosità, NDVI, rapporto blu-rosso e bianchezza). Sono state applicate soglie percentili adattive (85° per Landsat 7, 90° per Landsat 8) per minimizzare i falsi positivi nelle aree urbane luminose.
• Strategia di Selezione: Le immagini con >30% di pixel degradati sono state escluse o sostituite, selezionando l'immagine con il minor grado di degradazione per ogni cluster per garantire la coerenza.

3. Codifica Geografica e Fusione delle Caratteristiche

Per affrontare la mancanza di struttura spaziale, gli autori hanno fuso gli embedding visivi DINOv2 con codifiche geografiche:

• Armoniche Sferiche (SH): Un encoder a dimensionalità fissa che calcola le parti reali e immaginarie delle armoniche sferiche fino al grado $L=15$ dalle coordinate $(\theta, \phi)$. Questo cattura una struttura spaziale multi-scala senza parametri apprendibili.
• SH + SIREN: Un approccio ibrido in cui le caratteristiche SH vengono passate attraverso una rete SIREN (4 strati nascosti, 256 neuroni, attivazioni sinusoidali) per produrre un embedding apprendibile a 128 dimensioni. Questa rete è pre-addestrata sugli indicatori di povertà prima della fusione.
• Fusione: Gli embedding visivi e geografici vengono concatenati e passati a una testa di regressione.
• Teste di Regressione: Lo studio ha valutato Ridge regression, Random Forest, LightGBM, XGBoost e MLP poco profondi. Si ipotizzava che gli ensemble basati su alberi potessero catturare meglio le interazioni non lineari tra gli indizi visivi e il contesto geografico (ad esempio, il significato variabile di "vegetazione rada" in regioni aride rispetto a quelle umide).

Contributi Chiave

1. Ottimizzazione della Preelaborazione dei Dati: Una matrice target di fine-tuning raffinata che risolve la scarsità ad alta cardinalità e riduce la dimensionalità da 103 a 51 (48 dimensioni mantenute), migliorando la stabilità del gradiente.
2. Controllo Sistematico della Qualità: Una procedura di screening delle immagini a due fasi che filtra le osservazioni pesantemente nuvolose o corrotte, garantendo l'affidabilità e la riproducibilità dei dati in diversi ambienti computazionali.
3. Integrazione Geografica: Il successo dell'integrazione delle Armoniche Sferiche (SH) con gli embedding visivi DINOv2, dimostrando che un contesto spaziale strutturato complementa le caratteristiche basate sulle immagini.
4. Analisi dell'Architettura del Modello: L'identificazione del fatto che le teste di boosting del gradiente (XGBoost/LightGBM) sfruttano più efficacemente le interazioni non lineari nella rappresentazione fusa visivo-geografica, superando le teste di regressione lineare e neurale.

Risultati Sperimentali

Gli esperimenti sono stati condotti sul dataset originale di 16 paesi ed estesi a 33 paesi africani.

• Baseline vs. Potenziato: La pipeline originale di KidSat ha raggiunto un Errore Assoluto Medio (MAE) di 0,2167. La pipeline potenziata (matrice raffinata + screening della qualità) ha ridotto questo valore a 0,1980 (una riduzione relativa dell'8,63%).
• Impatto della Codifica Geografica: L'aggiunta delle caratteristiche SH alla pipeline potenziata ha ulteriormente ridotto il MAE a 0,1759 (usando LightGBM), rappresentando una riduzione relativa totale del 18,83% rispetto alla baseline.
• SH vs. SH+SIREN: La codifica SH da sola ha costantemente superato l'approccio ibrido SH+SIREN. La configurazione SH+SIREN è spesso risultata inferiore alla semplice SH (es. 0,1853 vs. 0,1759 MAE con XGBoost), suggerendo che l'addestramento della SIREN sullo stesso vettore di povertà del modello di visione possa aver introdotto una sovrapposizione di rappresentazione piuttosto che segnali complementari.
• Teste di Regressione: I modelli basati su alberi (LightGBM, XGBoost) hanno costantemente ottenuto gli errori più bassi. LightGBM con codifica SH ha fornito il risultato migliore (0,1759 ± 0,0016).
• Scalabilità: Quando esteso a 33 paesi (43.823 cluster), la migliore configurazione (SH + LightGBM + preelaborazione migliorata) ha raggiunto un MAE complessivo di 0,1658, dimostrando robustezza attraverso regioni geograficamente diverse.

Significato e Rivendicazioni

Il documento sostiene di fornire una "ricetta scalabile e fondata" per migliorare le predizioni socioeconomiche basate su satelliti utilizzando solo dati accessibili pubblicamente. Gli autori sottolineano che:

• I Prior Geografici sono Essenziali: Prior geografici ben strutturati come le Armoniche Sferiche possono migliorare significativamente la predizione della povertà fornendo informazioni complementari ai backbone visivi.
• La Non Linearità è Importante: La rappresentazione fusa visivo-geografica contiene interazioni non lineari significative che i modelli lineari non possono catturare appieno; i modelli di gradient boosting sono particolarmente efficaci in questo contesto.
• La Qualità dei Dati è Fondamentale: La valutazione sistematica della qualità delle immagini e la riaggregazione informata delle variabili sono vincoli critici per le prestazioni del modello, spesso generando guadagni significativi prima di apportare modifiche architettoniche complesse.
• Cautela sugli Encoder ad Alta Capacità: Gli MLP di coordinate ad alta capacità (come SIREN) richiedono obiettivi progettati con cura per evitare la duplicazione delle informazioni visive e l'overfitting, poiché hanno performato peggio dei semplici encoder fissi in questo specifico contesto.

Lo studio conclude che, sebbene l'approccio sia robusto e scalabile, il lavoro futuro potrebbe esplorare obiettivi di addestramento alternativi per gli encoder spaziali e incorporare ulteriori dataset a basso costo (ad esempio, luci notturne, dati sui conflitti) per arricchire ulteriormente il framework di predizione.