Tabular foundation models for the estimation of probabilistic quasar photometric redshifts in S-PLUS

Immaginate l'universo come una gigantesca biblioteca cosmica dove ogni stella e galassia è un libro. Per comprendere la storia dell'universo — come è cresciuto, quanto è vecchio e come si comportano le stelle al suo interno — dobbiamo sapere esattamente dove si trova ogni libro nello spazio e nel tempo. In astronomia, questa posizione è chiamata "redshift" (spostamento verso il rosso). È un po' come un codice a barre cosmico: più velocemente una galassia si allontana da noi, più la sua luce si allunga, spostandosi verso l'estremità rossa dell'arcobaleno. Misurando questo spostamento, gli astronomi possono capire quanto è lontano un oggetto e quanto tempo fa la sua luce ha iniziato il suo viaggio.

Tuttamente, ottenere questo "codice a barre" perfettamente è complicato. Il modo più accurato per leggerlo è scattare una foto "spettroscopica" ad alta risoluzione, che scompone la luce in un arcobaleno dettagliato. Ma questo processo è come assumere un bibliotecario esperto per leggere ogni singolo libro uno per uno; richiede un tempo infinito ed è incredibilmente costoso. Così, per i miliardi di oggetti nei moderni rilievi del cielo, gli astronomi devono indovinare il redshift basandosi su una foto "fotometrica" più semplice — solo alcuni scatti dell'oggetto in diversi filtri colorati. Il problema è che questa ipotesi è spesso come cercare di indovinare l'età di una persona guardando solo una foto sfocata e a bassa risoluzione; età diverse possono sembrare sorprendentemente simili, portando a risposte confuse e multiple.

È qui che entra in gioco un nuovo tipo di IA. Gli scienziati stanno testando se i "modelli di fondazione" (foundation models) — sistemi di IA pre-addestrati e super intelligenti che hanno già imparato le regole dei dati da milioni di altri esempi — possano agire come esperti pronti all'uso per indovinare queste distanze cosmiche. La grande domanda è: questi strumenti di IA generalisti, che non sono stati specificamente istruiti sui quasar (i nuclei super luminosi di galassie distanti), possono gestire la realtà disordinata e confusa dei dati reali del cielo meglio degli strumenti specializzati che gli astronomi hanno costruito nell'ultimo decennio?

In questo articolo, gli autori mettono alla prova questa idea utilizzando i dati del sondaggio S-PLUS, un progetto massiccio che mappa il cielo meridionale con 12 diversi filtri di colore. Si sono concentrati sui quasar, che sono particolarmente complicati perché i loro colori possono essere ingannevolmente simili a distanze molto diverse, creando una "degenerazione colore-redshift" dove un insieme di colori potrebbe significare diverse distanze. Il team ha confrontato tre nuovi "modelli di fondazione tabulari" (specificamente TabPFN 2.5, RealTabPFN 2.5 e TabICL) contro otto metodi tradizionali di machine learning specializzati.

Pensate ai metodi tradizionali come apprendisti specializzati che hanno passato anni a studiare solo i quasar. I modelli di fondazione, invece, sono come geni generalisti che hanno letto ogni libro della biblioteca ma non hanno ancora studiato specificamente i quasar. I ricercatori volevano vedere se questi generalisti potessero intervenire, esaminare i dati e produrre istantaneamente una "mappa di probabilità" completa di dove potrebbe trovarsi un quasar, piuttosto che limitarsi a indovinare un singolo numero. Questo è fondamentale perché, come nota l'articolo, un singolo tentativo è spesso sbagliato; una mappa di probabilità dice: "È probabilmente qui, ma c'è una piccola possibilità che sia molto più in là", il che aiuta a evitare errori catastrofici negli studi cosmici futuri.

I risultati sono stati sorprendentemente chiari. I modelli di fondazione, in particolare TabPFN 2.5, si sono comportati eccezionalmente bene, spesso superando o pareggiando i migliori strumenti specializzati. La parte più impressionante è stata che i modelli generalisti hanno brillato maggiormente quando i dati erano scarsi. Quando il team ha fornito loro solo 500 quasar da apprendere (una quantità minuscola in termini astronomici), i modelli di fondazione sono stati di gran lunga superiori agli strumenti specializzati, che faticavano a imparare da un campione così piccolo. Anche con un dataset massiccio di oltre 121.000 quasar, TabPFN 2.5 è rimasto un contendente di alto livello, producendo mappe di probabilità altamente accurate e ben calibrate, il che significa che le loro "ipotesi" sull'incertezza erano oneste e affidabili.

Lo studio ha affrontato anche un problema subdolo chiamato "spostamento covariante" (covariate shift). Immaginate di aver addestrato un previsore meteorologico usando solo dati di giornate soleggiate, per poi chiedergli di prevedere la pioggia. Potrebbe fallire perché le condizioni sono diverse. Allo stesso modo, i quasar che gli astronomi possono studiare facilmente (il "set di addestramento") sono spesso più luminosi e facili da vedere rispetto ai miliardi di quasar deboli che vogliono realmente studiare (la "popolazione target"). L'articolo ha utilizzato una tecnica di ponderazione intelligente per simulare come i modelli si sarebbero comportati su questi oggetti deboli e difficili da vedere. Anche sotto questo test di resistenza, TabPFoFN 2.5 ha mantenuto la sua posizione, rimanendo stabile mentre alcuni degli strumenti specializzati diventavano eccessivamente sicuri di sé e commettevano più errori.

Analizzando quali caratteristiche l'IA abbia utilizzato per fare le sue ipotesi, gli autori hanno scoperto che i modelli si sono basati pesantemente sui dati del telescopio a infrarossi WISE (specificamente le bande W1 e W2) e sul telescopio ultravioletto GALEX, oltre ai colori ottici di S-PLUS. È come se l'IA si fosse resa conto che, per vedere la vera distanza di questi fari cosmici, è necessario guardare non solo nella luce visibile, ma anche nell'infrarosso e nell'ultravioletto.

Tuttavia, l'articolo evidenzia un limite pratico. Sebbene questi modelli siano potenti, sono affamati di risorse computazionali. Utilizzare l'intero dataset di oltre 120.000 quasar di addestramento per fare previsioni richiede una memoria e un tempo di calcolo significativi. Gli autori suggeriscono che, per i futuri grandi sondaggi, potrebbero dover "distillare" questi modelli o utilizzare sottoinsiemi di dati più piccoli per rendere il processo più veloce.

In conclusione, l'articolo suggerisce che TabPFN 2.5 è una scelta "predefinita" forte e affidabile per stimare le distanze dei quasar, specialmente quando i dati sono limitati o quando è fondamentale determinare correttamente l'incertezza. Dimostra che non è sempre necessario costruire uno strumento personalizzato da zero; a volte, un'IA generalista pre-addestrata può intervenire e svolgere il compito altrettanto bene, se non meglio, degli esperti. Ciò apre la porta all'uso di questi potenti modelli di fondazione nei futi sondaggi astronomici per aiutarci a mappare l'universo con maggiore precisione e meno errori.