Tabular foundation models for the estimation of probabilistic quasar photometric redshifts in S-PLUS

Imaginez l'univers comme une gigantesque bibliothèque cosmique où chaque étoile et chaque galaxie est un livre. Pour comprendre l'histoire de l'univers — comment il a grandi, quel est son âge et comment les étoiles à l'intérieur se comportent — nous devons savoir exactement où chaque livre est situé dans l'espace et le temps. En astronomie, cet emplacement est appelé « décalage vers le rouge » (redshift). C'est un peu comme un code-barres cosmique : plus une galaxie s'éloigne de nous rapidement, plus sa lumière s'étire, se décalant vers la extrémité rouge de l'arc-en-ciel. En mesurant ce décalage, les astronomes peuvent déterminer à quelle distance se trouve un objet et quand sa lumière a commencé son voyage.

Cependant, obtenir ce « code-barres » parfaitement est délicat. La façon la plus précise de le lire consiste à prendre une photo « spectroscopique » à haute résolution, qui décompose la lumière en un arc-en-ciel détaillé. Mais ce processus est comparable à l'embauche d'un maître bibliothécaire pour lire chaque livre un par un ; cela prend un temps infini et coûte incroyablement cher. Ainsi, pour les milliards d'objets des relevés célestes modernes, les astronomes doivent deviner le décalage vers le rouge en se basant sur une photo « photométrique » plus simple — juste quelques clichés de l'objet à travers différents filtres de couleur. Le problème est que ce devinette est souvent comparable à essayer de deviner l'âge d'une personne en regardant une photo floue et à basse résolution ; des âges différents peuvent paraître étonnamment similaires, ce qui mène à des réponses multiples et confuses.

C'est ici qu'un nouveau type d'IA entre en jeu pour aider. Les scientifiques testent si les « modèles de fondation » (foundation models) — des systèmes d'IA pré-entraînés très intelligents qui ont déjà appris les règles des données à partir de millions d'autres exemples — peuvent agir comme des experts prêts à l'emploi pour deviner ces distances cosmiques. La grande question est : ces outils d'IA généraux, qui n'ont pas été spécifiquement enseignés sur les quasars (les noyaux super brillants des galaxies lointaines), peuvent-ils gérer la réalité désordonnée et confuse des données réelles du ciel mieux que les outils spécialisés que les astronomes ont construits au cours de la dernière décée ?

Dans cet article, les auteurs mettent cette idée à l'épreuve en utilisant les données du relevé S-PLUS, un projet massif cartographiant le ciel austral avec 12 différents filtres de couleur. Ils se sont concentrés sur les quasars, qui sont particulièrement complexes car leurs couleurs peuvent être trompeuses par leur similitude à des distances très différentes, créant une « dégénérescence couleur-redshift » où un ensemble de couleurs pourrait signifier plusieurs distances distinctes. L'équipe a comparé trois nouveaux « modèles de fondation tabulaires » (plus précisément TabPFN 2.5, RealTabPFN 2.5 et TabICL) contre huit méthodes d'apprentissage automatique spécialisées traditionnelles.

Considérez les méthodes traditionnelles comme des apprentis spécialisés qui ont passé des années à étudier uniquement les quasars. Les modèles de fondation, en revanche, sont comme des génies généralistes qui ont lu tous les livres de la bibliothèque mais n'ont pas spécifiquement étudié les quasars. Les chercheurs voulaient voir si ces généralistes pouvaient intervenir, examiner les données et produire instantanément une « carte de probabilité » complète de l'endroit où un quasar pourrait se trouver, plutôt que de simplement deviner un chiffre unique. Cela est crucial car, comme le note l'article, un devinage unique est souvent faux ; une carte de probabilité vous dit : « C'est probablement ici, mais il y a une petite chance que ce soit beaucoup plus loin », ce qui aide à éviter des erreurs catastrophiques dans les futures études cosmiques.

Les résultats ont été étonnamment clairs. Les modèles de fondation, en particulier TabPFN 2.5, ont obtenu des performances exceptionnelles, égalant ou dépassant souvent les meilleurs outils spécialisés. La partie la plus impressionnante est que ces modèles généralistes ont brillé davantage lorsque les données étaient rares. Lorsque l'équipe ne leur a donné que 500 quasars pour apprendre (une quantité minuscule en termes astronomiques), les modèles de fondation étaient bien supérieurs aux outils spécialisés, qui peinaient à apprendre à partir d'un échantillon aussi réduit. Même avec un ensemble de données massif de plus de 121 000 quasars, TabPFN 2.5 est resté un concurrent de premier plan, produisant des cartes de probabilité hautement précises et bien calibrées, ce qui signifie que leurs « suppositions » sur l'incertitude étaient honnêtes et fiables.

L'étude a également abordé un problème sournois appelé « décalage de covariables » (covariate shift). Imaginez que vous ayez formé un pronostiqueur météo en utilisant des données provenant uniquement de jours ensoleillés, puis que vous lui demandiez de prédire la pluie. Il pourrait échouer car les conditions sont différentes. De même, les quasars que les astronomes peuvent facilement étudier (l'ensemble d'entraînement) sont souvent plus brillants et plus faciles à voir que les milliards de quasars plus faibles qu'ils souhaitent réellement étudier (la population cible). L'article utilise une technique de pondération intelligente pour simuler la manière dont les modèles se comporteraient face à ces objets faibles et difficiles à voir. Même sous ce test de résistance, TabPFN 2.5 a maintenu sa position, restant stable tandis que certains outils spécialisés devenaient trop confiants et commettaient plus d'erreurs.

En analysant quelles caractéristiques l'IA a utilisées pour faire ses suppositions, les auteurs ont découvert que les modèles s'appuyaient fortement sur les données du télescope infrarouge WISE (spécifiquement les bandes W1 et W2) et du télescope ultraviolet GALEX, en plus des couleurs optiques de S-PLUS. C'est comme si l'IA avait réalisé que pour voir la véritable distance de ces balises cosmiques, il faut les regarder non seulement en lumière visible, mais aussi en infrarouge et en ultraviolet.

Cependant, l'article souligne un obstacle pratique. Bien que ces modèles soient puissants, ils sont gourmands en ressources de calcul. Utiliser l'ensemble complet des plus de 120 000 quasars d'entraînement pour faire des prédictions nécessite une mémoire informatique et un temps considérables. Les auteurs suggèrent que pour les futurs relevés massifs, ils devront peut-être « distiller » ces modèles ou utiliser des sous-ensembles de données plus petits pour rendre le processus plus rapide.

En conclusion, l'article suggère que TabPFN 2.5 est un choix « par défaut » robuste et fiable pour estimer les distances des quasars, surtout lorsque les données sont limitées ou lorsqu'il est crucial de bien évaluer l'incertitude. Il prouve qu'il n'est pas toujours nécessaire de construire un outil personnalisé de toutes pièces ; parfois, une IA pré-entraînée et généraliste peut intervenir et faire le travail aussi bien, sinon mieux, que les experts. Cela ouvre la voie à l'utilisation de ces puissants modèles de fondation dans les futurs relevés astronomiques pour nous aider à cartographier l'univers avec une plus grande précision et moins d'erreurs.