🤖 machine learning

PIMSM: Physics-Informed Multi-Scale Mamba for Stable Neural Representations under Distribution Shift

L'article propose PIMSM (Physics-Informed Multi-Scale Mamba), une architecture d'espace d'états qui aligne la discrétisation du modèle sur les échelles de temps physiques pour surmonter le décalage des noyaux temporels, permettant ainsi d'obtenir des représentations neuronales robustes et stables pour les séries temporelles scientifiques dans des conditions de décalages de distribution sévères.

Auteurs originaux : Sangyoon Bae, Shinjae Yoo, Jiook Cha

Publié 2026-05-19

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Sangyoon Bae, Shinjae Yoo, Jiook Cha

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le Grand Problème : Le Piège du « Taille Unique »

Imaginez que vous essayez d'apprendre une nouvelle langue. La plupart des modèles d'IA actuels sont comme des élèves qui mémorisent parfaitement un manuel spécifique. Ils sont excellents pour répondre aux questions tirées de ce livre exact (les « données d'entraînement »). Mais dès que vous leur posez une question issue d'un livre légèrement différent, dans un accent différent, ou avec moins de mots, ils se perdent.

Dans le monde scientifique, cela se produit avec les données de séries temporelles (comme les IRM cérébrales ou les rapports météorologiques).

IRM cérébrales : Le cerveau ne fonctionne pas à une seule vitesse. Il présente des décharges électriques rapides et des ondes d'activité lentes et progressives.
Météorologie : L'atmosphère connaît des rafales de vent rapides et des changements saisonniers lents.

Les modèles d'IA actuels traitent souvent ces signaux complexes et multi-vitesses comme un seul motif désordonné à mémoriser. Ils ne respectent pas le fait que la nature opère sur différentes « échelles de temps » simultanément. Lorsque les conditions changent (par exemple, un appareil IRM différent, une station météo différente, ou un enregistrement plus court), ces modèles échouent car ils ont appris le mauvais « rythme ».

La Solution : PIMSM (Le « Chef d'Orchestre »)

Les auteurs proposent un nouveau modèle appelé PIMSM (Mamba Multi-Échelle Informé par la Physique).

Imaginez un modèle d'IA standard comme un batteur qui ne connaît qu'un seul rythme : Boom-bap, Boom-bap. Peu importe que la chanson soit un jazz rapide ou une ballade lente, le batteur essaie d'imposer ce seul rythme. Cela fonctionne à peu près pour la chanson d'entraînement, mais échoue lorsque le tempo change.

PIMSM est comme un Chef d'Orchestre qui écoute d'abord l'orchestre.

L'Écoute (Le Spectre) : Avant que la musique ne commence, PIMSM examine la « partition » (le spectre de fréquence) du signal. Il identifie les « genoux » ou points de basculement où la musique passe des notes rapides aux notes lentes.
L'Attribution des Rôles : Au lieu d'utiliser un seul rythme, PIMSM assigne différents « batteurs » (ou paramètres de mémoire) à différentes parties de la chanson.
- Un batteur gère les notes rapides et aiguës (mises à jour rapides).
- Un autre gère les notes graves et profondes (mémoire longue).
L'Ancrage à la Réalité : Crucialement, PIMSM lie ces batteurs à des unités de temps réelles. Si les données sont mesurées en « secondes » ou en « heures », la mémoire du modèle est calibrée en secondes ou en heures. Il n'apprend pas seulement des nombres abstraits ; il apprend le temps physique.

Comment Cela Fonctionne (La Partie « Informée par la Physique »)

Le papier soutient que la nature suit des règles physiques spécifiques.

Les Fréquences « Genou » : Tout comme une route peut avoir un virage serré (un « genou ») où vous devez ralentir, les données possèdent des fréquences spécifiques où le comportement change. PIMSM détecte ces courbes automatiquement.
La Carte : Il utilise ces courbes pour construire une carte. Il indique à l'IA : « Pour cette partie du signal, souviens-toi des 5 dernières secondes. Pour cette autre partie, souviens-toi des 5 dernières heures. »
Pas de Devinettes : Contrairement à d'autres modèles qui devinent comment mémoriser les choses, PIMSM est « informé par la physique ». Il utilise la forme réelle de l'énergie des données pour décider comment les mémoriser.

Les Expériences : Tester dans la « Nature Sauvage »

Les auteurs ont testé cette idée dans deux mondes très différents pour voir si elle était robuste (solide) lorsque les choses changeaient.

1. Le Cerveau (Données IRMf)

Le Défi : Ils ont pris des IRM cérébrales et ont artificiellement coupé le début de l'enregistrement (simulant une situation où vous n'avez que quelques secondes de données). Ils ont également essayé d'entraîner le modèle sur des cerveaux au « repos » et de le tester sur des cerveaux « actifs ».
Le Résultat : Les modèles standards se sont perdus et leur « compréhension » interne du cerveau a divergé. PIMSM est resté stable. C'était comme un navigateur capable de trouver la destination même si vous ne lui montriez qu'un tout petit fragment de la carte. Il a maintenu sa « mémoire » alignée sur les rythmes physiques réels du cerveau.

2. La Météo (Weather-5K)

Le Défi : Ils ont entraîné le modèle sur des données météorologiques de certaines villes et lui ont demandé de prédire la météo pour des villes complètement nouvelles qu'il n'avait jamais vues auparavant (hors distribution).
Le Résultat : PIMSM a été le plus précis pour prédire la température, le vent et la pression pour ces nouvelles localités. Il n'avait pas besoin d'être réentraîné pour les nouvelles villes ; sa compréhension du « vent rapide » et des « changements de pression lents » était suffisamment universelle pour fonctionner partout.

Pourquoi Cela Compte (L'Essentiel)

Le papier affirme que pour que l'IA scientifique soit véritablement utile, elle ne peut pas être un simple « matcheur de motifs ». Elle doit respecter la physique du temps.

L'Ancienne Façon : « Je vais mémoriser le motif de cet ensemble de données spécifique. » (Échoue lorsque l'ensemble de données change).
La Façon PIMSM : « Je vais apprendre le rythme physique de ce signal, afin de pouvoir m'adapter à de nouvelles vitesses, de nouveaux lieux et de nouvelles conditions. »

En ancrant la mémoire de l'IA aux échelles de temps physiques réels des données (comme des secondes pour un battement de cœur ou des heures pour une tempête), le modèle devient beaucoup plus stable. Il ne se contente pas de s'adapter aux données ; il comprend la structure des données, lui permettant de survivre lorsque le monde réel lui lance un imprévu.

Analogie de Résumé

Si une IA standard est un perroquet qui répète ce qu'il a entendu en classe, PIMSM est un musicien qui comprend la théorie du rythme. Si le perroquet entend une chanson jouée légèrement plus vite, il se perd. Le musicien, en revanche, comprend que « rapide » et « lent » sont des concepts relatifs liés au battement, il peut donc jouer la chanson correctement, peu importe qui dirige ou quel instrument est utilisé.

Résumé Technique : PIMSM – Mamba Multi-échelle Informé par la Physique pour des Représentations Neurales Stables sous Déplacement de Distribution

1. Énoncé du Problème

Les modèles de fondation scientifiques visent à apprendre des représentations réutilisables à travers divers ensembles de données, protocoles d'acquisition et domaines de déploiement. Cependant, les architectures de base séquentielles actuelles traitent souvent les structures temporelles scientifiques comme des motifs non contraints à ajuster, ignorant la réalité physique selon laquelle les systèmes dynamiques naturels (par exemple, les séries temporelles neuronales et atmosphériques) sont organisés par des processus interactifs à travers multiples échelles de temps physiques.

Les auteurs identifient un mode de défaillance spécifique appelé mismatch de noyau temporel. Cela se produit lorsqu'un modèle ajuste la dynamique in-distribution en utilisant une politique de mémoire effective qui n'est pas ancrée aux échelles de temps physiques du signal. Par conséquent, lorsque les conditions de déploiement changent (par exemple, modifications de la résolution temporelle, du taux d'échantillonnage, de l'état cérébral ou du domaine géographique), la politique de mémoire apprise par le modèle échoue à préserver les dynamiques pertinentes pour la tâche, entraînant une dérive de représentation et une dégradation des performances de transfert. Le défi central consiste à concevoir une architecture qui préserve la structure multi-échelle pour garantir que les représentations restent réutilisables sous déplacement, plutôt que de simplement optimiser l'ajustement des corrélations in-distribution.

2. Méthodologie : Mamba Multi-échelle Informé par la Physique (PIMSM)

PIMSM est une architecture d'espace d'états conçue pour aligner les échelles temporelles avec les propriétés physiques du signal. Elle remplace la paramétrisation temporelle entièrement non contrainte par une hiérarchie guidée par le spectre.

2.1 Mécanisme Central : Cartographie Spectre-à-Discrétisation

La méthode exploite l'observation que les signaux neuronaux et atmosphériques présentent souvent des structures spectrales en loi de puissance par morceaux.

Analyse Spectrale (SpectralHyperNet) : Le modèle estime la Densité Spectrale de Puissance (DSP) de la série temporelle d'entrée et ajuste une forme de loi de puissance par morceaux : $P(f) \propto f^{-\beta_k}$ pour les régimes de fréquence séparés par des « fréquences de genou » ( $f_k$ ). Ces genoux représentent les points de transition spectrale entre différents régimes temporels.
Paramétrisation Spécifique à l'Échelle : Les fréquences de genou estimées définissent $K$ bandes de fréquence. Pour chaque bande, une fréquence représentative pondérée par l'énergie ( $f_{c,k}$ ) est calculée.
Ancrage à l'Unité d'Acquisition : Ces fréquences représentatives sont mappées vers des paramètres de discrétisation spécifiques à l'échelle ( $\Delta_k$ $Δ_{k}$ ) pour les têtes du Modèle d'Espace d'États (SSM). Crucialement, $\Delta_k$ $Δ_{k}$ est exprimé en unités de temps d'acquisition (par exemple, TR pour l'IRMf, heures pour la météo).
- Les bandes de fréquence plus élevées sont mappées vers des $\Delta$ plus grands (mises à jour plus rapides).
- Les bandes de fréquence plus basses sont mappées vers des $\Delta$ plus petits (mémoire plus longue).
- Une contrainte hiérarchique ( $\Delta_1 \ge \Delta_2 \ge \dots$ ) impose un ordre temporel.
Régularisation de la Compensation : Pour empêcher la matrice d'état en temps continu $A$ de compenser le $\Delta$ fixe (ce qui rendrait l'ancrage physique inefficace), PIMSM applique un régularisateur d'échelle sur $A$ , maintenant son échelle de décroissance près d'une initialisation motivée physiquement.

2.2 Architecture

PIMSM intègre ces paramètres dans une architecture de base Mamba-2 :

Têtes Multi-échelles : Le modèle emploie plusieurs têtes SSM regroupées en $K$ groupes d'échelles (par défaut $K=3$ ). Les têtes au sein d'un même groupe partagent le paramètre de discrétisation $\Delta_k$ mais maintiennent des transitions d'état indépendantes.
Attention Inter-échelles : Un module d'attention inter-échelles léger fusionne les états spécifiques à l'échelle, modélisant les interactions entre différents régimes temporels.
Objectif d'Entraînement : La perte totale inclut la perte de tâche, la perte d'ajustement spectral (pour garantir une estimation précise des genoux), la perte de continuité des coutures, et les termes de régularisation pour $\Delta$ (ancrage aux unités d'acquisition) et $A$ (prévention de la dérive d'échelle).

3. Contributions Clés

L'article décrit trois contributions principales :

L'Alignement d'Échelle Temporelle comme Exigence : Les auteurs formulent le « mismatch de noyau temporel » comme un diagnostic expliquant pourquoi les représentations de séries temporelles scientifiques échouent sous les déplacements de distribution. Ils soutiennent que la préservation des échelles de temps physiques est une condition préalable à des représentations réutilisables.
Paramétrisation Multi-échelle Informée par la Physique : PIMSM est proposé comme une architecture structurée qui dérive des noyaux spécifiques à l'échelle à partir de fréquences de genou estimées par spectre, exprime les pas de discrétisation en unités d'acquisition et régularise la matrice d'état pour garantir que ces échelles restent interprétables et transférables.
Évaluation de Robustesse Multi-Axe : Le modèle est évalué à travers divers déplacements structurés dans les domaines neuronal (IRMf) et météorologique (Weather-5K), démontrant une robustesse améliorée sans adaptation spécifique à la modalité ni supervision spécifique au déplacement.

4. Résultats Expérimentaux

Les auteurs ont évalué PIMSM par rapport à des modèles de base appariés en paramètres (Mamba2, Transformer, 1D-CNN) à travers quatre axes de déplacement :

Axe (i) Troncature du Contexte Temporel (IRMf Motrice HCP) :
- Configuration : Modèles entraînés sur des blocs moteurs complets mais évalués sur des entrées sévèrement tronquées (les 2 ou 3 premiers TR).
- Résultat : PIMSM a obtenu le plus petit écart de précision entre les entrées de bloc complet et tronqué, ainsi que la plus grande similarité de représentation (CKA et dCor) entre les deux conditions. Les ablations ont montré que l'initialisation dérivée du spectre était critique ; des valeurs de $\Delta$ apprenables ou aléatoires ont entraîné une stabilité inférieure.
Axe (ii) Généralisation à Faibles Ressources (IRMf Motrice HCP) :
- Configuration : Entraînement avec 1 % à 100 % des données étiquetées.
- Résultat : PIMSM a nettement surpassé les modèles de base dans le régime de 1 % de données, indiquant une efficacité d'échantillonnage supérieure lorsque les signaux supervisés sont extrêmement limités.
Axe (iii) Déplacement d'État Cérébral (Repos $\to$ Tâche) :
- Configuration : Modèles entraînés sur l'IRMf au repos et évalués sur l'IRMf évoquée par une tâche sans adaptation.
- Résultat : PIMSM a atteint la précision la plus élevée et une variance substantiellement plus faible à travers les graines par rapport aux modèles de base, suggérant une sensibilité réduite au déplacement de l'état d'acquisition.
Axe (iv) Déplacement Inter-domaine (Weather-5K) :
- Configuration : Prévision hors distribution (OOD) spatiale sur des stations météorologiques retenues.
- Résultat : PIMSM a obtenu l'erreur absolue moyenne (MAE) la plus faible sur les 24 points de terminaison variable-horizon. Il a réduit le MAE d'une moyenne de 15,2 % par rapport au meilleur modèle de base non-PIMSM, avec des gains augmentant à des horizons de prévision plus longs (jusqu'à 17,9 % à 168h).

5. Signification et Revendications

L'article revendique que PIMSM démontre que l'alignement d'échelle temporelle sert de biais inductif pratique pour les modèles de fondation scientifiques. En ancrant la politique de mémoire du modèle à l'organisation physique du signal (via des genoux dérivés du spectre et des unités d'acquisition), l'architecture préserve la géométrie des représentations sous des déplacements de distribution sévères.

Les auteurs soulignent que ces gains ne sont pas de simples améliorations de précision, mais des preuves que le modèle peut maintenir des dynamiques réutilisables à travers différents contextes (par exemple, des états de repos aux états de tâche, ou d'une région géographique à une autre). Le travail suggère que pour les signaux scientifiques, préserver la structure est aussi important que d'ajuster les corrélations, particulièrement lorsque les conditions de déploiement (résolution temporelle, étiquettes ou domaine) changent.

L'étude reconnaît des limites, notant qu'elle suppose qu'un petit nombre de genoux dérivés du spectre suffit à résumer l'organisation temporelle et que les expériences HCP testent la troncature d'entrée plutôt que des changements de TR au niveau du scanner. Cependant, les résultats soutiennent l'hypothèse que la paramétrisation temporelle informée par la physique peut servir de principe de conception réutilisable pour des modèles opérant sous des contraintes réelles telles que des enregistrements courts, des étiquettes rares et des scénarios OOD spatiaux.