Demystifying KAN for Vision Tasks: The RepKAN Approach

Le papier propose RepKAN, une architecture innovante intégrant l'efficacité des CNN et la puissance non linéaire des KAN pour la classification d'images de télédétection, offrant ainsi des résultats performants et une interprétabilité physique supérieure sur des jeux de données comme EuroSAT et NWPU-RESISC45.

L'essentiel

🛰️ Le Problème : Les "Cerveaux Noirs" de l'Observation Terrestre

Imaginez que vous avez un satellite qui prend des photos de la Terre. Ces photos ne sont pas juste en couleurs (rouge, vert, bleu), mais elles contiennent des dizaines de "couleurs invisibles" (comme l'infrarouge) qui révèlent la santé des plantes, la profondeur de l'eau ou la nature des bâtiments.

Jusqu'à présent, les ordinateurs qui analysent ces photos utilisaient des modèles très puissants mais incompréhensibles. C'est comme un chef cuisinier génial qui prépare un plat délicieux, mais qui refuse de vous donner la recette. Vous savez que ça goûte bon, mais vous ne savez pas pourquoi ou comment il a fait. En science, c'est un problème : si l'ordinateur dit "c'est une forêt", on aimerait savoir s'il a vu la couleur verte des feuilles ou s'il a juste deviné.

💡 La Solution : RepKAN, le "Cuisinier Transparent"

L'auteur, Minjong Cheon, propose une nouvelle recette appelée RepKAN. C'est une fusion intelligente de deux mondes :

1. Les CNN (Réseaux de neurones classiques) : Ils sont excellents pour voir les formes et les contours (comme reconnaître la forme d'une maison ou d'une route).
2. Les KAN (Kolmogorov-Arnold Networks) : C'est une nouvelle technologie qui agit comme un mathématicien autodidacte. Au lieu d'utiliser des formules fixes, il invente ses propres formules mathématiques pour comprendre les relations complexes entre les couleurs invisibles.

L'analogie du Duo :
Imaginez que vous devez identifier un fruit dans un panier.

• Le CNN regarde la forme : "C'est rond, ça ressemble à une pomme."
• Le KAN regarde la texture et le goût (les données spectrales) : "C'est lisse, ça a une odeur sucrée spécifique."
• RepKAN, c'est quand ces deux experts travaillent ensemble dans la même cuisine. Le CNN garde la forme, et le KAN invente une formule magique pour expliquer exactement pourquoi c'est une pomme et pas une poire.

⚙️ Comment ça marche ? (Le Mécanisme)

RepKAN utilise une architecture à double voie (comme une autoroute à deux voies) :

1. La Voie de la "Forme" (Linéaire) : Elle regarde l'image comme un humain, en repérant les contours, les bords et les structures (les toits, les routes). C'est rapide et efficace.
2. La Voie de la "Chimie" (Non-linéaire) : C'est ici que la magie opère. Au lieu de simplement additionner les couleurs, cette voie utilise des courbes mathématiques flexibles (des "splines") pour trouver des signatures spectrales.
   • Exemple concret : L'eau absorbe certaines couleurs et les reflète d'autres. RepKAN apprend tout seul une courbe mathématique qui dit : "Si la lumière dans cette bande est faible et dans celle-ci est forte, c'est de l'eau profonde." Il redécouvre tout seul des formules que les humains connaissent déjà (comme l'indice NDVI pour les plantes), mais il les trouve sans qu'on lui ait dit comment !

🚀 Les Résultats : Plus Précis et Plus Clair

L'équipe a testé RepKAN sur deux grands jeux de données (des milliers de photos satellites) :

• EuroSAT : Pour classer des paysages (forêts, villes, rivières).
• RESISC45 : Pour des scènes aériennes très détaillées (ponts, églises, navires).

Les résultats sont impressionnants :

• Plus précis : RepKAN se trompe moins que les meilleurs modèles actuels.
• Moins confus : Là où un modèle classique confondrait un pont avec un bateau (à cause de l'eau autour), RepKAN regarde les "signatures chimiques" du matériau et dit : "Non, c'est du béton, pas de l'eau."
• Transparent : Le plus important, c'est qu'on peut voir la formule mathématique que le modèle a inventée. On peut lire : "Pour classer cette forêt, le modèle a utilisé cette équation précise." C'est comme si le modèle vous montrait son brouillon de calculs.

🌟 En Résumé

RepKAN est comme donner à un détective un microscope et un carnet de notes.

• Avant, le détective (l'IA) vous disait juste : "C'est un crime." (Résultat).
• Avec RepKAN, le détective vous dit : "C'est un crime, et voici la preuve mathématique exacte : l'empreinte digitale correspond à 99% à ce suspect, et voici la formule que j'ai utilisée pour le prouver."

C'est une avancée majeure pour rendre l'intelligence artificielle fiable, compréhensible et utile pour surveiller notre planète, car nous pouvons enfin comprendre pourquoi elle prend ses décisions.

Résumé technique

1. Problématique

La classification d'images de télédétection est fondamentale pour l'observation de la Terre (cartographie, surveillance environnementale, urbanisme). Cependant, les architectures actuelles, telles que les réseaux de neurones convolutifs (CNN) et les Transformers, fonctionnent souvent comme des "boîtes noires". Bien qu'elles offrent de bonnes performances, elles manquent de transparence pour expliquer les dynamiques spectrales non linéaires essentielles à l'interprétation physique.

Les méthodes d'IA explicable (XAI) post-hoc, comme Grad-CAM, fournissent des cartes de saillance spatiale mais échouent à expliquer les interactions spectrales complexes. De plus, l'application directe des Kolmogorov-Arnold Networks (KAN) aux tâches de vision pose problème : leur formulation originale aplatit les entrées d'images, ce qui entraîne une perte critique du contexte spatial local nécessaire à l'analyse des structures terrestres.

2. Méthodologie : RepKAN

L'article propose RepKAN, une architecture hybride nouvelle qui intègre l'efficacité structurelle des CNN avec la puissance de représentation non linéaire des KAN.

• Concept de base : Contrairement aux MLP traditionnels qui appliquent des fonctions d'activation statiques sur les nœuds, les KAN utilisent des fonctions d'activation apprises (des splines 1D) sur les arêtes. RepKAN adapte cela pour la vision en préservant la structure 2D.
• Architecture Hybride (Dual-Path) : Le module RepKAN opère via deux chemins parallèles :
  1. Chemin Spatial Linéaire : Utilise des convolutions (1x1 et 3x3) pour capturer le contexte spatial local et les structures, préservant les capacités d'abstraction des CNN classiques.
  2. Chemin Spectral Non Linéaire : Applique des splines B-spline 1D le long de la dimension des canaux (spectrale). Cela permet de modéliser les interactions non linéaires entre les bandes spectrales et de découvrir des indices spectraux pilotés par les données.
• Reparamétrisation Structurelle : Inspiré de RepVGG, les branches de convolution sont fusionnées mathématiquement en une seule branche lors du déploiement pour assurer une inférence efficace, tout en maintenant la flexibilité d'apprentissage durant l'entraînement.
• Découverte Symbolique : Le modèle permet d'extraire les fonctions de spline apprises pour formuler des équations mathématiques explicites, reliant ainsi l'apprentissage profond aux indices physiques traditionnels (comme le NDVI).

3. Contributions Clés

1. Hybridation Structurelle pour la Vision-KAN : RepKAN est un module "plug-and-play" qui surmonte la perte d'information spatiale des KAN purs. Il combine convolutions spatiales et splines spectrales, améliorant les performances de classification sur des images multispectrales.
2. Interprétation Intrinsèque des Dynamiques Spectrales : Au lieu de cartes de saillance post-hoc, RepKAN offre une transparence intrinsèque en visualisant la distribution de l'énergie par bande et les trajectoires d'interaction non linéaire, permettant une compréhension granulaire du processus décisionnel.
3. Synthèse Symbolique d'Équations Physiques : Le modèle démontre sa capacité à découvrir autonomement des formulations mathématiques. Par régression symbolique sur les filtres appris, il redécouvre et affine des indices physiques classiques, offrant un pont lisible par l'humain entre l'IA et la télédétection traditionnelle.

4. Résultats Expérimentaux

Les expériences ont été menées sur deux jeux de données de référence : EuroSAT (images multispectrales Sentinel-2, 13 canaux) et NWPU-RESISC45 (images aériennes RGB haute résolution, 45 catégories).

• Performance sur EuroSAT : RepKAN surpasse les CNN de base sur toutes les métriques. La configuration avec une grille de taille 3 (RepKAN_Grid3) atteint une précision globale (OA) de 98,78%, surpassant le CNN de base (98,41%). Une taille de grille plus grande (5 ou 7) entraîne une légère dégradation, suggérant qu'une complexité modérée est optimale.
• Performance sur RESISC45 : L'intégration de RepKAN améliore significativement la précision de 73,81% (CNN de base) à 79,17%, soit une amélioration de ~5,36%. Cela démontre une forte capacité de généralisation sur des scènes aériennes complexes.
• Analyse d'Interprétabilité :
  • Le modèle montre une dépendance dominante (>77%) au chemin spectral non linéaire, particulièrement pour les classes comme "Lac/Mer" (91%), alignée sur les propriétés physiques d'absorption du NIR.
  • Les fonctions de spline apprises mappent les matériaux physiques (forêt, rivière, route) sur des segments non chevauchants, agissant comme des discriminateurs spectraux interprétables.
  • Des équations cubiques ont été extraites avec des scores $R^2$ élevés (jusqu'à 0,994 pour certaines classes), validant la découverte de relations physiques non linéaires.

5. Signification et Conclusion

RepKAN représente une avancée majeure vers des modèles de fondation visuels interprétables pour la télédétection.

• Résolution du problème de "Boîte Noire" : En remplaçant les activations statiques par des splines apprises, le modèle rend explicite la logique de décision, notamment la manière dont il combine les bandes spectrales pour distinguer des classes ambiguës (ex: différencier une rivière d'un lac ou une autoroute d'une forêt).
• Robustesse Physique : Contrairement aux CNN qui souffrent d'aliasing sémantique basé sur la texture, RepKAN utilise des "cartes de raisonnement spectral" pour identifier des signatures spectrales non linéaires, corrigeant ainsi les erreurs systématiques des réseaux purement spatiaux.
• Avenir : Cette approche suggère que l'intégration de la régression symbolique et des splines apprises dans les architectures de vision peut devenir la norme pour développer des systèmes d'IA fiables, transparents et physiquement cohérents pour l'observation de la Terre.