Stretching Beyond the Obvious: A Gradient-Free Framework to Unveil the Hidden Landscape of Visual Invariance

Cet article présente Stretch-and-Squeeze (SnS), un cadre d'optimisation sans gradient et indépendant du modèle qui permet de cartographier systématiquement les transformations invariantes et les vulnérabilités aux perturbations adverses dans les systèmes visuels biologiques et artificiels, révélant ainsi comment la nature des invariances et leur interprétabilité humaine varient selon la profondeur des couches du réseau.

L'essentiel

🎨 Le Titre : "Étirer au-delà de l'évidence"

Imaginez que vous essayez de comprendre comment un cerveau (ou une intelligence artificielle) reconnaît un objet, disons, un chat.

Traditionnellement, les scientifiques demandaient à l'IA : "Montre-moi l'image parfaite d'un chat qui te fait dire 'Chat !' avec le plus de force." C'est ce qu'on appelle l'image "la plus excitante".
Le problème ? Cela ne nous dit pas tout. Cela nous donne une seule photo de chat, mais pas la liste de toutes les façons dont on peut changer cette photo (la tourner, la flouter, changer sa couleur) tout en gardant l'IA convaincue qu'il s'agit toujours d'un chat. C'est comme si on essayait de comprendre la forme d'une montagne en ne regardant que son sommet.

🧪 La Solution : Le "Tire-Bouchon" (Stretch-and-Squeeze)

Les auteurs ont inventé une nouvelle méthode appelée SnS (Stretch-and-Squeeze, ou "Étirer et Serrer"). Imaginez que vous tenez une pâte à modeler (l'image) entre vos mains.

Le SnS fonctionne avec deux objectifs contradictoires, comme un jeu d'équilibre :

1. L'Étirage (Stretch) : Vous voulez transformer l'image de manière radicale. Vous voulez la rendre aussi différente que possible de l'image originale (changer la lumière, la texture, la pose), comme si vous étiriez la pâte à modeler au maximum.
2. Le Serrage (Squeeze) : Mais en même temps, vous devez faire en sorte que l'IA continue de crier "CHAT !" avec la même force. Vous devez "serrer" la réponse de l'IA pour qu'elle ne change pas, même si l'image a beaucoup changé.

Le but ? Trouver les limites exactes de l'IA. Jusqu'où peut-on déformer un chat avant qu'il ne devienne un chien aux yeux de l'IA ? C'est comme tester la résistance d'un pont en y ajoutant du poids jusqu'à ce qu'il plie, mais sans jamais le faire s'effondrer.

🔍 Ce que la méthode a révélé (Les Découvertes)

En utilisant cette technique sur des réseaux de neurones (des IA), les chercheurs ont découvert des choses surprenantes :

1. L'IA ne voit pas comme nous (et pas toujours bien)

Quand on a forcé l'IA à reconnaître un chat en modifiant l'image au niveau des pixels (les petits points de couleur), l'IA acceptait des changements de luminosité ou de contraste.
Mais quand on a modifié l'image au niveau des couches profondes (là où l'IA comprend la forme et la pose), l'IA acceptait des changements de pose ou de texture.

• L'analogie : C'est comme si vous pouviez changer la couleur d'une voiture (pixel) sans que le vendeur ne s'en rende compte, mais si vous lui changiez la forme des roues (couche profonde), il pourrait encore la reconnaître, alors que nous, humains, serions perdus.

2. Le paradoxe de l'IA "Robuste"

Les chercheurs ont comparé deux types d'IA :

• L'IA standard : Entraînée normalement.
• L'IA "Robuste" : Entraînée spécifiquement pour résister aux attaques (comme si on l'entraînait à ne pas se faire piéger par des images truquées).

La surprise :

• Pour les images simples (niveau pixel), l'IA robuste ressemble beaucoup à un humain : elle reconnaît bien les objets même s'ils sont un peu flous.
• MAIS, quand on regarde les transformations complexes (niveau profond), l'IA robuste devient moins compréhensible pour les humains. Elle commence à accepter des changements de forme qui nous semblent absurdes.
• À l'inverse, l'IA "standard" devient plus compréhensible pour les humains quand on la pousse vers le haut de sa hiérarchie.

En résumé : Entraîner une IA à être "robuste" ne la rend pas plus intelligente ou plus humaine dans sa façon de voir le monde. Cela la rend juste plus rigide, mais parfois de manière bizarre.

🧠 Pourquoi est-ce important pour la science ?

Cette méthode est géniale car elle ne nécessite pas de connaître les "recettes" internes de l'IA (elle fonctionne même si l'IA est une "boîte noire").

• Pour les biologistes : Ils peuvent l'utiliser sur le cerveau de vrais animaux (comme des singes ou des souris). Même s'ils ne peuvent enregistrer l'activité que de quelques neurones (et pas de tout le cerveau), le SnS peut deviner ce que ces neurones aiment voir. C'est comme deviner le goût préféré d'un enfant en lui donnant juste un petit morceau de gâteau, sans avoir besoin de voir tout son assiette.
• Pour l'avenir : Cela nous aide à construire des IA qui voient le monde plus comme nous, et moins comme des machines bizarres qui se font piéger par des autocollants sur un panneau de stop.

🏁 Conclusion

Ce papier nous dit que pour vraiment comprendre comment une machine (ou un cerveau) voit, il ne suffit pas de lui montrer ce qu'elle aime. Il faut lui montrer jusqu'où elle peut aller dans le changement avant de perdre le fil. Le "Tire-Bouchon" (SnS) est l'outil parfait pour étirer cette limite et voir ce qui se cache derrière le rideau.

Résumé technique

1. Problématique

La compréhension de la vision, tant biologique qu'artificielle, repose sur l'identification des combinaisons de caractéristiques (features) auxquelles les unités visuelles (neurones ou unités de réseaux de neurones) sont sensibles. Les approches existantes de visualisation de caractéristiques se concentrent principalement sur la découverte des Images les Plus Excitantes (MEI - Most Exciting Images) pour une unité donnée.

Cependant, les MEI présentent une limitation majeure : elles ne révèlent qu'un petit échantillon d'images activant fortement une unité, sans fournir d'informations sur le manifold d'invariance (l'ensemble des transformations sous lesquelles la réponse de l'unité reste stable). Comprendre ces invariances est crucial pour la généralisation en vision, mais les tests traditionnels (transformations affines prédéfinies) sont insuffisants pour cartographier les axes de variation réels que le système visuel tolère. De plus, les méthodes basées sur le gradient sont inapplicables aux systèmes "boîte noire" (comme les neurones biologiques où l'on ne peut pas accéder aux gradients internes).

2. Méthodologie : Stretch-and-Squeeze (SnS)

Les auteurs proposent SnS, un cadre d'optimisation sans gradient (gradient-free), agnostique au modèle et non biaisé, conçu pour caractériser systématiquement les stimuli maximaux d'invariance et la vulnérabilité aux perturbations adverses.

Principe de base :
SnS formule la recherche d'images comme un problème d'optimisation bi-objectif utilisant un algorithme évolutionnaire (CMA-ES). Il part d'une image de référence (généralement une MEI ou une image naturelle) et cherche à modifier cette image selon deux objectifs simultanés :

1. Stretch (Étirer) : Maximiser la distance de la représentation de l'image générée par rapport à la référence dans une couche spécifique du réseau (couche $\kappa$). Cela force l'image à s'éloigner de la référence dans l'espace des caractéristiques.
2. Squeeze (Serrer) : Minimiser la variation de l'activation de l'unité cible (couche $\ell$) par rapport à l'activation de référence. Cela garantit que l'image générée reste fonctionnellement équivalente (invariante) pour l'unité cible.

Deux modes d'opération :

• Pour l'invariance : On maximise la distance dans l'espace de représentation ($\kappa$) tout en maintenant l'activation de l'unité cible ($\ell$) constante.
• Pour les attaques adverses : On inverse les objectifs : on maximise la variation de l'activation de l'unité cible tout en minimisant la distance dans l'espace de représentation (pour créer des perturbations imperceptibles mais destructrices).

Configuration expérimentale :

• Le réseau test est principalement un ResNet50 (standard et entraîné pour être robuste aux perturbations $L_2$).
• La "stretching" (étirement) est appliquée à trois niveaux hiérarchiques :
  • Pixel (Low-level) : Espace d'entrée.
  • Milieu (Mid-level) : Couche convolutionnelle intermédiaire.
  • Profond (High-level) : Couche convolutionnelle tardive.
• L'optimisation utilise un générateur d'images pré-entraîné (basé sur un réseau profond) pour mapper des codes latents vers des images RGB, assurant que les images générées respectent des statistiques naturelles.

3. Contributions Clés

1. Cadre SnS : Introduction d'une méthode sans gradient capable de cartographier les manifolds d'invariance au-delà des transformations affines simples, en explorant les axes de variation réels appris par le réseau.
2. Cartographie Hiérarchique : Démonstration que les invariances sont spécifiques à la couche où l'étirement est appliqué.
   • Pixel : Changements de luminance et de contraste.
   • Milieu : Changements de texture et de couleur.
   • Profond : Variations sémantiques abstraites (pose, nombre d'objets).
3. Analyse de l'Alignement Humain-Robustesse : Découverte d'un paradoxe crucial concernant les réseaux robustes ($L_2$-robust). Bien que les MEI des réseaux robustes soient plus interprétables par les humains, les images invariantes générées à partir de couches profondes deviennent moins interprétables pour les humains, contrairement aux réseaux standards où l'interprétabilité augmente avec la profondeur.
4. Applicabilité aux Neurosciences : Validation que SnS fonctionne même avec un échantillonnage partiel des neurones (subsampling), ce qui le rend applicable aux expériences in vivo où seule une fraction des neurones d'une zone visuelle est enregistrée.

4. Résultats Principaux

Efficacité de SnS :

• SnS génère des exemples adverses qui suppriment fortement l'activation des unités (réduction de ~111%) avec une distance $L_2$ significative, tout en restant sémantiquement pertinents (pas de bruit).
• Les images invariantes générées s'éloignent considérablement des MEI de référence (distance $L_2$ moyenne de 271 pixels) tout en maintenant une forte activation (seulement ~34% de réduction), explorant ainsi des régions de l'espace d'entrée inaccessibles aux augmentations de données classiques.

Invariances Hiérarchiques et Spécificité de Couche :

• L'analyse par PCA montre que les images invariantes générées à différents niveaux (pixel, milieu, profond) sont parfaitement séparables, confirmant que SnS découvre des axes de variation distincts à chaque niveau hiérarchique.
• La dimension intrinsèque (ID) des manifolds d'invariance suit une tendance connue : faible pour le pixel, maximale pour les couches intermédiaires, et réduite pour les couches profondes.

Comparaison Réseaux Standards vs Robustes ($L_2$) :

• MEI : Les MEI des réseaux robustes sont plus facilement reconnues par les humains que celles des réseaux standards.
• Invariances (SnS) :
  • Pour les réseaux robustes, l'interprétabilité par les humains diminue lorsque l'on étire les représentations dans les couches profondes.
  • Pour les réseaux standards, l'interprétabilité augmente avec la profondeur.
  • Conclusion : L'entraînement robuste améliore l'alignement au niveau des pixels (MEI), mais échoue à créer des invariances de haut niveau alignées avec la perception humaine. Les réseaux robustes développent des invariances "idiosyncratiques" dans les couches profondes.

Généralisation :

• SnS a été testé avec succès sur d'autres architectures (ResNet18, VGG16, Vision Transformers) et sur des réseaux entraînés avec des contraintes $L_\infty$ (où l'alignement humain reste élevé même dans les couches profondes).
• La méthode fonctionne également sur des unités cachées (non de sortie), offrant un outil puissant pour visualiser les caractéristiques apprises par les neurones intermédiaires.

5. Signification et Impact

Ce travail représente une avancée majeure pour l'interprétabilité des modèles de vision et les neurosciences computationnelles :

• Pour l'IA : Il révèle que la robustesse aux attaques adverses ne garantit pas une invariance sémantique alignée avec l'humain à tous les niveaux de traitement. Cela suggère que les stratégies d'entraînement actuelles pour la robustesse doivent être réévaluées pour cibler spécifiquement les invariances de haut niveau.
• Pour les Neurosciences : SnS offre un outil "boîte noire" capable de sonder les propriétés d'invariance des neurones biologiques sans nécessiter de modèle numérique parfait ("digital twin") ni d'accès aux gradients. Sa robustesse au sous-échantillonnage le rend directement applicable aux données de neurophysiologie in vivo (ex: sondes silicium haute densité).
• Méthodologique : En remplaçant les transformations prédéfinies par une exploration active du manifold d'invariance, SnS fournit une description plus véridique et complète de la façon dont les systèmes visuels (biologiques ou artificiels) traitent l'information.

En résumé, SnS permet de "voir" au-delà des apparences immédiates (les MEI) pour cartographier la structure complexe et hiérarchique de la vision, révélant des divergences subtiles entre l'intelligence artificielle et la vision humaine que les méthodes traditionnelles ne pouvaient pas détecter.