Your CLIP has 164 dimensions of noise: Exploring the embeddings covariance eigenspectrum of contrastively pretrained vision-language transformers
Ce papier révèle que les modèles vision-langage préentraînés de manière contrastive contiennent un sous-espace substantiel et invariant de bruit multimodal partagé qui peut être élagué sans nuire aux performances en aval, offrant ainsi de nouvelles perspectives mécanistes sur leur structure de représentation latente.
Imaginez que vous ayez un assistant robot ultra-intelligent (comme CLIP) entraîné à comprendre à la fois les images et les mots. Vous lui demandez : « Montre-moi une image d'un chien », et il en trouve une instantanément. Cela semble parfait. Mais cet article soutient que ce robot transporte en réalité un lourd sac à dos inutile rempli de déchets dont il n'a pas besoin pour accomplir sa tâche.
Voici le détail de ce que les chercheurs ont découvert, en utilisant des analogies simples :
1. Le « bruit » dans le signal
Imaginez le cerveau du robot comme un énorme récepteur radio avec 768 canaux différents (dimensions) écoutant le monde.
Les bons canaux : La plupart de ces canaux sont accordés sur le « signal » — le sens réel de l'image ou du mot (comme « chien », « église » ou « heureux »).
Les mauvais canaux : Les chercheurs ont découvert qu'environ 164 de ces canaux ne font que diffuser du « bruit ». Ce n'est pas un bruit aléatoire ; c'est un type spécifique et partagé de bruit qui apparaît dans chaque image et chaque mot que le robot voit, indépendamment du contenu.
2. Le motif « fantôme »
La partie la plus surprenante est que ce « bruit » est identique entre différents groupes.
L'analogie : Imaginez que vous preniez une photo d'un Husky sibérien et une photo d'un bâtiment d'église. Ils n'ont rien en commun. Pourtant, si vous examinez la partie « déchets » de la mémoire du robot pour les deux images, les déchets semblent presque exactement les mêmes (91 % de chevauchement).
La découverte : Le robot possède un motif « fantôme » qui est apposé sur tout ce qu'il voit. C'est comme si une imprimante avait une tache sur l'objectif ; chaque document qu'elle imprime, qu'il s'agisse d'une recette ou d'une lettre d'amour, porterait cette même tache dans le coin. Les chercheurs ont découvert que cette tache est si cohérente qu'ils peuvent la cartographier parfaitement.
3. L'expérience du « tiroir à déchets »
Les chercheurs ont décidé de tester ce qui se passerait s'ils jetaient simplement ce « tiroir à déchets » (les 164 dimensions de bruit).
Le résultat : Ils ont pris le robot, retiré ces 164 canaux et lui ont demandé d'accomplir ses tâches habituelles (comme identifier des animaux sur des photos ou associer des mots à des images).
La surprise : Le robot ne s'est pas dégradé. En fait, il est devenu légèrement meilleur pour associer des mots à des images. C'était comme retirer un sac à dos rempli de pierres à un coureur ; il n'a pas ralenti, il a en fait couru plus vite parce qu'il n'était plus alourdi.
4. Pourquoi cela se produit-il ?
L'article suggère que ce « bruit » n'est pas un bug dans le code, mais un effet secondaire de la façon dont le robot a été construit.
L'analogie : Imaginez une usine qui construit des voitures. Les ingénieurs ont conçu la chaîne de montage de manière si efficace que les voitures sont excellentes, mais la vibration des machines imprime accidentellement une petite rayure inutile sur chaque porte de voiture. La rayure n'empêche pas la voiture de rouler, mais elle est présente sur chacune d'elles.
Les chercheurs ont découvert que cette « rayure » (le bruit) est une partie fondamentale de l'architecture, et non pas simplement une erreur liée à un jeu de données spécifique.
Résumé
L'article affirme que les modèles d'IA modernes comme CLIP transportent une quantité massive de « bruit partagé » (environ 164 dimensions dans certaines versions) qui n'a rien à voir avec le sens réel des images ou des textes.
Les bonnes nouvelles : Vous pouvez éliminer ce bruit sans nuire aux performances de l'IA.
La vue d'ensemble : Un énorme morceau de l'« espace cérébral » de l'IA stocke en fait ce motif répétitif et dénué de sens, plutôt que des connaissances utiles. En le nettoyant, l'IA devient légèrement plus efficace et précise.
Résumé technique : « Votre CLIP possède 164 dimensions de bruit »
Énoncé du problème Les modèles vision-langage préentraînés de manière contrastive (VLM), tels que CLIP et SigLIP, sont largement déployés comme extracteurs de caractéristiques pour des tâches allant de la classification sans échantillons (zero-shot) à la recherche intermodale. Cependant, ces espaces latents partagés présentent des anomalies structurelles, agissant comme des dépôts pour du bruit non sémantique et multimodal. Alors que des recherches antérieures ont identifié des phénomènes tels que l'« effet de cône », le « fossé modal » et l'effondrement dimensionnel dans des modèles unimodaux, il est nécessaire de comprendre comment ces modèles encodent des données non pertinentes au sein de leurs espaces latents de haute dimension. Les auteurs postulent qu'une part significative de la géométrie latente des VLM modernes est régie par un bruit partagé, au niveau de l'architecture, plutôt que par des sémantiques pertinentes pour la tâche.
Méthodologie Les auteurs emploient une décomposition spectrale des matrices de covariance pour analyser la géométrie des espaces latents des VLM.
Estimation de la covariance : Ils calculent des matrices de covariance empiriques (Σtext et Σimg) pour les embeddings textuels et image séparément, dérivées de jeux de données à grande échelle (ImageNet-1K et LAION-2B). Une matrice de covariance croisée moyenne (Σavg) est définie pour analyser l'espace latent conjoint.
Décomposition spectrale : Les matrices sont décomposées pour identifier les valeurs propres et les vecteurs propres. Les auteurs observent une chute nette et constante des valeurs propres à travers divers modèles (variantes de CLIP et SigLIP) au-delà d'un seuil spécifique (environ 10−3.6).
Seuillage du bruit : En utilisant la méthode du coude sur Σavg, ils identifient un seuil de coupure pour séparer le « signal » (les plus grandes valeurs propres) du « bruit » (le volume inférieur des valeurs propres). Les dimensions tombant en dessous de ce seuil sont identifiées comme le « sous-espace de bruit partagé ».
Alignement des sous-espaces : Pour vérifier l'universalité de ces dimensions de bruit, les auteurs calculent le cosinus moyen au carré des angles de sous-espaces (mSCSA) entre les vecteurs de bruit extraits globalement et les vecteurs propres de faible variance de sous-ensembles de données spécifiques (par exemple, des classes individuelles d'ImageNet).
Élagage et évaluation : Ils construisent une matrice de projection éliminant le bruit (P=I−VVT) pour projeter les embeddings sur le complément orthogonal du sous-espace de bruit. Ils évaluent l'impact de cet élagage sur des tâches en aval : la classification sans échantillons sur ImageNet et l'alignement image-texte sur LAION-2B.
Résultats clés
Existence d'un bruit partagé : L'analyse révèle un « sous-espace de bruit » distinct comprenant le volume inférieur des valeurs propres de la covariance. Pour CLIP ViT-L/14, cela correspond à 164 dimensions (21 % de l'espace de 768 dimensions).
Invariance des sous-groupes : Les dimensions de bruit identifiées présentent une forte invariance à travers des sous-ensembles de données distincts. Les scores mSCSA entre le sous-espace de bruit global et les sous-espaces de faible variance spécifiques aux classes sont élevés (souvent >90 % pour les modèles plus grands), indiquant que ces directions de bruit sont omniprésentes et non spécifiques à une classe ou un sous-ensemble de données unique.
Impact de l'élagage :
Classification : La suppression des dimensions de bruit entraîne une baisse négligeable de la précision Top-5 sans échantillons sur ImageNet (par exemple, CLIP ViT-L/14 passe de 91,2 % à 91,1 %). La suppression aléatoire du même nombre de dimensions donne des performances nettement pires, confirmant que les dimensions de bruit portent peu d'informations sémantiques.
Alignement : Contrairement à l'hypothèse selon laquelle l'élagage pourrait nuire à l'alignement, les auteurs observent une augmentation systématique de la similarité cosinus moyenne pour les paires image-texte sur LAION-2B après suppression du bruit. Cette amélioration s'accompagne de la taille de la dimension latente.
Inspection qualitative : L'inspection visuelle d'échantillons présentant une forte activation dans le sous-espace de bruit révèle qu'ils correspondent souvent à des espaces réservés d'images indisponibles ou à des artefacts hors distribution (par exemple, des sujets de films Marvel lorsqu'ils sont estimés uniquement sur ImageNet), soutenant davantage le caractère non sémantique de ces dimensions.
Signification et affirmations L'article prétend fournir de nouvelles insights mécanistiques sur la structure représentative des VLM modernes. En décomposant formellement l'espace latent en signaux sémantiques multimodaux et un sous-espace de bruit partagé, les auteurs démontrent que :
Une fraction substantielle de la géométrie latente dans les modèles préentraînés de manière contrastive est régie par un bruit partagé, au niveau de l'architecture, plutôt que par des sémantiques pertinentes pour la tâche.
L'élagage de ces dimensions de bruit partagées est « principalement inoffensif » et peut activement améliorer les performances d'alignement en aval sans dégrader les capacités de classification.
Le phénomène d'effondrement dimensionnel persiste dans les VLM modernes mais se manifeste comme un dépôt pour des données non pertinentes plutôt que comme un effondrement total de l'espace.
Les auteurs adoptent une posture modeste, reconnaissant que le seuil de bruit optimal peut dépendre d'architectures de modèles spécifiques et de distributions de données. Ils notent que, bien que le creux du spectre des valeurs propres soit net, il n'est pas aussi instantané que la transition de phase observée dans les études antérieures sur les modèles unimodaux, suggérant un mécanisme sous-jacent complexe pour l'allocation de la capacité latente. Un travail futur est proposé pour étendre cette évaluation à un spectre plus large de modèles de base et pour établir un cadre théorique formel reliant ce mécanisme de bruit à l'émergence du fossé modal.
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.