🤖 machine learning

Vendi Novelty Scores for Out-of-Distribution Detection

Ce papier présente le Score de Nouveauté Vendi (VNS), un détecteur hors distribution non paramétrique à complexité linéaire qui exploite des métriques de diversité pour atteindre des performances de pointe sur divers benchmarks tout en restant efficace même avec des données d'entraînement minimales.

Auteurs originaux : Amey P. Pasarkar, Adji Bousso Dieng

Publié 2026-05-22

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Amey P. Pasarkar, Adji Bousso Dieng

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous ayez un gardien de sécurité très intelligent et hautement formé à l'entrée d'un musée. Ce gardien a passé des années à étudier des milliers de tableaux de la Renaissance. Il peut vous dire instantanément si une nouvelle peinture est un véritable Rembrandt ou un faux. Mais que se passe-t-il si quelqu'un s'approche avec une image d'un grille-pain, d'un chat dessiné ou d'une sculpture abstraite moderne ?

Le gardien pourrait toujours dire : « Je suis sûr à 99 % que c'est une peinture ! » car il est si confiant dans sa formation, même s'il a complètement tort. Dans le monde de l'intelligence artificielle, on appelle cela un problème Hors Distribution (OOD). L'IA voit quelque chose qu'elle n'a jamais vu auparavant, mais elle ne sait pas qu'elle est confuse.

Ce papier présente un nouvel outil appelé Score de Nouveauté Vendi (VNS) pour aider les systèmes d'IA à réaliser quand ils regardent quelque chose d'étranger. Voici comment cela fonctionne, expliqué par de simples analogies.

L'Ancienne Méthode : Deviner la Confiance

La plupart des méthodes actuelles tentent de détecter ces « étrangers » en demandant à l'IA : « À quel point êtes-vous confiant ? »

Le Défaut : Si l'IA est entraînée sur des chats et des chiens, et que vous lui montrez un grille-pain, elle pourrait toujours se sentir très confiante car le grille-pain partage certaines caractéristiques visuelles (comme des contours ou des couleurs) avec l'oreille d'un chat. C'est comme un gardien si habitué à voir des manteaux rouges qu'il pense qu'un bec de gaz rouge est une personne.

La Nouvelle Méthode : Mesurer la « Diversité de la Foule »

Les auteurs de ce papier ont décidé d'arrêter de demander « À quel point êtes-vous confiant ? » et de commencer à demander : « Dans quelle mesure cette nouvelle personne modifie-t-elle la foule ? »

Ils utilisent un concept appelé Score Vendi, qui est essentiellement une manière sophistiquée de mesurer la diversité.

L'Analogie : La Liste des Invités d'une Fête

Imaginez que l'IA ait une mémoire de toutes les personnes qu'elle a rencontrées (les données d'entraînement).

La Foule In-Distribution (ID) : Ce sont les personnes que l'IA connaît bien. Elles sont regroupées en « clans » (comme un groupe de tous les roux, un groupe de tous les grands, etc.).
L'Échantillon de Test : Une nouvelle personne entre.

Comment fonctionne le VNS :

La Vérification Locale (Le Clan) : L'IA examine le clan spécifique auquel la nouvelle personne pourrait appartenir (par exemple : « Cette personne est-elle rousse ? »). Elle se demande : « Si nous ajoutons cette nouvelle personne au groupe des roux, le groupe devient-il plus diversifié ou plus répétitif ? »
- Si la nouvelle personne est rousse avec une coiffure unique, le groupe devient plus diversifié.
- Si la nouvelle personne est rousse et ressemble exactement à tout le monde, le groupe ne change pas beaucoup.
- La Surprise : Si la nouvelle personne est en fait un grille-pain (ou un chat dessiné), l'ajouter au groupe des « roux » crée un mélange étrange et discordant. Le « score de diversité » explose car le grille-pain ne correspond pas du tout au motif.
La Vérification Globale (La Fête Entière) : L'IA examine également toute la fête. « Si nous ajoutons ce grille-pain à toute la pièce, la pièce semble-t-elle chaotique ? »
- Le VNS calcule dans quelle mesure le nouvel échantillon perturbe l'harmonie globale des données.
Le Score Final : L'IA combine ces deux vérifications. Si le nouvel échantillon rend le groupe local étrange et la fête entière chaotique, le Score de Nouveauté Vendi augmente. Un score élevé signifie : « Hé, cela n'appartient pas ici ! Nous devrions être prudents. »

Pourquoi C'est une Grande Nouvelle

Le papier affirme que cette méthode est un changement de donne pour trois raisons principales :

1. C'est Rapide et Léger
Calculer la diversité nécessite généralement des mathématiques lourdes qui prennent beaucoup de temps (comme vérifier chaque personne dans un stade contre chaque autre personne).

L'Astuce du Papier : Ils ont trouvé un raccourci. Au lieu de regarder toute la foule, ils ne regardent que la personne « la plus importante » du groupe (l'équivalent mathématique du « chef principal » du clan).
Le Résultat : C'est incroyablement rapide. Le papier montre qu'il fonctionne presque aussi vite que les méthodes les plus simples, le rendant pratique pour une utilisation en temps réel (comme dans les voitures autonomes).

2. Il N'a Pas Besoin d'une Mémoire Complète
Généralement, pour vérifier si quelque chose est nouveau, vous devez vous souvenir de chaque exemple que vous avez jamais vu. Cela prend beaucoup de mémoire informatique.

L'Affirmation du Papier : Le VNS fonctionne de manière étonnante même si vous ne lui montrez que 1 % des données d'entraînement. C'est comme un gardien de sécurité qui peut repérer un étranger même s'il ne se souvient que de 1 % des personnes qu'il a rencontrées, car il comprend la structure de la foule, et pas seulement les visages.

3. Il Fonctionne Partout
Les auteurs ont testé cela sur de nombreux types de « cerveaux » d'IA (architectures) et de nombreux types de « musées » (ensembles de données comme CIFAR-10, CIFAR-100 et ImageNet).

Le Résultat : Le VNS a constamment battu ou égalé les meilleures méthodes existantes. Il était particulièrement bon pour repérer les éléments « Near-OOD » — des choses qui ressemblent presque à ce que l'IA connaît mais ne sont pas tout à fait correctes (comme une image d'un chien qui ressemble un peu à un loup).

Résumé

Le Score de Nouveauté Vendi est une nouvelle façon de dire à une IA quand elle est hors de sa profondeur. Au lieu de simplement demander « Êtes-vous sûr ? », il demande : « Cette nouvelle chose s'inscrit-elle dans le motif du groupe ? »

En mesurant dans quelle mesure un nouvel échantillon perturbe la diversité de la mémoire de l'IA, il peut repérer les étrangers (comme des grille-pains dans un musée de chats) avec une grande précision, en utilisant très peu de mémoire et très rapidement. Cela aide à maintenir les systèmes d'IA en sécurité en sachant quand dire : « Je ne sais pas ce que c'est, laissez un humain s'en occuper. »

Résumé Technique : Scores de Nouveauté Vendi pour la Détection Hors Distribution

Énoncé du Problème

Les systèmes d'apprentissage automatique modernes exhibent souvent un comportement imprévisible lorsqu'ils rencontrent des entrées hors distribution (OOD), produisant fréquemment des prédictions incorrectes mais à haute confiance. Cela pose des risques significatifs dans des domaines à enjeux élevés tels que la conduite autonome, l'imagerie médicale et la découverte scientifique. Bien que la détection OOD soit cruciale pour la sécurité, les méthodes post-hoc existantes présentent des limites :

Les méthodes basées sur les logits (par exemple, Probabilité Maximale du Softmax, scores d'Énergie) ignorent les statistiques des caractéristiques en distribution, réduisant la fiabilité.
Les méthodes de densité dans l'espace des caractéristiques (par exemple, distance de Mahalanobis) reposent souvent sur des hypothèses restrictives concernant la géométrie des représentations (par exemple, gaussianité, effondrement neuronal) qui peuvent ne pas tenir à travers des architectures diverses.
Les méthodes basées sur la similarité (par exemple, k-plus proches voisins) engendrent une surcharge computationnelle significative au moment de l'inférence.
Les méthodes basées sur les gradients nécessitent souvent plusieurs passes avant et arrière, les rendant peu pratiques pour des applications sensibles à la latence.

Il existe un besoin d'un détecteur OOD post-hoc computationnellement efficace, ne reposant pas sur des hypothèses distributionnelles restrictives et capable d'opérer efficacement même avec un accès limité aux données d'entraînement.

Méthodologie : Le Score de Nouveauté Vendi (VNS)

Les auteurs proposent le Score de Nouveauté Vendi (VNS), un détecteur OOD post-hoc ancré dans le concept de diversité plutôt que dans l'estimation de densité. Le VNS exploite le Score Vendi (VS), une famille de métriques de diversité basées sur la similarité, pour quantifier dans quelle mesure un échantillon de test augmente la diversité d'un ensemble de caractéristiques en distribution (ID).

Algorithme Central

Nouveauté Conditionnelle à la Classe :
- Pour un classifieur entraîné $f_\theta$ avec $C$ classes, la méthode extrait les plongements $h(x)$ de la couche pénultième.
- Pour chaque classe $c$ , une matrice de densité conditionnelle à la classe $\rho_c$ est calculée à partir des plongements d'entraînement de cette classe.
- La nouveauté d'un échantillon de test $x$ par rapport à la classe $c$ est définie comme l'augmentation du rapport logarithmique du Score Vendi d'ordre 2 ( $VS_2$ ) lorsque $x$ est ajouté à l'ensemble de la classe :
  $\Delta_c(x) = \log VS_2(\rho'_c) - \log VS_2(\rho_c)$
- Pour assurer l'efficacité, les auteurs emploient une approximation de rang 1. Au lieu de maintenir le spectre complet des valeurs propres de $\rho_c$ , ils approximent le changement de $VS_2$ en utilisant uniquement la plus grande valeur propre $\lambda_c$ et son vecteur propre correspondant $u_c$ . Cela réduit la complexité du calcul des scores conditionnels à la classe à $O(D)$ par classe.
Agrégation Pondérée par la Probabilité :
- Plutôt que de se fier à une seule classe prédite, le VNS agrège les scores de nouveauté conditionnels à la classe en utilisant les probabilités de classe prédites par le modèle $p(x)$ .
- Le score OOD local est calculé comme suit :
  $S_{\text{LOCAL-OOD}}(x) = \sum_{c \in T_K(x)} N_c p_c(x)^\gamma \Delta_c(x)$
  où $T_K(x)$ représente les $K$ classes prédites en tête, $N_c$ est la taille de la classe (utilisée pour le mise à l'échelle), et $\gamma$ contrôle la netteté de l'agrégation.
Correction de Diversité Globale :
- Pour tenir compte des variations de densité globale, un score de nouveauté global est calculé basé sur le changement de $VS_\infty$ (qui dépend de la plus grande valeur propre de la matrice de densité globale) lorsque l'échantillon de test est ajouté à l'ensemble de données complet.
- Le score VNS final combine les signaux locaux et globaux :
  $\text{VNS}(x) = S_{\text{LOCAL-OOD}}(x) - g \cdot S_{\text{GLOBAL-OOD}}(x)$
  où $g \in \{0, 1\}$ est un coefficient binaire déterminant si la correction globale est appliquée.

Complexité

Complexité Temporelle : $O(CD) $, où$ C$ est le nombre de classes et $D$ la dimension du plongement. Cela est linéaire par rapport aux deux paramètres, le rendant significativement plus rapide que les méthodes basées sur Mahalanobis ( $O(CD^2)$ ) et les approches k-NN.
Complexité Spatiale : $O(CD)$, car cela ne nécessite que le stockage de la plus grande valeur propre et du vecteur propre correspondant pour chaque classe.

Contributions Clés

Nouveau Paradigme : Introduit une perspective basée sur la diversité pour la détection OOD, s'éloignant de la modélisation de densité traditionnelle ou de l'analyse des logits.
Score de Nouveauté Vendi (VNS) : Propose un algorithme spécifique qui quantifie la nouveauté via l'impact d'un échantillon de test sur la diversité des représentations, en utilisant des approximations efficaces de rang 1 du Score Vendi.
Intégration de Signaux Hybrides : Combine les signaux de nouveauté locaux (conditionnels à la classe) et globaux, pondérés par les probabilités prédictives, pour améliorer la robustesse.
Efficacité des Données : Démontre que le VNS conserve des performances de pointe même lorsqu'il est calculé en utilisant seulement 1 % des données d'entraînement, permettant un déploiement dans des environnements contraints en mémoire.
Validation Théorique et Empirique : Fournit une justification théorique pour l'approximation de rang 1 et une validation empirique extensive à travers plusieurs jeux de données et architectures.

Résultats Expérimentaux

Les auteurs ont évalué le VNS sur des benchmarks OOD standards : CIFAR-10, CIFAR-100 et ImageNet-1K, en utilisant des architectures incluant ResNet, ViT et Swin-T.

Performance : Le VNS a atteint des performances de pointe (SOTA) sur CIFAR-10 et des résultats compétitifs sur CIFAR-100. Sur le benchmark ImageNet-1K, le VNS a réduit le taux de faux positifs à 95 % de taux de vrais positifs (FPR@95) de 13 % par rapport au deuxième meilleur algorithme en moyenne.
Robustesse : Contrairement à certaines méthodes de mise en forme d'activation qui performent bien sur ResNet mais se dégradent sur les Transformers, le VNS a démontré des performances constantes à travers différentes architectures (ResNet, ViT, Swin-T).
Efficacité : Le VNS est plusieurs ordres de grandeur plus rapide que la deuxième méthode la plus précise (RMDS++) et comparable en latence aux méthodes basées uniquement sur les logits (par exemple, GEN, NCI).
Pénurie de Données : Lorsqu'entraîné sur seulement 1 % des données d'entraînement d'ImageNet, le VNS a atteint un AUROC moyen de 88,96 %, presque identique à ses performances avec un accès complet aux données (88,59 % d'AUCROC).

Importance et Revendications

L'article revendique que le VNS offre une solution fondée sur des principes, efficace et robuste pour la détection OOD. Son importance réside dans :

Éviter les Hypothèses Restrictives : En s'appuyant sur des métriques de diversité plutôt que sur des hypothèses de densité gaussienne, le VNS est moins sensible aux violations des hypothèses géométriques courantes dans les représentations d'apprentissage profond.
Déploiement Pratique : La complexité linéaire dans le temps et la capacité à fonctionner avec un minimum de données d'entraînement rendent le VNS adapté aux scénarios réels où l'accès aux données d'entraînement est limité ou où la latence est critique.
Sécurité : La méthode fournit un mécanisme pour que les systèmes d'IA identifient les entrées au-delà de leur compétence, déclenchant des réponses plus sûres telles que l'abstention ou l'escalade humaine.

Les auteurs notent des limitations, notamment la nécessité d'un réglage des hyperparamètres (qu'ils abordent via un ensemble de validation automatisé) et la dépendance au noyau cosinus. Ils soulignent que, bien que le VNS améliore la sécurité, il ne constitue pas une solution complète et devrait faire partie d'un protocole de sécurité plus large impliquant une surveillance et une supervision humaine.