🤖 machine learning

Exploiting Local Flatness for Efficient Out-of-Distribution Detection

Cet article présente Fold, un détecteur de données hors distribution léger qui exploite l'observation selon laquelle les entrées hors distribution présentent une courbure de Hessienne plus grande que les données de distribution, utilisant la Hessienne des caractéristiques et la normalisation partielle pour atteindre des performances de pointe avec un surcoût computationnel minimal.

Auteurs originaux : Seonghwan Park, Hyunji Jung, Dongyeop Lee, Namhoon Lee

Publié 2026-06-30

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Seonghwan Park, Hyunji Jung, Dongyeop Lee, Namhoon Lee

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous avez un robot très intelligent qui a passé des années à étudier une bibliothèque spécifique de livres (disons, des livres sur les chats et les chiens). Ce robot est un expert pour identifier les chats et les chiens. Cependant, un jour, quelqu'un lui tend la photo d'un grille-pain ou d'un nuage.

Parce que le robot n'a jamais vu de grille-pain, il ne sait pas quoi en faire. Mais voici le problème : le robot est trop confiant. Il pourrait regarder le grille-pain et dire : « C'est certainement un chat très étrange ! » avec une certitude de 100 %. Cela est dangereux dans le monde réel. Nous avons besoin d'un moyen pour que le robot puisse dire : « Attendez, je ne sais pas ce que c'est », au lieu de deviner de manière erronée.

Ce document présente une nouvelle méthode, rapide et ingénieuse, pour détecter ces éléments « inconnus » (appelés données hors distribution ou OOD pour Out-of-Distribution) sans avoir besoin de réentraîner le robot ni de le ralentir.

Voici la décomposition de leur solution, FOLD, en utilisant des analogies simples :

1. L'idée centrale : La « table bancale » vs La « table stable »

Les chercheurs ont découvert une propriété géométrique cachée dans la façon dont le robot « pense ».

Les choses connues (en distribution) : Quand le robot regarde un chat ou un chien, il se sent très stable. Imaginez que le cerveau du robot est une table. Quand il voit un chat, la table est parfaitement plate et solide. Si vous la poussez légèrement, elle ne vacille pas.
Les choses inconnues (hors distribution) : Quand le robot voit un grille-pain, la table devient bancale et tranchante. C'est comme se tenir sur un rocher escarpé et irrégulier. Si vous poussez même un tout petit peu, la table tremble violemment.

Le papier prouve que pour les objets inconnus, le « vacillement » (appelé mathématiquement courbure) est beaucoup plus fort que pour les objets connus. Plus l'objet est différent de ce que le robot a appris, plus la table vacille.

2. Le problème des méthodes précédentes

Avant cela, les scientifiques essayaient de mesurer ce « vacillement » en vérifiant tout le cerveau du robot (tous ses milliards de connexions).

L'analogie : Imaginez essayer de mesurer la stabilité d'un gratte-ciel en vérifiant chaque brique, boulon et fil à l'intérieur de celui-ci. Cela prendrait une éternité et nécessiterait une équipe massive. C'était trop lent pour une utilisation en temps réel.

3. La solution : FOLD (Le « raccourci »)

Les auteurs ont créé une méthode appelée FOLD qui mesure le vacillement sans vérifier tout le bâtiment.

Le Hessien des caractéristiques (Le raccourci) : Au lieu de vérifier tout le cerveau, ils regardent la couche des « caractéristiques » (features) — la partie du cerveau qui reconnaît les formes et les textures. Ils ont réalisé qu'ils pouvaient calculer le vacillement en regardant simplement cette couche spécifique.
L'analogie : Au lieu d'inspecter chaque brique du gratte-ciel, ils vérifient simplement les fondations. Si les fondations tremblent, tout le bâtiment est instable. C'est incroyablement rapide, prenant environ le même temps que de simplement regarder l'image une fois.

4. L'astuce du « bouton de volume » (Normalisation partielle)

Il y avait un piège. Parfois, le robot s'excite tellement devant une image que le « volume » de son signal devient trop fort, ce qui masque le vacillement. C'est comme essayer d'entendre un léger grincement dans une pièce où quelqu'un diffuse de la musique heavy metal à plein volume.

La correction : Ils ont introduit un « bouton de volume » (appelé Normalisation partielle).
- Pour les images simples (comme une photo claire d'un chat), ils baissent le volume presque au maximum pour entendre les vacillements subtils.
- Pour les images complexes (comme une scène de ville animée), ils ne baissent le volume que très peu, car la « puissance sonore » elle-même peut contenir des indices utiles.
Pourquoi c'est important : Cela garantit que le robot peut entendre le « vacillement » clairement, quelle que soit la complexité de l'image.

5. Le régulateur auto-ajustable (AUTOFOLD)

Habituellement, pour régler le bouton de volume parfait, vous avez besoin d'un ensemble de test d'éléments inconnus (comme une boîte de grille-pain et de nuages) pour s'entraîner. Mais dans le monde réel, on n'a souvent pas de boîte d'éléments inconnus qui nous attend.

Le tour de magie : Ils ont créé AUTOFOLD. Ce système crée des « faux inconnus » sur le vif.
L'analogie : Imaginez que le robot regarde un chat. AUTOFOLD dit : « D'accord, prétendons que ce chat est en fait un grille-pain. » Il trompe le robot en cachant la réponse « chat » et en le forçant à deviner. Cela crée un « faux » vacillement que le robot peut utiliser pour calibrer automatiquement son bouton de volume.
Le résultat : Le robot s'accorde parfaitement sans avoir besoin de données externes ou d'entraînement supplémentaire.

6. Les résultats : Rapide et précis

Le papier a testé FOLD sur de vastes ensembles de données (des milliers d'images).

Performance : FOLD a détecté plus d'« inconnus » que les méthodes précédentes. Il a réduit de manière significative le nombre de fois où le robot devinait avec confiance la mauvaise chose.
Vitesse : Il est aussi rapide qu'une « passe avant » standard (le simple fait de regarder l'image une fois). Il ne ralentit pas du tout le robot.
Efficacité : Il se situe dans le « point idéal » du graphique : une grande précision avec un coût faible.

Résumé

Le papier présente FOLD, une méthode qui détecte quand un robot est confus par un objet inconnu en mesurant à quel point sa logique interne « vacille ».

Les éléments inconnus font davantage vaciller la logique du robot.
FOLD mesure ce vacillement rapidement en observant une couche spécifique du cerveau.
Il utilise un bouton de volume intelligent pour s'assurer que le vacillement est toujours audible.
Il s'accorde lui-même en créant de faux inconnus, ce qui lui permet de fonctionner même si vous n'avez pas de données de test.

Cela permet aux systèmes d'IA d'être plus sûrs et plus fiables dans le monde réel, sachant quand dire « Je ne sais pas » au lieu de deviner avec assurance.

Résumé technique : Exploiter la platitude locale pour une détection efficace des données hors distribution

Énoncé du problème

Le déploiement fiable de l'apprentissage automatique nécessite la capacité de détecter les données hors distribution (OOD) — des échantillons tirés de distributions disjointes de l'ensemble d'entraînement. Les réseaux de neurones profonds modernes produisent souvent des prédictions erronées et trop confiantes sur ces entrées. Bien que les méthodes de détection post-hoc (opérant sur des modèles pré-entraînés sans réentraînement) soient attrayantes pour leur efficacité, les approches existantes basées sur la courbure font face à des limitations significatives. Les méthodes utilisant la courbure du paysage de perte (par exemple, via l'approximation de Laplace) pour estimer l'incertitude du modèle sont d'un coût computationnel prohibitif pour les grands réseaux en raison de la mise à l'échelle quadratique de la matrice Hessienne. De plus, ces méthodes reposent sur des hypothèses implicites concernant la différence de platitude du paysage entre les données de distribution interne (ID) et les données OOD, lesquelles n'ont pas été systématiquement investiguées.

Méthodologie

1. Observations empiriques sur la disparité de courbure

Les auteurs fournissent d'abord une analyse empirique systématique de la courbure du paysage de perte induite par les échantillons ID et OOD. En utilisant la méthode de Hutchinson pour estimer les statistiques de la Hessienne (la plus grande valeur propre $\lambda_{max}$ et la trace $tr(H)$) sans construire la matrice complète, ils observent que :

Courbure ID vs OOD : Les échantillons ID présentent systématiquement une courbure plus faible (plus petite $\lambda_{max}$ et trace) par rapport aux échantillons OOD.
Sévérité du décalage : L'écart de courbure s'élargit à mesure que le décalage de distribution devient plus sévère, passant des régimes de quasi-OOD aux régimes de OOD lointain.
Séparabilité au niveau de l'échantillon : La distribution des traces de la Hessienne par échantillon montre une séparation claire, les échantillons ID étant concentrés vers des valeurs plus basses et les échantillons OOD se déplaçant vers des valeurs plus élevées avec des distributions plus larges.

2. FOLD : Détection OOD modulée par la platitude

Motivés par l'observation selon laquelle les échantillons ID se situent dans des régions plus plates du paysage de perte, les auteurs proposent FOLD, un détecteur léger qui évite le coût prohibitif de l'approximation de la courbure dans l'espace des paramètres.

Hessienne de caractéristiques : Au lieu de calculer la Hessienne complète des paramètres, FOLD transporte la courbure de l'espace des logits vers l'espace latent des caractéristiques. Étant donné un réseau décomposé en un encodeur de caractéristiques $h(\cdot)$ et un classificateur linéaire $g(\cdot)$ , la Hessienne de caractéristiques est dérivée via la règle de la chaîne du second ordre :
$\nabla_{\mathbf{h}}^2 \mathcal{L} = (\nabla_{\mathbf{h}} g) (\nabla_{\mathbf{z}}^2 \mathcal{L}) (\nabla_{\mathbf{h}} g)^{\top}$
Cet opérateur projette l'incertitude prédictive sur la variété de caractéristiques induite par le classificateur, capturant les structures géométriques critiques pour la détection OOD.
Normalisation partielle des caractéristiques : Pour traiter le problème où les grandes magnitudes de caractéristiques provoquent la saturation de la softmax (aplatissant le paysage de perte et faisant disparaître la Hessienne), FOLD introduit une normalisation partielle des caractéristiques :
$\tilde{\mathbf{h}} = \frac{\mathbf{h}}{\|\mathbf{h}\|^{\alpha}}, \quad 0 < \alpha \leq 1$
Le score de détection est défini comme la trace de la Hessienne dans cet espace normalisé : $S_{fold}(\mathbf{x}) = \text{tr}(\nabla_{\tilde{\mathbf{h}}}^2 \mathcal{L})$ $S_{f o l d} (x) = tr (\nabla_{\tilde{h}}^{2} L)$ .
- Dépendance aux données : L' $\alpha$ optimal varie selon la complexité du jeu de données. Les jeux de données simples (ex. : CIFAR) bénéficient d'une normalisation quasi totale ( $\alpha \approx 1$ ), tandis que les jeux de données complexes (ex. : ImageNet) nécessitent une suppression plus légère ( $\alpha \approx 0,2$ ) pour préserver les indices de magnitude informatifs.

3. AUTOFOLD : Calibration auto-supervisée

Pour éliminer le besoin de jeux de validation OOD externes pour ajuster $\alpha$ , les auteurs introduisent AUTOFOLD. Ce schéma auto-supervisé :

Génère des échantillons pseudo-OOD en masquant le logit dominant des échantillons ID (en fixant le logit de la classe réelle à $-\infty$ ), simulant ainsi un scénario de classe inconnue.
Sélectionne automatiquement l' $\alpha^*$ optimal en maximisant l'AUROC entre les scores des échantillons de validation ID originaux et leurs homologues à logit masqué.
Opère entièrement au moment de l'inférence avec un surcoût négligeable, ne nécessitant ni réentraînement ni données externes.

Contributions clés

Analyse systématique de la courbure : La première investigation systématique confirmant que les entrées OOD présentent une plus grande courbure de la Hessienne que les données ID, et que cette disparité augmente sous des décalages de distribution plus forts.
Algorithme de détection efficace (FOLD) : Une méthode légère exploitant la Hessienne de caractéristiques et la normalisation partielle des caractéristiques pour améliorer la séparabilité ID-OOD sans le surcoût des méthodes bayésiennes basées sur la courbure.
Ajustement automatique des hyperparamètres (AUTOFOLD) : Une stratégie auto-supervisée utilisant le masquage de logit ID pour calibrer les paramètres de normalisation sans données OOD externes.
Validation théorique et empirique : Une analyse théorique (sous des hypothèses de classification binaire simplifiées) soutient l'affirmation que la trace attendue de la Hessienne de caractéristiques est plus grande pour les données OOD. Des expériences approfondies valident ces résultats à travers diverses architectures et bases de données.

Résultats expérimentaux

Les auteurs ont évalué FOLD et AUTOFOLD sur des benchmarks OOD standards (CIFAR-10, CIFAR-100, ImageNet-200, ImageNet-1K) contre un ensemble complet de méthodes de référence post-hoc (ex. : MSP, ODIN, ReAct, VIM, KNN).

Performance : FOLD et ses variantes surpassent systématiquement les méthodes précédentes.
- FOLD-R (FOLD combiné avec le seuillage d'activation de ReAct) a obtenu la meilleure performance moyenne, améliorant l'AUROC moyenne de 1,63 % et réduisant le FPR95 de 2,30 % par rapport aux bases solides.
- Les variantes AUTOFOLD ont obtenu des performances compétitives par rapport au FOLD à $\alpha$ fixe, démontrant que la calibration automatique est efficace sans ajustement manuel.
Efficacité : FOLD maintient une efficacité de calcul comparable à une passe avant standard. Contrairement aux méthodes nécessitant une configuration coûteuse (ex. : KNN, MDS) ou une inférence lourde (ex. : RMDS), FOLD n'entraîne qu'un surcoût quasi minimal.
Généralisation : La méthode démontre une performance stable à travers diverses architectures de backbone (RegNet, DenseNet, WRN, ResNeXt), indiquant que les avantages géométriques de la notation basée sur la courbure sont indépendants de l'architecture.
Études d'ablation :
- Normalisation : La normalisation partielle s'est avérée supérieure à la normalisation totale sur les jeux de données complexes (ImageNet), où la normalisation totale éliminait les indices de magnitude informatifs, provoquant l'effondrement du gap spectral.
- Hessienne de caractéristiques : L'utilisation de la Hessienne de caractéristiques a produit un AUROC plus élevé que l'utilisation de la seule Hessienne des logits, particulièrement sur les domaines complexes, confirmant la valeur de l'intégration de la géométrie induite par le classificateur.

Signification et affirmations

L'article affirme fournir une solution fondée sur des principes et pratique pour une détection OOD robuste dans le monde réel. En exploitant la propriété structurelle selon laquelle les données ID se situent dans des régions de perte plus plates que les données OOD, FOLD comble le fossé entre la promesse théorique de l'estimation de l'incertitude par la courbure et les contraintes pratiques de l'efficacité computationnelle.

Les auteurs soulignent que leur approche :

Évite le "surcoût computationnel prohibitif" typique des approximations de courbure bayésiennes.
Supprime la dépendance aux jeux de validation OOD externes pour l'ajustement des hyperparamètres via AUTOFOLD.
Offre un composant "prêt à l'emploi" (normalisation partielle) qui améliore les cadres de détection existants.
Fournit un fondement théorique (Théorème 1) reliant les traces de la Hessienne de caractéristiques aux décalages de distribution, offrant une explication intuitive de leur succès empirique observé.

Le travail conclut que FOLD atteint un équilibre favorable entre la précision de détection et l'efficacité de calcul, ce qui le rend adapté au déploiement dans des scénarios où les données OOD sont indisponibles pour la validation et où une inférence en temps réel est requise.