⚡ electrical engineering

MaRS: Robust Out-of-Distribution Detection via Mahalanobis Residual Scoring

Cet article introduit MaRS, un détecteur de hors-distribution post-hoc et sans étiquette qui surmonte les limites des méthodes de reconstruction standard en utilisant la distance de Mahalanobis sur les résidus de reconstruction pour capturer les déviations sensibles à la variance, atteignant ainsi une performance supérieure à travers diverses modalités d'imagerie médicale et changements de distribution.

Auteurs originaux : Francesco Di Salvo, Sebastian Doerrich, Christian Ledig

Publié 2026-06-23

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Francesco Di Salvo, Sebastian Doerrich, Christian Ledig

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le gros problème : Quand l'IA est confuse

Imaginez que vous avez un médecin IA très intelligent qui a étudié des milliers de radiographies de poumons sains d'adultes. Il sait exactement à quoi ressemble un poumon d'adulte « normal ».

Maintenant, imaginez que l'on montre à cette IA la radiographie du poumon d'un enfant. Même s'il s'agit toujours d'un poumon, la forme et la taille sont différentes. Ou imaginez que la radiographie a été prise avec une marque de machine différente qui rend l'image légèrement plus granuleuse.

Pour l'IA, ces nouvelles images ont l'air « bizarres ». Techniquement, elles sont dites « hors distribution » (Out-of-Distribution ou OOD). Le danger est que l'IA essaie quand même de les diagnostiquer, en donnant une réponse erronée avec assurance. Nous avons besoin d'un « garde de sécurité » capable de repérer ces images bizarres avant que l'IA ne tente de les diagnostiquer, pour dire : « Hé, je n'ai jamais rien vu de tel auparavant ; je ne suis pas sûr de moi sur ce coup-là. »

L'ancienne méthode : Mesurer la « distance » et la « reconstruction »

Les scientifiques ont essayé de construire ce garde de sécurité de plusieurs façons :

Vérification de la confiance : Demander à l'IA : « À quel point es-tu sûre de toi ? » (Mais l'IA peut être sûre d'elle tout en se trompant).
Vérification de la distance : Mesurer à quel point la nouvelle image est éloignée des images que l'IA connaît.
Vérification de la reconstruction : C'est la méthode sur laquelle cet article se concentre. Imaginez que vous avez une machine qui essaie de redessiner l'image en fonction de ce qu'elle connaît.
- Si vous lui montrez un poumon normal, elle le redessine parfaitement.
- Si vous lui montrez un poumon d'enfant, elle a du mal. Elle essaie de forcer le poumon de l'enfant à ressembler à celui d'un adulte, et la version « redessinée » semble désordonnée.
- La différence entre l'image originale et l'image redessinée désordonnée est appelée le résidu (ou l'erreur).

La faille : L'ancienne façon de mesurer cette erreur était comme utiliser une règle standard. Elle additionnait simplement toutes les erreurs de manière égale. Si l'IA faisait une petite erreur à 100 endroits différents, l'erreur totale paraissait grande. Mais si elle faisait une seule énorme erreur bizarre dans une direction spécifique, la règle pourrait passer à côté car elle traitait chaque direction de la même manière.

La nouvelle solution : MaRS (Mahalanobis Residual Scoring)

Les auteurs de cet article ont réalisé que les erreurs de l'IA ne sont pas aléatoires. Elles ont une forme spécifique.

L'analogie : Le « Trampoline Élastique »

Imaginez que la connaissance de l'IA sur les « poumons normaux » est comme un trampoline qui est étiré selon une forme spécifique.

Poumons normaux (In-Distribution) : Ils sont posés directement sur le trampoline. Si vous y lâchez une balle, elle rebondit un peu (petite erreur) parce que le trampoline est élastique dans certaines directions et rigide dans d'autres.
Poumons bizarres (Out-of-Distribution) : Ils essaient de se poser en dehors du trampoline.

L'ancienne méthode (Norme L2) : Cette méthode mesure simplement la hauteur totale de la balle au-dessus du trampoline. Elle ne se soucie pas de l'endroit où se trouve la balle. Si le trampoline est très élastique (facile à étirer) dans une direction, une balle bondissant haut là n'est pas forcément « bizarre » — c'est juste la nature du trampoline.

La méthode MaRS (Distance de Mahalanobis) : Cette méthode est plus intelligente. Elle regarde la texture du trampoline.

Elle sait que dans certaines directions, le trampoline est très rigide (difficile à étirer). Si une balle est même légèrement décalée dans une direction rigide, c'est un événement majeur.
Dans d'autres directions, le trampoline est souple et élastique. Si une balle est décalée dans une direction souple, c'est probablement juste du bruit normal.

MaRS utilise une « règle mathématique » spéciale qui amplifie les erreurs dans les directions rigides et ignore les erreurs dans les directions élastiques. Cela lui permet de repérer les images réellement bizarres bien mieux que l'ancienne règle.

Comment ils l'ont testé

Les chercheurs ont testé ce « garde de sécurité intelligent » sur trois types différents d'images médicales :

Des lames de microscope de cellules (recherche de cancer).
Des radiographies thoraciques (comparaison adultes vs enfants).
Des photos de la peau (comparaison de différents types de grains de beauté).

Ils ont utilisé différents modèles de « cerveau » (backbones) pour traiter les images, allant du plus petit au plus grand.

Les résultats

Meilleure détection : MaRS a détecté les images « bizarres » beaucoup plus précisément que les anciennes méthodes (comme la reconstruction standard ou les vérifications de distance).
Aucun label requis : Il n'avait pas besoin d'apprendre ce qu'est un « poumon d'enfant » ou une « machine différente ». Il a simplement appris ce qu'est le « normal » et a repéré les écarts.
Fonctionne sur les modèles grands et petits : Cela a bien fonctionné, que l'IA soit un modèle petit et simple ou un modèle massif et complexe.
La recette secrète : L'article a découvert que les signaux « bizarres » sont souvent cachés dans les directions calmes et rigides des données. Les anciennes méthodes ignoraient ces directions calmes, mais MaRS en a augmenté le volume.

Résumé

L'article présente MaRS, un nouvel outil qui aide les systèmes d'IA à réaliser qu'ils regardent quelque chose qu'ils n'ont jamais vu auparavant. Au lieu de simplement mesurer à quel point une image semble « fausse » avec une règle simple, MaRS utilise une règle intelligente et flexible qui sait exactement quels types d'erreurs comptent et lesquels ne sont que du bruit normal. Cela rend l'IA médicale plus sûre et plus fiable face à de nouveaux patients ou de nouveaux équipements.

Résumé technique : MaRS – Détection robuste de hors-distribution via le scoring de résidus de Mahalanobis

Énoncé du problème
Les modèles de fondation fournissent des représentations hautement descriptives pour l'imagerie médicale, pourtant leur fiabilité se dégrade sous l'effet de décalages de distribution causés par des changements dans les populations de patients, les dispositifs d'imagerie ou les conditions d'acquisition. Bien que la détection de hors-distribution (OOD - Out-of-Distribution) soit essentielle pour un déploiement clinique sûr, les méthodes existantes font face à des limitations spécifiques. Les méthodes basées sur la confiance souffrent souvent d'une fragilité due au déséquilibre des classes et à une mauvaise calibration. Les méthodes basées sur la distance (ex. : Deep kNN, Mahalanobis) peuvent se dégrader dans les plongements (embeddings) de haute dimension où les distances entre plus proches voisins deviennent moins informatives et où les estimations de covariance sont difficiles à régulariser. Les méthodes basées sur la reconstruction, qui apprennent une variété (manifold) de distribution intra-classe (ID) et signalent les échantillons présentant des erreurs de reconstruction élevées, ont connu une adoption limitée. Les auteurs postulent que cette incohérence ne provient pas d'une mauvaise qualité de reconstruction, mais plutôt de la manière dont les erreurs de reconstruction sont scorées. Les approches standard utilisent des normes $L_2$ uniformes, qui provoquent l'effondrement de la structure anisotrope des résidus, supprimant ainsi les déviations informatives qui surviennent dans les directions à faible variance.

Méthodologie : MaRS
Les auteurs introduisent MaRS (Mahalanobis Residual Scoring), un détecteur OOD post-hoc, sans étiquette (label-free), conçu pour opérer sur des caractéristiques de fondation gelées. La méthode se compose de trois composantes primaires :

Projection de la variété via un auto-encodeur : Étant donné un fond (backbone) gelé $\Phi$ produisant des caractéristiques $z$ , un auto-encodeur léger $(E, D)$ est entraîné sur les caractéristiques ID pour minimiser la perte de reconstruction $\|z - \hat{z}\|_2^2$ . Géométriquement, cela implémente une projection $\Pi_{M_{ID}}(z)$ sur la variété ID. Le résidu de reconstruction est défini par $r(x) = z - \hat{z}$ .
Analyse de l'espace des résidus : Les auteurs observent que si les résidus ID sont faibles et reflètent les imperfections de reconstruction, les résidus OOD contiennent des composantes systématiques reflétant la déviation par rapport à la variété apprise. Crucialement, la distribution de ces résidus est hautement anisotrope.
Scoring de Mahalanobis : Au lieu d'une norme $L_2$ uniforme, MaRS calcule le score OOD en utilisant la distance de Mahalanobis dans l'espace des résidus :
$S_{MaRS}(x) = r(x)^\top \Sigma^{-1} r(x)$
où $\Sigma$ est la matrice de covariance des résidus ID. Par décomposition en valeurs propres $\Sigma = U\Lambda U^\top$ , le score est exprimé comme une somme pondérée des carrés des projections sur les composantes principales :
$S_{MaRS}(x) = \sum_{i=1}^{D} \frac{(u_i^\top r(x))^2}{\lambda_i}$
Cette formulation amplifie les déviations le long des directions à faible variance (stables) (où $\lambda_i$ est petit) et atténue les directions à haute variance (où $\lambda_i$ est grand). Contra�à les méthodes de Mahalanobis dans l'espace d'embedding qui reposent sur des moyennes conditionnelles de classe, MaRS est sans étiquette et repose sur une covariance globale unique des résidus, isolant ainsi efficacement la variation sémantique des classes pour isoler le dérive de distribution.

Contributions clés

Cadre MaRS : Un détecteur OOD plug-and-play et sans étiquette qui applique la distance de Mahalanobis aux résidus de reconstruction d'un auto-encodeur. Il opère directement sur les caractéristiques gelées du fond, garantissant l'efficacité computationnelle et l'adaptabilité à travers les modalités sans nécessment de fine-tuning du fond.
Identification de l'anisotropie des résidus : L'article identifie l'anisotropie des résidus comme un signal critique, précédemment négligé, pour la détection OOD. Il démontre que le scoring de Mahalanobis sensible à la variance dans l'espace des résidus surpasse substantiellement l'agrégation $L_2$ uniforme.
Robustesse à l'architecture et à l'échelle : Les auteurs montrent que MaRS reste robuste à travers différentes architectures de fond (ViT supervisé et auto-supervisé DINOv3) et différentes échelles de modèles (Small et Base). De plus, la méthode bénéficie de l'utilisation de caractéristiques de pré-normalisation, où la structure de variance anisotrope intrinsèque est préservée, contrairement aux bases de l'espace latent qui nécessitent une normalisation.

Résultats expérimentaux
Des expériences approfondies ont été menées sur trois modalités d'imagerie (histopathologie, radiographie pulmonaire, dermatoscopie), plusieurs types de décalages de distribution (covariable, near-OOD, far-OOD, sémantique) et différentes familles de modèles.

Performance : MaRS a systématiquement surpassé les bases établies de confiance (MSP, ODIN, ViM), de distance (Deep kNN, OCSVM, Mahalanobis++) et de reconstruction (Residual, AE).
Signification statistique : MaRS a significativement surpassé Mahalanobis++ (la base la plus forte de l'espace latent) sur 3 passages et 5 partitions de données en termes d'AUROC et de FPR@95 (test Wilcoxon signé rang par rang apparié, $p < 0,05$ ).
Résultats d'ablation : L'analyse spectrale de la covariance des résidus a révélé que plus de 90 % de la variance est concentrée dans moins d'un tiers des composantes principales. Les déviations OOD se sont avérées se concentrer dans les directions de faible variance restantes. Le ratio de l'énergie des résidus OOD par rapport aux résidus ID était 1,64 $\times$ plus grand dans le sous-espace de faible variance, confirmant que le scoring de Mahalanobis isole efficacement ces signaux informatifs.
Sensibilité à la normalisation : Bien que la normalisation améliore les performances pour les bases standards de l'espace latent, elle dégrade MaRS en aplatissant le spectre de variance et en supprimant les directions de faible variance où les signaux OOD sont les plus prononcés.

Signification
L'article affirme qu'une limitation centrale des détecteurs OOD basés sur la reconstruction existants est l'hypothèse implicite d'erreurs de reconstruction isotropes. En remplaçant l'agrégation $L_2$ uniforme par un scoring de Mahalanobis sensible à la covariance, MaRS répond à cette limitation. Les auteurs affirment que cette approche offre un principe simple mais puissant pour la détection OOD post-hoc sur des représentations gelées, offrant une solution robuste et sans étiquette qui généralise bien à travers les modalités d'imagerie médicale et les échelles de modèles sans dépendre des étiquettes de classe ou des hypothèses de sous-espace prédéfinies. Le travail suggère que les améliorations futures de la détection OOD médicale pourraient dépendre d'une meilleure modélisation de l'anisotropie de l'espace des résidus plutôt que de la seule amélioration de la qualité de reconstruction ou des représentations de fond.