📊 statistics

Prior laundering: learned priors with inherited, undetectable overconfidence

Cet article avertit que l'utilisation de reconstructions héritées comme données d'entraînement pour des priors génératifs — une pratique qualifiée de « blanchiment de prior » (prior laundering) — conduit à une surconfiance indétectable et à une mauvaise quantification de l'incertitude dans les problèmes inverses mal posés, car le modèle hérite et amplifie les biais de l'archive plutôt que d'apprendre à partir de données réelles.

Auteurs originaux : Ali Siahkoohi, Sina Alemohammad

Publié 2026-07-27

📖 9 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Ali Siahkoohi, Sina Alemohammad

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le Mystère de la Carte Invisible

Imaginez que vous êtes un détective essayant de résoudre un crime, mais que vous ne possédez qu'une photo floue et incomplète de la scène. Vous connaissez les lois de la physique (comment la lumière dévie, comment le son se propage), mais la photo manque de pans entiers d'informations. Pour combler ces lacunes, vous avez besoin d'un « a priori » — un ensemble de suppositions éclairées sur ce à quoi les parties manquantes ressemblent habituellement. Dans le monde de la science, cela s'appelle un problème inverse : travailler à rebours à partir d'un résultat désordonné pour découvrir la cause originale.

Pendant des décées, les scientifiques ont utilisé des règles artisanales pour ces suppositions, comme « supposez que l'image est lisse » ou « supposez que l'objet est simple ». Mais récemment, ils ont commencé à utiliser l'IA pour apprendre ces règles. L'IA examine des milliers de solutions passées et apprend à quoi ressemble une réponse « plausible », créant ainsi un a priori génératif. C'est un outil puissant, mais il comporte un piège : pour entraîner l'IA, vous devez connaître la vraie réponse (la « vérité terrain »). Dans des domaines comme la sismologie (observer l'intérieur de la Terre) ou l'imagerie médicale (observer l'intérieur du corps humain), la vraie réponse est presque jamais disponible. On ne peut pas voir exactement les couches rocheuses souterraines ou les tissus sains à l'intérieur d'un patient sans une chirurgie invasive.

Alors, que font les scientifiques ? Ils trichent un peu, ou du moins le pensent-ils. Ils prennent les anciennes suppositions faites par les méthodes précédentes, les traitent comme si elles étaient la vérité, et entraînent leur nouvelle IA sur elles. Ce papier appelle ce processus le « blanchiment d'a priori » (prior laundering). C'est comme prendre un croquis dessiné par un artiste précédent, le passer dans une machine pour lui donner l'apparence d'une photographie, puis prétendre que la nouvelle photo est basée sur des données réelles. La grande question est la suivante : ce tour de passe-passe fonctionne-t-il, ou cache-t-il un secret dangereux ?

Le Cycle de Blanchiment : Comment un IA « Propre » se Salit

Ce document, intitulé « Prior Laundering: learned priors with inherited, undetectable overconfidence », étudie précisément ce qui se passe lorsque vous entraînez une IA puissante sur ces reconstructions « héritées » plutôt que sur des vérités réelles. Les auteurs, Ali Siahkoohi et Sina Alemohammad, ont découvert un phénomène troublant : l'IA ne se contente pas d'apprendre des données ; elle hérite des angles morts et de la fausse confiance de l'ancienne méthode sur laquelle elle a été entraînée.

Voici le cœur du problème, expliqué par une analogie simple :

Imaginez que vous essayiez de deviner le contenu d'une boîte scellée. Vous pouvez la secouer et entendre des cliquetis (les mesures).

Les Directions Résolues : Si la boîte contient une pièce de monnaie qui bouge, vous l'entendez clairement. Les données vous disent exactement où se trouve la pièce.
Les Directions Aveugles : Mais la boîte contient aussi un bloc de plomb lourd et silencieux qui ne produit aucun cliquetis. Peu importe la force avec laquelle vous secouez la boîte, les données ne vous disent rien sur le bloc de plomb.

Dans un monde parfait, quand les données sont silencieuses, vous devriez dire : « Je n'ai aucune idée de ce à quoi ressemble le bloc de plomb ; il pourrait être n'importe quoi. » Mais c'est ici que le « blanchiment » se produit.

Les scientifiques ont entraîné leur IA sur une archive de vieilles suppositions. Dans ces anciennes suppositions, les personnes qui les avaient réalisées utilisaient une règle (un régularisateur) qui supposait que le bloc de plomb silencieux était toujours un cube parfait et lisse. Comme les données ne pouvaient pas contredire cela (puisque le plomb était silencieux), les anciennes suppositions montraient toujours un cube lisse.

Lorsque la nouvelle IA a été entraînée sur ces anciennes suppositions, elle a appris une leçon très spécifique : « Quand les données sont silencieuses, la réponse est un cube lisse. » L'IA n'a pas appris cela grâce à la boîte que l'on secoue (les données) ; elle l'a appris de l'ancien croquis (l'archive).

L'Illusion Dangereuse de Certitude

L'article démontre que cela conduit à une overconfiance indétectable.

Lorsqu'une IA est déployée pour résoudre un nouveau problème, elle observe les parties silencieuses des données et déclare avec assurance : « Je suis sûr à 99 % que le bloc de plomb est un cube lisse ! » Elle dessine un cercle très étroit et serré autour de sa supposition. En statistiques, on appelle cela un intervalle de crédibilité. Si l'intervalle est trop étroit, l'IA est « trop confiante » (overconfident).

La partie effrayante est que personne ne peut dire que l'IA ment.

Le Test des Données Échoue : Si vous vérifiez la réponse de l'IA par rapport à la boîte que l'on secoue, elle réussit. La supposition de l'IA correspond parfaitement au son, car le son ne se soucie pas du bloc de plomb.
L'Auto-vérification Échoue : Les scientifiques utilisent souvent un test appelé calibration basée sur la simulation pour voir si leur IA est honnête. Ils demandent à l'IA de deviner, puis vérifient si la vérité tombe à l'intérieur du cercle de confiance de l'IA. Mais parce que l'IA a été entraînée sur l'ancienne règle du « cube lisse », elle est parfaitement cohérente avec son propre entraînement. Elle réussit le test à chaque fois, même si elle est de façon certaine erronée concernant les parties silencieuses.

L'article prouve mathématiquement que sur ces « directions aveugles », l'incertitude de l'IA est gelée. Elle est exactement la même que l'ancienne règle artisanale sur laquelle elle a été entraînée. Si l'ancienne règle était trop étroite (trop confiante), la nouvelle IA l'est aussi. Si l'ancienne règle était fausse, la nouvelle IA est fausse. Les données ne peuvent pas corriger cela car elles n'ont jamais « vu » ces parties en premier lieu.

Le Piège de la « Meilleure Réponse Unique »

La situation s'aggrave encore avec une pratique courante appelée curation de la meilleure solution unique. Souvent, les archives ne stockent pas une gamme de possibilités (un « nuage » de suppositions), mais seulement une seule meilleure supposition (l'estimation « Maximum A Posteriori » ou MAP).

L'article montre que si vous entraînez une IA sur ces images uniques et d'apparence parfaite, la confiance de l'IA sur les zones aveugles s'effondre vers une largeur de zéro. Elle devient absolument certaine. Elle dit : « Je suis sûre à 100 % que le bloc de plomb est un cube lisse. »
En réalité, le bloc de plomb pourrait être une sphère, une pyramide ou un rocher dentelé. Mais parce que l'archive n'a montré qu'un cube, l'IA pense que le cube est la seule possibilité. L'article démontre que cela mène à une couverture nulle : si vous lancez un test, la véritable réponse ne tombera presque jamais à l'intérieur du minuscule cercle confiant de l'IA.

Ce que les Expériences Ont Montré

Pour prouver qu'il ne s'agissait pas seulement de mathématiques théoriques, les auteurs ont mené des simulations sur deux scénarios du monde réel :

Imagerie Sismique : Observer les couches rocheuses souterraines. Ils ont entraîné une IA sur de vieilles images « migrées ». Le résultat ? L'IA était incroyablement confiante sur les parties profondes et sombres de l'image où la lumière (les données) était faible. Elle dessinait des bandes d'incertitude étroites et serrées qui étaient bien trop petites. La « vérité » (qu'ils ont construite pour le test) tombait souvent en dehors de ces bandes.
Flux d'Eau Souterraine : Cartographier l'eau sous terre. Ils ont utilisé un autre type d'IA (un flux normalisant) entraîné sur d'anciennes cartes de la « meilleure supposition ». Là encore, l'IA était trop confiante dans les zones aveugles, rapportant une incertitude nulle là où il devrait y avoir une énorme incertitude.

Dans les deux cas, l'IA entraînée sur la « vérité » (le groupe de contrôle) était beaucoup plus honnête. Elle admettait quand elle ne savait pas, montrant de larges bandes d'incertitude floues. L'IA « blanchie », en revanche, paraissait plus nette et plus confiante, mais il s'agissait d'une hallucination de certitude.

La Conclusion : Ne Faites Pas Confiance à l'Image la Plus Propre

L'article conclut que le blanchiment d'a priori crée une faille structurelle invisible aux contrôles standards. L'IA hérite de la « foi aveugle » de l'ancienne méthode.

Les auteurs suggèrent une correction simple et pratique : Rapportez ce que les données voient réellement.
Avant de faire confiance à l'incertitude d'une IA, les scientifiques devraient calculer les parties de l'image que les données peuvent réellement résoudre (le « sous-espace résolu ») et celles qui sont aveugles. Ils devraient rapporter la confiance pour les parties aveugles comme étant « héritée du pipeline » plutôt que « supportée par les données ».

Si vous regardez une carte du sous-sol ou un scanner d'un patient, et que l'IA dit : « Je suis sûre à 100 % de ce coin sombre et flou », vous devriez être méfiant. Cette confiance ne vient pas des données ; elle vient du blanchiment. Les données étaient silencieuses, et l'IA n'a fait que répéter l'ancienne supposition avec un nouvel habit brillant.

L'article ne dit pas qu'il faut arrêter d'utiliser l'IA. Il dit que nous devons cesser de prétendre que l'entraînement sur d'anciennes suppositions rend l'IA « pilotée par les données » dans ces coins silencieux. Les données ont une limite, et quand les données cessent de parler, la confiance de l'IA n'est qu'un fantôme du passé.

Résumé Technique : Blanchiment de Prior dans les Priors Génératifs Appris

Énoncé du Problème
Les problèmes inverses bayésiens mal posés nécessitent un prior pour régulariser les solutions. Bien que les priors génératifs appris (modèles génératifs profonds) offrent des reconstructions plus nettes que les régulariseurs artisanaux, leur entraînement nécessite des exemples de vérité terrain (ground-truth), qui sont rares dans des domaines tels que la sismique et l'imagerie médicale. Par conséquent, les praticiens entraînent souvent ces modèles sur une archive de « reconstructions héritées » (outputs de méthodes artisanales plus anciennes, par exemple des sections migrées ou des estimations MAP) plutôt que sur des données réelles. Cette pratique, nommée « blanchiment de prior » (prior laundering), traite l'archive comme s'il s'agissait d'une vérité terrain. L'article étudie les conséquences structurelles de cette pratique, en se concentrant spécifiquement sur le sous-espace aveugle (blind subspace) : les directions dans l'espace des solutions que l'opérateur direct ne peut pas résoudre (le noyau de l'opérateur). La question centrale est de savoir si l'incertitude rapportée par un tel prior est réellement dictée par les données ou s'il s'agit simplement d'un artefact indétectable hérité du pipeline de l'ancien système.

Méthodologie et Cadre Théorique
Les auteurs établissent un cadre théorique pour les problèmes inverses où l'inconnue $x$ est observée à travers un opérateur direct bruité $F(x)$ . Ils distinguent le sous-espace résolu (informatif pour les données) du sous-espace aveugle (non informatif pour les données).

L'identité de « l'étape unique d'EM » : L'article prouve que l'entraînement d'un prior sur une archive d'échantillons a posteriori (reconstructions héritées) est mathématiquement équivalent à l'avancement du régularisateur artisanal original d'exactement une étape d'Expectation-Maximization (EM) vers la vérité.
- Directions Résolues : Le prior s'améliore là où les données fournissent de l'information.
- Directions Aveugles : Le prior reste « gelé » sur l'hypothèse du régularisateur original. Le prior appris transporte la croyance héritée lors du déploiement sans correction.
Effondrement de la Curatèle de Meilleure Valeur Unique : En pratique, les archives stockent souvent des reconstructions de type « meilleure valeur unique » (Maximum A Posteriori, MAP) plutôt que des échantillons a posteriori. Les auteurs prouvent que l'entraînement sur une archive de type MAP unique provoque l'effondrement de la largeur de l'incertitude de la fibre aveugle à zéro. Le prior appris rapporte une certitude absolue sur des directions où la vérité varie réellement, car la carte déterministe MAP rejette toute dispersion a posteriori.
Indétectabilité de la Surconfiance : Une contribution théorique critique est la preuve que cette surconfiance est structurellement indétectable via les contrôles de déploiement standards :
- Contrôles basés sur les données : Deux vérités différant uniquement sur le sous-espace aveugle induisent des lois de mesure identiques. Par conséquent, aucune statistique calculée à partir des données enregistrées ne peut distinguer un prior correct d'un prior hérité surconfiant.
- Contrôles d'Auto-Cohérence : Il est démontré que la calibration basée sur la simulation (SBC) est neutre par construction ; elle valide la cohérence entre un prior et son propre a posteriori, et non la fidélité à la vérité. Ainsi, la SBC réussit quel que soit le sur-apprentissage de la confiance héritée.
Déficit de Couverture : Dans le cas Gaussien-linéaire, les auteurs dérivent une expression en forme close pour le déficit de couverture. Si la croyance héritée (le régularisateur) est plus étroite que la vérité sur le sous-espace aveugle, les intervalles de crédibilité rapportés sont surconfiants. Ce déficit persiste quelle que soit la quantité de données collectées, tant que le noyau de l'opérateur reste non trivial.

Contributions Clés

Caractérisation du Blanchiment de Prior : L'article définit et analyse formellement le phénomène où les hypothèses héritées sont réémises avec la crédibilité d'une incertitude dictée par les données.
Limites Théoriques de l'Indétectabilité : Il établit que le sous-espace aveugle est le seul régime où les diagnostics de déploiement standards (ajustement des données et SBC) échouent à révéler le mauvais calibrage.
Effondrement de la Meilleure Valeur Unique : Il identifie le mécanisme spécifique par lequel l'utilisation d'archives de type « meilleure valeur unique » (courantes en pratique) conduit à des intervalles de crédibilité de largeur nulle sur les directions aveugles, un échec plus grave qu'une simple surconfiance.
Remèdes et Limites : L'article prouve que la seule façon de « dégeler » le sous-espace aveugle est d'introduire de nouveaux canaux de mesure (par exemple, des levés supplémentaires ou des types de capteurs différents) qui résolvent ces directions spécifiques. Le réentraînement sur de nouvelles données provenant du même opérateur ne corrige que le sous-espace résolu, laissant le conditionnel aveugle gelé à l'hypothèse héritée.

Résultats Expérimentaux
Les auteurs valident leurs affirmations théoriques en utilisant deux opérateurs physiques :

Imagerie de Born en Sismique : Un modèle de diffusion entraîné sur une archive héritée de migration par moindres carrés.
- Résultat : L'incertitude du prior curaté sur le sous-espace aveugle (régions de faible illumination) était nettement plus étroite que la vérité, entraînant une sous-couverture. Inversement, l'incertitude s'élargissait là où l'illumination échouait avec un prior « oracle » entraîné sur la vérité. Les gradients d'incertitude étaient opposés : le prior curaté était le plus confiant là où les données étaient les moins informatives.
Imagerie de Flux d'Eaux Souterraines : Un flux normalisant entraîné sur des estimations MAP héritées.
- Résultat : Même avec un régularisateur correctement spécifié (où le MAP hérité provenait du vrai prior), le flux curaté présentait une sous-couverture du sous-espace aveugle. Cela confirme que l'échec est dû au mécanisme d'effondrement de la meilleure valeur unique (rejet de la dispersion) plutôt qu'à une erreur de spécification du modèle.

Signification et Revendications
L'article soutient que la dépendance de la communauté aux archives héritées pour l'entraînement des priors génératifs crée un angle mort structurel dans la quantification de l'incertitude. La portée de l'étude réside dans :

L'Exposition d'un Mode de Défaillance Caché : Elle démontre que l'incertitude « gagnée » dans les directions aveugles est en réalité « héritée » et potentiellement dangereusement surconfiante.
La Redéfinition des Standards de Déploiement : Elle affirme que les praticiens doivent explicitement rapporter quelles directions sont résolues par l'opérateur et lesquelles sont aveugles. Les intervalles de confiance sur les directions aveugles devraient être signalés comme étant fournis par le prior, et non par les données.
La Limitation des Attentes : L'article affirme modestement qu'aucune quantité de données issues du même levé ne peut corriger ce problème ; la solution nécessite des changements dans l'acquisition des données (ajout de canaux) ou un changement dans la manière dont les archives sont curatées (stockage d'échantillons a posteriori plutôt que d'estimations ponctuelles).

Le travail conclut que bien que les priors appris améliorent la qualité de la reconstruction, leur quantification de l'incertitude sur les sous-espaces aveugles est fondamentalement compromise par le processus de « blanchiment de prior », nécessissant une séparation entre la confiance supportée par les données et la croyance héritée.