📊 statistics

Automated Residual Plot Assessment With the R Package autovi and the Shiny Application autovi.web

Cet article présente le package R `autovi` et son application Shiny `autovi.web`, qui utilisent un modèle de vision par ordinateur pour automatiser l'évaluation des graphiques de résidus en prédisant la force du signal visuel, remédiant ainsi aux limites de scalabilité et de cohérence du diagnostic visuel manuel dans la modélisation linéaire.

Auteurs originaux : Weihao Li, Dianne Cook, Emi Tanaka, Susan VanderPlas, Klaus Ackermann

Publié 2026-06-24

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Weihao Li, Dianne Cook, Emi Tanaka, Susan VanderPlas, Klaus Ackermann

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le Problème : Le goulot d'étranglement de l'« œil humain »

Imaginez que vous êtes un détective essayant de résoudre un crime. Vous avez un suspect (un modèle statistique) et un tas de preuves (des données). Pour voir si votre suspect est coupable, vous examinez les « résidus » — les indices restants que le suspect n'a pas pu expliquer.

En statistiques, les analystes regardent généralement ces indices en dessinant une image (un graphique de résidus) et en utilisant leurs yeux pour voir si quelque chose semble « bizarre ».

Le problème : Les humains sont mauvais pour cela. Nous nous fatiguons, nous voyons des motifs qui n'existent pas (comme voir un visage dans un nuage), ou nous manquons des motifs qui sont pourtant bien présents. C'est comme essayer de trouver une aiguille spécifique dans une botte de foin en plissant les yeux pendant des heures.
L'ancienne solution : Parfois, les statisticiens utilisent un protocole de « line-up » (reconnaissance). On vous montre la vraie image mélangée à 19 fausses images. Si vous pouvez repérer la vraie, cela signifie qu'il y a un problème. Mais c'est lent et cela repose toujours sur l'œil humain.

La Solution : Un Détective Robot

Les auteurs de ce papier ont construit un nouvel outil appelé autovi (Automated Visual Inference). Considérez cela comme un détective robot qui ne se fatigue jamais et possède une vue surhumaine.

Au lieu de demander à un humain de plisser les yeux devant un graphique, cet outil utilise la Vision par Ordinateur (la même technologie qui permet aux voitures autonomes de « voir » la route) pour examiner les graphiques de résidus.

Comment le robot « voit »

Entraînement : Le robot a été entraîné sur des milliers de scénarios fictifs. On lui a montré des images de modèles « parfaits » (où les indices sont dispersés de manière aléatoire) et de modèles « cassés » (où les indices forment un motif clair, comme une courbe ou un entonnoir).
Le Score (VSS) : Lorsque vous donnez une nouvelle image au robot, il ne se contente pas de dire « oui » ou « non ». Il lui attribue un score appelé Visual Signal Strength (VSS) (Force du signal visuel).
- Score faible : « Je ne vois rien de suspect. Les indices semblent aléatoires. Votre modèle est probablement correct. »
- Score élevé : « Je vois un motif clair ! Les indices sont alignés d'une manière qui ne devrait pas être. Votre modèle manque quelque chose. »

Les deux outils : La boîte à outils et l'application Web

Le papier présente deux façons d'utiliser ce robot :

1. Le package R (autovi) : La boîte à outils des professionnels
C'est pour les personnes qui sont à l'aise avec le codage (spécifiquement en R).

Fonctionnement : Vous injectez vos données dans le package. Il génère automatiquement les graphiques, les passe au robot, et vous donne un rapport.
Le rapport : Il vous indique le score VSS et une « p-valeur » (un nombre de probabilité). Si le nombre est bas, cela signifie que le robot est très confiant sur le fait que votre modèle présente un problème.
Visuels : Il peut vous montrer un « line-up » (le vrai graphique mélangé à des faux) pour que vous puissiez vérifier le travail du robot, ou un graphique de densité qui montre comment vos données se comparent aux données aléatoires « parfaites ».

2. L'application Web (autovi.web) : Le kiosque convivial
Tout le monde ne sait pas coder. Pour eux, les auteurs ont construit un site web.

Pas d'installation : Vous n'avez pas besoin d'installer des logiciels complexes ou de gérer différents langages de programmation. Vous ouvrez simplement un navigateur.
La magie : Le site web exécute tout le travail lourd de vision par ordinateur directement dans votre navigateur (en utilisant une technologie appelée TensorFlow.js). C'est comme avoir un supercalculateur dans votre navigateur web qui n'a pas besoin d'être branché sur une ferme de serveurs.
Facilité d'utilisation : Vous téléchargez vos données (ou utilisez leurs exemples), cliquez sur un bouton, et l'application vous montre instantanément l'évaluation du robot, le line-up des graphiques, et même une « carte thermique » (heat map) montrant exactement où dans l'image le robot a vu le problème.

Un exemple concret du papier

Les auteurs ont testé leur outil sur trois scénarios :

La fausse alerte : Un graphique semblait désordonné (comme un entonnoir), ce qui signifie généralement un modèle défectueux. Mais le robot a dit : « En fait, c'est correct. Cela semble juste désordonné parce que vous avez moins de points de données d'un côté. » Le robot a évité à l'analyste de paniquer inutilement.
La courbe cachée : Un graphique semblait globalement correct, mais il y avait une minuscule courbe cachée dans le bruit. Un test informatique standard l'a manquée, mais le robot l'a repérée immédiatement.
Le motif évident : Un graphique présentait une forme étrange cachée à l'intérieur (inspirée d'une citation d'un célèbre statisticien). Le robot lui a donné un score de « danger » très élevé, identifiant correctement le problème.

L'essentiel à retenir

Ce papier présente une nouvelle façon de vérifier si vos modèles statistiques fonctionnent correctement.

Avant : Vous deviez plisser les yeux devant des graphiques en espérant ne rien manquer.
Maintenant : Vous avez un robot qui scanne le graphique, le compare à des milliers d'exemples « parfaits », et vous donne un score clair ainsi qu'une probabilité que quelque chose ne va pas.

Cela rend le processus plus rapide, plus cohérent (le robot ne se fatigue pas) et accessible aux personnes qui ne sont pas des experts en codage, grâce à l'application web gratuite.

Résumé technique : Évaluation automatisée des graphiques de résidus avec `autovi`

Énoncé du problème
L'évaluation visuelle des graphiques de résidus est une approche standard pour le diagnostic des modèles linéaires, mais elle souffre de limitations significatives. L'évaluation manuelle ne passe pas bien à l'échelle et conduit souvent à des décisions incohérentes entre différents analystes. Bien que le « protocole de la ligne » (lineup protocol) — qui consiste à intégrer un graphique observé parmi des graphiques nuls — réduise la subjectivité, il nécessite un effort humain substantiel, ce qui le rend impraticique pour les applications à grande échelle. Les packages logiciels existants (par exemple, lmtest, DHARMa, ggResidpanel) fournissent des tests conventionnels et des diagnostics graphiques, mais le recours à l'interprétation subjective de ces graphiques peut entraîner des problèmes tels que la surinterprétation de motifs aléatoires comme étant des violations de modèle. Il existe un besoin pour une méthode automatisée et évolutive d'évaluation des graphiques de résidus qui maintienne la rigueur de l'inférence visuelle sans le fardeau du travail manuel.

Méthodologie
Le document présente un cadre qui automatise l'évaluation des graphiques de résidus en utilisant la vision par ordinateur et les tests statistiques. Le cœur de cette méthodologie comprend les composants suivants :

Force du signal visuel (VSS - Visual Signal Strength) : Une métrique continue est définie pour quantifier la clarté des motifs visuels dans un graphique de diagnostic qui pourraient indiquer des violations de modèle. Théoriquement, la VSS estime la distance entre la distribution des résidus d'un modèle ajusté et une distribution de référence (attendue sous une spécification de modèle correcte). Cette distance est basée sur la divergence de Kullback-Leibler (KL). Comme la véritable distribution des résidus est inconnue en pratique, la VSS est approximée par un modèle de vision par ordinateur entraîné sur des données synthétiques.
Modèle de vision par ordinateur : Un réseau de neurones convolutifs (CNN) est entraîné sur un large ensemble de modèles de régression synthétiques. Ces modèles simulent des violations spécifiques des hypothèses classiques de la régression linéaire, notamment la non-linéarité (via des transformations par polynômes de Hermite), l'hétéroscédasticité (variance de l'erreur dépendante des prédicteurs) et la non-normalité (distributions discrètes, uniformes et log-normales). Le modèle prend en entrée une image du graphique des résidus ainsi que des variables auxiliaires (par exemple, le nombre d'observations) et produit une VSS prédite.
Protocole de test statistique :
- Résidus nuls : Générés sous l'hypothèse nulle que le modèle est correctement spécifié (typiquement en échantillonnant à partir d'une distribution normale de moyenne nulle et de variance d'erreur estimée).
- Résidus par bootstrap : Générés en réajustant le modèle sur des échantillons bootstrap pour estimer la variation de la VSS due à la variabilité de l'échantillonnage.
- Test d'hypothèse : L'évaluation automatisée calcule la proportion de graphiques nuls dont la VSS est égale ou supérieure à celle du graphique de résidus observé. Cette proportion sert de valeur $p$ pour un test d'hypothèse unilatéral.
Implémentation logicielle :
- Package R (autovi) : Construit sur le système de programmation orientée objet bandicoot, le package intègre R et Python via le package reticulate. Il utilise ggplot2 pour la génération de graphiques, cassowaryr pour les scagnostics (diagnostics de diagrammes de dispersion), pillow pour le traitement d'images, et TensorFlow pour le CNN pré-entraîné. L'infrastructure est modulaire, permettant aux utilisateurs de remplacer des étapes spécifiques (par exemple, l'extraction de données, la simulation de résidus) pour étendre l'outil à d'autres classes de modèles comme les modèles linéaires généralisés (GLM).
- Application Shiny (autovi.web) : Une interface web qui permet d'effectuer des évaluations sans installation locale de dépendances R ou Python. Elle utilise TensorFlow.js pour exécuter le modèle de vision par ordinateur directement dans le navigateur, déportant la charge de calcul vers le client.

Principales contributions

Automatisation de l'inférence visuelle : Le document présente la première implémentation automatisée du protocole de la ligne pour les graphiques de résidus, remplaçant la comparaison visuelle manuelle par un test statistique basé sur la vision par ordinateur.
Métrique quantitative (VSS) : Il introduit une métrique continue et interprétable (VSS) qui quantifie la force des motifs visuels, comblant le fossé entre l'évaluation visuelle subjective et le test statistique objectif.
Cadre modulaire : Le package autovi est conçu avec une architecture modulaire qui supporte l'extension au-delà de la simple régression linéaire. Les auteurs démontrent cela en créant un vérificateur personnalisé pour la régression de Poisson, montrant comment les utilisateurs peuvent remplacer des modules spécifiques (par exemple, la simulation de résidus nuls) pour s'adapter à différentes classes de modèles.
Accessibilité : En fournissant à la fois un package R et une application Shiny web, les auteurs abaissent la barrière à l'entrée pour les diagnostics automatisés, rendant l'inférence visuelle avancée accessible aux utilisateurs sans expertise en programmation ou configuration d'environnement complexe.

Résultats et exemples illustratifs
Le document démontre l'efficacité de l'outil à travers plusieurs exemples :

Faux positifs : Dans un cas simulé où une apparente hétéroscédasticité était causée par l'asymétrie des variables prédictrices plutôt que par une véritable violation de modèle, l'outil automatisé a correctement attribué une faible VSS (1,53) et une valeur $p$ non significative (0,25), là où un humain pourrait mal interpréter le motif.
Détection de la non-linéarité : En utilisant le jeu de données mtcars, l'outil a détecté une structure non linéaire subtile (VSS = 3,57, $p < 0,05$ ) qui a été confirmée par un test RESET de Ramsey.
Motifs complexes : Dans un jeu de données « surréaliste » avec une structure intégrée, l'outil a identifié une violation forte (VSS = 5,87, $p < 0,05$ ) que les tests de non-linéarité standards (RESET) avaient manquée, bien que d'autres tests (Breusch-Pagan, Shapiro-Wilk) aient détecté des problèmes connexes.
Extension aux GLM : Un exemple de régression de Poisson avec un terme quadratique omis a entraîné un motif en forme de U dans la ligne. Le vérificateur personnalisé a identifié cela avec succès avec une VSS de 4,875 et une valeur $p$ de 0,0099, démontrant l'adaptabilité du cadre.

Signification et affirmations
Les auteurs affirment que autovi et autovi.web comblent une lacune critique dans les logiciels statistiques en automatisant une tâche qui reposait historiquement sur une interprétation humaine incohérente. La portée de ce travail réside dans :

Efficacité et cohérence : L'automatisation de l'évaluation améliore l'efficacité du processus de diagnostic et favorise la cohérence entre les différents utilisateurs et études.
Évolutivité : L'approche surmonte les contraintes de main-d'œuvre du protocole de la ligne, rendant l'inférence visuelle réalisable pour des applications à grande échelle.
Accessibilité : L'interface web élimine les barrières techniques (installation, dépendances), permettant à un public plus large, y compris ceux sans expérience en programmation, d'utiliser des outils de diagnostic avancés.
Fondation pour des travaux futurs : Le cadre modulaire établit une base pour étendre l'évaluation automatisée à d'autres graphiques de diagnostic et modèles statistiques, ce qui pourrait révolutionner la manière dont les représentations visuelles sont utilisées dans l'inférence statistique.

Le document conclut que ces outils permettent aux chercheurs de se concentrer davantage sur l'interprétation des résultats et l'affinement des modèles plutôt que sur les complexités de l'évaluation manuelle des graphiques, tout en maintenant la rigueur de l'inférence visuelle.