📊 statistics

General Frameworks for Conditional Two-Sample Testing

Cet article aborde la difficulté inhérente aux tests d'échantillons deux conditionnels en établissant une limitation fondamentale et en proposant deux cadres généraux — l'un qui convertit les tests d'indépendance conditionnelle et l'autre qui exploite l'estimation du rapport de densité — afin de permettre des comparaisons valides et puissantes de distributions tout en contrôlant les facteurs de confusion.

Auteurs originaux : Seongchan Lee, Suman Cha, Ilmun Kim

Publié 2026-05-05

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Seongchan Lee, Suman Cha, Ilmun Kim

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous êtes un détective essayant de déterminer si deux groupes de personnes sont fondamentalement différents. Mais il y a un piège : ces deux groupes ont des origines différentes. Peut-être que le Groupe A provient majoritairement d'une ville pluvieuse, et le Groupe B d'une ville ensoleillée. Si vous comparez simplement leurs tailles moyennes, vous pourriez penser que le Groupe A est plus petit, mais ce n'est que parce qu'ils sont plus petits en moyenne dans la ville pluvieuse, et non parce qu'ils sont intrinsèquement des personnes différentes.

C'est le problème du Test de Deux Échantillons Conditionnel. Vous voulez savoir si les groupes sont différents après avoir pris en compte ces facteurs d'arrière-plan (les « variables de confusion »).

Cet article de Lee, Cha et Kim aborde une question très épineuse : Est-il même possible de résoudre ce travail d'enquête sans faire des hypothèses supplémentaires ?

Voici une analyse de leurs découvertes, utilisant des analogies simples :

1. Le « Puzzle Impossible » (Le Résultat de Difficulté)

Les auteurs prouvent d'abord un fait quelque peu déprimant : Sans faire d'hypothèses supplémentaires, ce puzzle est insoluble.

Imaginez que vous essayez de comparer deux bocaux de billes mélangées. Vous savez que la couleur des billes dans le Bocal A dépend de l'heure à laquelle elles ont été prélevées, et il en va de même pour le Bocal B. Si le « moment de la journée » (la variable de confusion) est une variable continue (comme une horloge pouvant afficher n'importe quelle seconde), les auteurs montrent que aucun test ne peut vous dire de manière fiable si les bocaux sont différents.

C'est comme essayer d'entendre un chuchotement dans un ouragan. Si vous ne supposez pas que le vent (la variable de confusion) se comporte d'une manière spécifique et régulière, le bruit étouffe le signal. Vous ne pouvez pas prouver que les bocaux sont différents simplement en regardant les données ; vous devez supposer que le « vent » n'est pas trop chaotique.

2. Les Deux Nouveaux Outils (Les Cadres)

Puisque le puzzle est impossible sans aide, les auteurs ont construit deux « trousses d'outils » qui fonctionnent si vous êtes prêt à faire ces hypothèses raisonnables.

Trousse A : Le « Traducteur Magique » (Indépendance Conditionnelle)

Cette trousse prend un outil conçu pour un travail différent (vérifier si deux choses sont sans rapport) et le traduit pour qu'il fonctionne avec votre problème spécifique.

L'Analogie : Imaginez que vous avez une clé maître qui ouvre les portes de l'« Indépendance ». Vous voulez ouvrir une porte « Deux Groupes », mais la serrure est légèrement différente car les groupes ont des tailles fixes (vous ne pouvez pas simplement prendre des personnes au hasard ; vous avez exactement 50 personnes du Groupe A et 50 du Groupe B).
Comment ça marche : Les auteurs ont créé un « traducteur » (Algorithme 1). Il prend vos groupes fixes, les mélange, et crée un ensemble de données temporaire et « fictif » qui ressemble à un mélange aléatoire. Il utilise ensuite la clé maître (le test d'indépendance) sur ces données factices.
Le Piège : Pour que le mélange fonctionne, le traducteur doit jeter quelques billes (points de données) pour s'assurer que les mathématiques fonctionnent. Mais tant que vous avez suffisamment de billes, cette perte est minime et le test reste précis.

Trousse B : La « Balance Pondérée » (Estimation du Rapport de Densité)

Cette trousse change complètement le problème. Au lieu d'essayer de comparer les groupes directement, elle tente de déterminer comment « ré-pondérer » un groupe pour qu'il ressemble à l'autre.

L'Analogie : Imaginez que le Groupe A est rempli de rochers lourds et le Groupe B de plumes légères. Vous voulez les comparer, mais la différence de poids (la variable de confusion) fausse la balance.
Comment ça marche : Les auteurs suggèrent de calculer un « facteur de pondération » (rapport de densité) pour chaque élément du Groupe B. Si un élément du Groupe B est rare dans le Groupe A, vous lui attribuez un poids élevé. S'il est commun, vous lui attribuez un poids faible. Une fois ces poids appliqués, vous pouvez utiliser des tests standards et simples pour comparer les deux groupes.
Le Piège : Cela ne fonctionne que si vous pouvez calculer ces poids avec précision. Si les poids sont sauvages (certains sont minuscules, d'autres énormes), la balance bascule et se brise. L'article montre que si vous utilisez de bonnes méthodes pour estimer ces poids (comme des classificateurs d'apprentissage automatique), le test fonctionne parfaitement.

3. Les Expériences (La Preuve)

Les auteurs ont testé ces outils sur des données factices (simulations) et des données réelles (comme les prix des diamants et les propriétés des supraconducteurs).

Les Résultats :
- La Trousse A (Le Traducteur) fonctionne bien, mais elle est sensible à la façon dont vous mélangez les données. Si vous ne mélangez pas soigneusement, vous pourriez obtenir de fausses alertes.
- La Trousse B (La Balance Pondérée) est très puissante si les données ne sont pas trop désordonnées. Cependant, dans les données de haute dimension (données avec de nombreuses caractéristiques, comme l'ensemble de données sur les supraconducteurs), l'estimation des poids devient difficile. Si vous utilisez une méthode simple pour estimer les poids, le test échoue. Si vous utilisez une méthode plus complexe et « intelligente », cela fonctionne parfaitement.
- Le Compromis : Certaines méthodes sont rapides mais peuvent manquer des différences subtiles. D'autres sont très puissantes mais prennent beaucoup de temps à calculer (comme attendre 300 secondes pour un résultat).

Résumé

L'article dit : « Comparer deux groupes tout en contrôlant les facteurs d'arrière-plan est incroyablement difficile — si difficile que c'est impossible sans faire certaines hypothèses. »

Cependant, ils proposent deux solutions pratiques pour le résoudre :

Le Traducteur : Transformez votre problème en un problème de « hasard » et utilisez des outils existants, même si vous devez écarter un tout petit peu de données.
La Balance Pondérée : Ajustez l'importance de vos points de données pour égaliser les chances, à condition que vous puissiez calculer ces ajustements avec précision.

Ils prouvent qu'avec ces outils, nous pouvons enfin effectuer ce travail d'enquête de manière fiable, à condition de choisir le bon outil pour le désordre spécifique de nos données.

Résumé technique : Cadres généraux pour les tests à deux échantillons conditionnels

Configuration du problème
Cet article aborde le problème du test à deux échantillons conditionnel, qui vise à déterminer si deux populations partagent la même distribution conditionnelle d'une variable de réponse $Y$ étant donné une covariable $X$ , après prise en compte de facteurs de confusion potentiels. Formellement, étant donné deux échantillons indépendants $\{(X^{(1)}_i, Y^{(1)}_i)\}_{i=1}^{n_1} \sim P^{(1)}_{XY}$ et $\{(X^{(2)}_i, Y^{(2)}_i)\}_{i=1}^{n_2} \sim P^{(2)}_{XY}$ , l'objectif est de tester l'hypothèse nulle :
$H_0: P^{(1)}_{Y|X}(\cdot | X) = P^{(2)}_{Y|X}(\cdot | X) \quad \text{presque sûrement}$
contre l'hypothèse alternative selon laquelle elles diffèrent avec une probabilité positive. Ce problème se pose dans des applications critiques telles que l'adaptation de domaine (validation des hypothèses de décalage de covariables) et l'équité algorithmique (détection de biais conditionnelle aux attributs démographiques).

Résultat de difficulté
Les auteurs établissent d'abord un résultat de difficulté fondamental pour ce problème. Ils démontrent que, sans hypothèses supplémentaires, aucun test valide à deux échantillons conditionnel ne peut posséder une puissance non triviale contre une alternative unique lorsque la variable de conditionnement $X$ est continue. Cette découverte fait écho au résultat négatif pour le test d'indépendance conditionnelle établi par Shah et Peters (2020). Une distinction technique clé dans leur preuve est que, contrairement aux cadres d'indépendance conditionnelle standards où les indicateurs de groupe sont aléatoires, les tailles d'échantillon $n_1$ et $n_2$ dans le problème à deux échantillons sont déterministes. Les auteurs comblent cette lacune en utilisant des arguments de concentration pour montrer que le problème reste intrinsèquement difficile, nécessitant des hypothèses structurelles (par exemple, régularité ou bornitude des rapports de densité) pour rendre le problème faisable.

Cadres méthodologiques
Pour surmonter ces difficultés, l'article introduit deux cadres généraux qui intègrent implicitement ou explicitement des hypothèses raisonnables pour permettre un test valide.

1. Cadre via le test d'indépendance conditionnelle (CIT)
Le premier cadre exploite l'équivalence entre le test à deux échantillons conditionnel et le test d'indépendance conditionnelle. En introduisant un indicateur de groupe binaire $Z$ , le problème $P^{(1)}_{Y|X} = P^{(2)}_{Y|X}$ est équivalent au test $Y \perp\!\!\!\perp Z \mid X$ .

Algorithme 1 : Les auteurs proposent une méthode de conversion générique « boîte noire » qui transforme n'importe quel test d'indépendance conditionnel existant en un test à deux échantillons conditionnel. L'algorithme construit un ensemble de données de triplets i.i.d. $(X, Y, Z)$ par sous-échantillonnage à partir des groupes fixes d'origine basés sur une distribution binomiale. Si les tailles sous-échantillonnées dépassent les tailles de groupe originales, l'hypothèse nulle est acceptée ; sinon, un test d'indépendance conditionnel standard est appliqué aux données permutées.
Garanties théoriques : Le théorème 2 prouve que cette conversion préserve la validité asymptotique (contrôle de l'erreur de type I) et la cohérence (puissance) du test d'indépendance conditionnel sous-jacent, à condition que la statistique de test soit « stable par couplage » ou que la perte due au sous-échantillonnage soit asymptotiquement négligeable.

2. Cadre via l'estimation du rapport de densité (DRT)
Le deuxième cadre transforme la comparaison conditionnelle en une comparaison marginale en utilisant l'estimation du rapport de densité.

Principe : L'hypothèse nulle est vraie si et seulement si la densité conjointe $f^{(1)}_{XY}$ est égale à une version repondérée de $f^{(2)}_{XY}$ , spécifiquement $f^{(1)}_{XY}(x,y) = r_X(x) f^{(2)}_{XY}(x,y)$ , où $r_X(x) = f^{(1)}_X(x)/f^{(2)}_X(x)$ est le rapport de densité marginale.
Mise en œuvre : Le problème est reformulé comme un test à deux échantillons marginal entre $f^{(1)}_{XY}$ $f_{X Y}^{(1)}$ et la version repondérée de $f^{(2)}_{XY}$ $f_{X Y}^{(2)}$ . Les auteurs démontrent cela via deux approches concrètes :
- Approche basée sur un classifieur : Entraînement d'un classifieur pour distinguer les deux groupes, où la fonction de perte pour le deuxième groupe est pondérée par le rapport de densité estimé $r_X$ .
- Approche basée sur les noyaux (MMD) : Utilisation de la divergence maximale de moyenne (MMD) avec pondération par importance. Les auteurs proposent une statistique MMD unifiée par blocs régie par un paramètre $\gamma \in [0, 1]$ $γ \in [0, 1]$ .
  - Régime I ( $0 \le \gamma < 1$ ) : Utilise des statistiques U par blocs pour atteindre la normalité asymptotique.
  - Régime II ( $\gamma = 1$ ) : Retrouve le MMD standard de complexité quadratique, calibré via un bootstrap multiplicateur pour gérer la distribution limite non gaussienne.
Division des échantillons : Pour éviter le biais d'insertion, les auteurs utilisent la division des échantillons (ou le couplage croisé) pour séparer l'estimation de $r_X$ de l'évaluation de la statistique de test.

Contributions clés

Caractérisation de la difficulté : Preuve rigoureuse que le test à deux échantillons conditionnel est aussi difficile que le test d'indépendance conditionnelle sous conditionnement continu, soulignant la nécessité d'hypothèses.
Algorithme de conversion générique : Un algorithme novateur (Algorithme 1) permettant aux praticiens d'appliquer n'importe quel test d'indépendance conditionnel existant au contexte à deux échantillons tout en maintenant des garanties théoriques.
Cadre du rapport de densité : Un cadre flexible convertissant le test conditionnel en test marginal via les rapports de densité, mis en œuvre avec des méthodes basées sur des classifieurs et des noyaux.
Théorie MMD unifiée : Développement théorique d'un cadre MMD unifié couvrant les régimes de complexité linéaire (par blocs) et quadratique, incluant la calibration par bootstrap pour ce dernier.

Résultats et constatations empiriques
L'article évalue les méthodes proposées sur des données synthétiques (couvrant des modèles linéaires, à haute variance et post-non linéaires) et des ensembles de données réels (Diamonds et Superconductivity).

Données synthétiques :
- Les méthodes DRT (reposant sur les rapports de densité) montrent une puissance supérieure lorsque le rapport de densité marginale est borné et facilement estimable.
- Les méthodes CIT (via l'Algorithme 1) et les méthodes à noyaux conditionnels (CMMD, CGED) sont plus robustes aux rapports de densité non bornés mais peuvent souffrir dans des scénarios spécifiques à haute variance.
- Aucune méthode ne domine uniformément ; les performances dépendent fortement du mécanisme de génération de données et de la difficulté d'estimer le rapport de densité.
Données réelles :
- Dans des contextes de haute dimension (ensemble de données Superconductivity), le choix de l'estimateur de rapport de densité est critique. La régression logistique linéaire (LLR) a échoué à contrôler l'erreur de type I, tandis que la régression logistique à noyau (KLR) a restauré la validité, bien qu'à un coût computationnel plus élevé.
- Les méthodes à noyaux conditionnels (CMMD, CGED) ont atteint une puissance compétitive mais ont entraîné des coûts computationnels significativement plus élevés (plusieurs ordres de grandeur plus lents que les autres méthodes).

Importance et affirmations
L'article prétend fournir une fondation systématique pour le test à deux échantillons conditionnel, un problème auparavant peu exploré en statistiques non paramétriques. En établissant la difficulté inhérente et en offrant deux cadres distincts et théoriquement fondés, ce travail élargit la boîte à outils disponible pour les praticiens.

Le cadre CIT offre une voie pratique pour exploiter la littérature extensive sur le test d'indépendance conditionnelle pour les problèmes à deux échantillons.
Le cadre DRT relie le test conditionnel au domaine bien étudié de la pondération par importance et du test marginal, offrant une flexibilité dans le choix de la méthode (classification vs noyaux).
Les auteurs soulignent que la validité de ces méthodes repose sur des hypothèses spécifiques (par exemple, bornitude ou estimabilité des rapports de densité), et ils fournissent des conseils empiriques sur les compromis entre coût computationnel, puissance et contrôle de l'erreur de type I à travers différents régimes de données.

L'ouvrage conclut en identifiant des orientations futures, telles que l'extension des cadres au test à $K$ échantillons conditionnel ( $K \ge 2$ ) et l'exploration d'approches basées sur le rééchantillonnage comme le rééchantillonnage par importance (SIR).