🤖 machine learning

On design-unbiased algorithmic Machine Learning

Cet article propose un cadre fondé sur la conception pour obtenir des prédictions et des classifications sans biais dans les algorithmes d'apprentissage automatique en exploitant les probabilités d'échantillonnage connues plutôt qu'en supposant des modèles de données sous-jacents, répondant ainsi au besoin d'inférence non biaisée dans des contextes tels que les statistiques officielles.

Auteurs originaux : Li-Chun Zhang, Siu-Ming Tam, Luis Sanguiao-Sande, Wesley Yung, Anders Holmberg

Publié 2026-06-30

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Li-Chun Zhang, Siu-Ming Tam, Luis Sanguiao-Sande, Wesley Yung, Anders Holmberg

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous êtes un chef essayant de créer la recette parfaite pour un banquet massif de 10 000 invités (la population). Vous ne pouvez pas goûter chaque plat avant de servir, alors vous prenez une petite cuillère de dégustation dans la cuisine (l'échantillon) pour juger l'ensemble du repas.

Dans le monde de l'Apprentissage Automatique (Machine Learning - ML), les chefs essaient généralement de rendre leur cuillerée de dégustation aussi « précise » que possible en minimisant les erreurs. Ils ajustent leur recette jusqu'à ce que le goût sur la cuillère soit parfait. Cependant, les auteurs de cet article soutiennent qu'un goût parfait sur la cuillère ne garantit pas que tout le banquet sera réussi. Parfois, la cuillerée est juste chanceuse, ou la façon dont vous avez choisi la cuillerée était biaisée, menant à une cuillerée « délicieuse » mais à un banquet « salé ».

Cet article porte sur une nouvelle façon de cuisiner : le Machine Learning sans biais de conception (Design-Unbiased Machine Learning). Au lieu d'espérer simplement que la cuillerée représente toute la marmite, ils utilisent un ensemble strict de règles (une « conception ») pour garantir que ce que vous apprenez de la cuillère représente mathématiquement toute la marmite, même si vous ne connaissez pas la « vraie » recette de l'univers.

Voici la décomposition de leur méthode à l'aide d'analogies simples :

1. Le Problème : La « Cuillerée Chanceuse »

Les algorithmes de ML standards (comme les k-plus proches voisins ou les Forêts Aléatoires) sont comme des chefs qui goûtent un plat et disent : « C'est bon ! » en se basant sur les ingrédients qu'ils voient. Ils essaient de minimiser la différence entre leur supposition et le goût réel.

Le Problème : Si vous prenez votre cuillerée de dégustation sur le dessus de la marmite (là où se trouve la crème), votre supposition sur toute la marmite sera biaisée. Vous pourriez penser que toute la soupe est crémeuse, mais le fond est aqueux. En statistiques, c'est ce qu'on appelle le biais. Le ML standard essaie d'être « précis » (faible erreur), mais échoue souvent à être « sans biais » (honnête par rapport à toute la population).

2. La Solution : La Règle de la « Représentativité de l'Entraînement »

Les auteurs introduisent un concept appelé Entraînement Représentatif.

L'Analogie : Imaginez que vous avez un sac de billes (la population). Vous en tirez une poignée (l'échantillon). Pour faire une prédiction équitable sur le reste du sac, vous devez vous assurer que la poignée que vous avez utilisée pour entraîner votre cerveau (l'ensemble d'entraînement) est un reflet fidèle de la poignée que vous utilisez pour tester votre cerveau (l'ensemble de test).
La Règle : Si vous choisissez vos billes d'entraînement et vos billes de test en utilisant un système de loterie spécifique et équitable (appelé pq-design), alors la « supposition moyenne » que votre algorithme fait pour les billes de test sera exactement la même que la « supposition moyenne » qu'il ferait pour les billes que vous n'avez jamais vues.
Pourquoi c'est important : Cela vous permet d'utiliser les erreurs que vous voyez sur votre cuillère de test pour corriger votre prédiction pour toute la marmite.

3. La Correction : Le Réglage « Out-of-Bag » (Hors du Sac)

Une fois que vous avez cette configuration équitable, vous pouvez corriger le biais.

L'Analogie : Imaginez que votre chef (l'algorithme) goûte une cuillerée et dit : « Je pense que la soupe est trop salée. » Mais attendez, le chef a fait une erreur parce qu'il a goûté la cuillerée pendant qu'il cuisinait cette cuillerée spécifique.
L'Astuce : Les auteurs suggèrent d'utiliser une approche « Out-of-Bag » (OOB). C'est comme avoir un second chef qui goûte la soupe sans avoir aidé à cuisiner cette cuillerée spécifique.
- Vous divisez votre échantillon en deux groupes : Groupe A (Entraînement) et Groupe B (Test).
- Vous entraînez l'algorithme sur le Groupe A.
- Vous demandez à l'algorithme de prédire le Groupe B.
- Vous comparez la prédiction au goût réel du Groupe B.
- La Magie : Si l'algorithme surestime systématiquement le sel sur le Groupe B, vous savez qu'il surestimera probablement le sel pour toute la marmite. Vous soustrayez ensuite ce « montant de surestimation » de votre prédiction finale.
Le Résultat : Ce « réglage » garantit que votre prédiction finale pour toute la population est sans biais. Peu importe que l'algorithme soit complexe ou simple ; si les règles d'échantillonnage sont suivies, la mathématique garantit que le résultat est juste.

4. Classification vs Prédiction (Le Menu « Oui/Non »)

L'article examine également la classification (ex : « Est-ce un champ de café ou non ? » au lieu de « Quelle quantité de café y a-t-il ? »).

Le Défi : Si vous dites simplement « Oui » ou « Non » en fonction d'un seuil (ex : « Si probabilité > 50 %, c'est du café »), vous introduisez souvent un biais.
La Solution : Les auteurs suggèrent d'utiliser un classificateur randomisé. Au lieu d'un « Oui/Non » rigide, imaginez lancer une pièce de monnaie pondérée. Si l'algorithme dit qu'il y a 70 % de chances que ce soit du café, vous lancez une pièce qui tombe sur « Café » 70 % du temps.
Pourquoi : Ce caractère aléatoire lisse les erreurs. Lorsque vous faites la moyenne de ces lancers de pièces sur toute la population, le calcul s'avère être parfaitement sans biais, ce qui vous permet de compter avec précision combien de champs de café existent dans le pays.

5. Preuve dans le Monde Réel (Les Photos Satellites)

Pour prouver que cela fonctionne, les auteurs ont utilisé un véritable ensemble de données d'images satellites pour identifier les champs de café.

Ils ont pris un échantillon d'images, entraîné un algorithme k-plus proches voisins (kNN), puis appliqué leur réglage « Out-of-Bag ».
Le Résultat : L'algorithme standard (sans réglage) faisait des erreurs petites mais notables dans son décompte total. L'algorithme réglé, utilisant leurs nouvelles règles, a produit un décompte statistiquement indiscernable du total réel (sans biais).
Bonus : Ils ont également montré que vous pouvez mesurer la précision d'une classification « Oui/Non » sans avoir besoin de connaître la réponse réelle pour chaque image, simplement en utilisant la même logique « Out-of-Bag ».

Résumé

Considérez ce papier comme un nouveau ensemble de règles de sécurité en cuisine pour le Machine Learning.

Ne vous fiez pas seulement au goût : Le ML standard essaie de minimiser l'erreur, mais cela ne garantit pas l'équité.
Suivez la loterie : Utilisez des règles d'échantillonnage spécifiques (pq-design) pour garantir que vos données d'entraînement et de test sont des reflets fidèles de l'ensemble.
Goûtez les restes : Utilisez les erreurs « Out-of-Bag » (ce que l'algorithme a mal fait sur l'ensemble de test) pour corriger mathématiquement la prédiction finale pour toute la population.
La Garantie : Si vous suivez ces règles, votre chiffre final (qu'il s'agisse d'un décompte total ou d'un taux de classification) sera sans biais, ce qui signifie qu'il est une représentation fidèle de la réalité, quel que soit votre « recette » (algorithme) complexe.

Ceci est crucial pour les statistiques officielles gouvernementales, où être « proche » ne suffit pas ; vous avez besoin d'être mathématiquement honnête vis-à-vis de toute la population, et non seulement vis-à-vis de la partie que vous avez eu la chance de regarder.

Résumé Technique : Apprentissage Automatique Algorithmique Non-Biaisé par le Plan de Sondage

Énoncé du Problème

Les algorithmes d'apprentissage automatique (ML), tels que les k plus proches voisins (kNN) ou les Forêts Aléatoires, privilégient la performance prédictive (par exemple, la minimisation de l'erreur quadratique moyenne (MSE) ou du score F) plutôt que l'existence de modèles de données réels. Bien qu'efficaces pour la prédiction, la minimisation de ces métriques ne garantit pas intrinsèquement l'absence de biais dans l'estimation ou la classification. Ce manque d'impartialité est critique dans des applications comme les statistiques officielles, où les totaux de population et les proportions doivent être des descripteurs précis de populations finies.

L'échantillonnage classique par sondage repose sur des plans de probabilité (p-designs) et des estimateurs comme celui de Horvitz-Thompson pour garantir l'absence de biais lié au plan, indépendamment de tout modèle de données sous-jacent. Cependant, lorsque les algorithmes de ML sont intégrés dans ce cadre — souvent entraînés sur des sous-ensembles de l'échantillon (ensembles d'entraînement) pour prédire les résultats pour le reste (unités hors échantillon) — les pratiques standards de ML peuvent introduire un biais. La littérature existante repose souvent sur la cohérence asymptotique (lorsque la taille de la population $N \to \infty$ ), ce qui peut ne pas s'appliquer aux populations finies considérées comme des « entités réelles ». De plus, des travaux antérieurs sur le ML non biaisé par le plan (par exemple, Zhang et al., 2025) n'ont pas pleinement traité les conditions générales sous lesquelles les algorithmes de ML produisent des prédictions non biaisées par le plan ou comment évaluer la précision de la classification sans biais.

Méthodologie

Le document propose un cadre pour l'Apprentissage Automatique Algorithmique Non-Biaisé par le Plan basé sur un $pq$-plan. Ce plan se compose de :

$p$ -plan : Un plan d'échantillonnage probabiliste sélectionnant un échantillon $s$ à partir d'une population finie $U$ .
$q$ -plan : Un plan spécifique pour diviser l'échantillon $s$ en un ensemble d'entraînement $s_1$ et un ensemble de test $s_2$ (où $s_2 = s \setminus s_1$ ).

La contribution théorique centrale est le concept d'Entraînement Représentatif. Un $pq$-plan produit un entraînement représentatif si l'estimateur attendu $\mu(x, s_1)$ pour toute unité $i$ est identique, que $i$ soit dans l'ensemble de test $s_2$ (dans l'échantillon mais hors entraînement) ou dans l'ensemble hors échantillon $R = U \setminus s$ . Mathématiquement, cela exige :
$E_{pq}(\mu(x_i, s_1) \mid i \in s_2) = E_{pq}(\mu(x_i, s_1) \mid i \notin s)$

Les auteurs dérivent les conditions sous lesquelles cela est vérifié :

Condition Générale : La covariance entre le prédicteur et la probabilité d'inclusion conditionnelle de l'ensemble de test doit être nulle.
Condition Suffisante : La probabilité conditionnelle qu'une unité appartienne à l'ensemble de test étant donné l'ensemble d'entraînement, $\pi_{2i} = Pr(i \in s_2 \mid s_1)$ , doit satisfaire une relation spécifique avec la probabilité d'inclusion globale $\pi_i$ . Cela est satisfait par des plans tels que l'SRS-SRS (Échantillonnage Aléatoire Simple pour les deux étapes) et les plans de Poisson-Bernoulli.

Réglage pour l'Absence de Biais

Même avec un entraînement représentatif, les prédicteurs de ML standards peuvent être biaisés. Le document introduit un mécanisme de réglage pour atteindre une absence de biais exacte par le plan :

Rao-Blackwell par Sous-échantillonnage (SRB) : Le prédicteur est moyenné sur tous les possibles divisions entraînement/test pour réduire la variance.
Correction de Biais : Un terme de correction $\tau_\mu(s)$ est soustrait du prédicteur SRB. Ce terme est dérivé de la somme pondérée des erreurs de prédiction Out-of-Bag (OOB) intra-échantillon.
Estimation Non-Biaisée : Le document fournit des formules pour estimer le biais et l'erreur quadratique moyenne (MSE) de ces estimateurs ajustés en utilisant les erreurs OOB observées et les poids d'échantillonnage, sans supposer de modèle de données réel.

Classification

Le cadre s'étend à la classification binaire. Les auteurs soutiennent que les classificateurs déterministes (par exemple, le seuillage à 0,5) échouent généralement à être non biaisés par le plan. Au lieu de cela, ils proposent des classificateurs randomisés (où la décision de classification est probabiliste basée sur la probabilité prédite) qui satisfont une condition de régularité permettant une estimation non biaisée de la précision de la classification hors échantillon à l'aide des erreurs OOB.

Résultats Clés

Le document valide la théorie par des exemples analytiques, des simulations et une application sur des données réelles utilisant kNN ( $k=5$ ).

Exemple Analytique : Dans une population construite, les prédicteurs kNN et SRB-kNN standards présentaient un biais non nul. Cependant, le prédicteur OOB-ajusté SRB-kNN (utilisant la correction proposée) a atteint un biais exactement nul.
Étude de Simulation :
- L'application directe de kNN (sample-kNN) et du SRB-kNN non ajusté a entraîné un biais significatif (par exemple, $EBias \approx -0,795$ pour SRB-5NN dans un scénario donné).
- Le SRB-kNN ajusté par OOB a réussi à réduire le biais à des niveaux proches de zéro ( $EBias \approx -0,069$ ) tout en maintenant une MSE compétitive ou inférieure par rapport aux alternatives ajustées par les résidus.
- L'étude a démontré que la méthode proposée permet l'estimation non biaisée du biais et de la MSE des prédicteurs eux-mêmes.
Application au Monde Réel (Jeu de données CropHarvest) :
- Appliqué à la classification d'images satellites (champs de café vs non-café).
- Les résultats ont confirmé que le SRB-5NN ajusté par OOB est essentiellement non biaisé pour les moyennes de population à travers différents ensembles de caractéristiques.
- Impact de la Sélection de Caractéristiques : L'étude a souligné que la sélection de caractéristiques est critique. Des ensembles de caractéristiques médiocurs (par exemple, ceux sélectionnés via LASSO pour une régression logistique mais utilisés pour kNN) augmentaient à la fois le biais et la variance.
- Compromis de Précision de Classification : Bien que la correction du biais garantisse une estimation précise de la population, le processus de réglage peut occasionnellement pousser les probabilités prédites en dehors de l'intervalle $[0, 1]$ , nécessissant une troncature. Cela peut légèrement réduire la précision de la classification par rapport aux prédicteurs biaisés. Le document note qu'une sélection de caractéristiques judicieuse peut atténuer ce risque.

Signification et Revendications

Le document affirme fournir une base théorique rigoureuse pour l'utilisation du ML dans l'inférence de population finie où l'absence de biais par le plan est primordiale. Sa signification réside dans :

Généralisation de l'Échantillonnage Représentatif : Il étend le concept d'« entraînement représentatif » des contextes IID (comme la validation croisée) aux échantillonnages de populations finies avec probabilités inégales et sans remise.
Découplage des Modèles Réels : Il démontre que l'absence de biais peut être obtenue uniquement sur la base du plan de probabilité connu de l'échantillon et des ensembles d'entraînement, sans nécessiter que l'algorithme de ML approxime un « vrai » modèle de données.
Réglage Pratique : Il offre une recette concrète et implémentable (ajustement OOB) pour corriger le biais dans des algorithmes populaires comme kNN et les Forêts Aléatoires.
Inférence Unifiée : Il permet l'évaluation non biaisée des erreurs de prédiction ainsi que de la précision de la classification pour les unités hors échantillon, comblant ainsi une lacune dans la littérature précédente.

Les auteurs positionnent ce travail comme une extension des travaux fondateurs de Neyman (1934) sur l'échantillonnage de populations finies, fournissant une base intuitive pour une estimation de ML « cohérente » dans les statistiques officielles et d'autres applications de populations finies. Ils reconnaissent que, bien que l'estimation non biaisée de la population soit obtenue, cela peut se faire au prix d'une précision de classification au niveau de l'unité légèrement réduite, un compromis qui mérite des recherches supplémentaires.