Surrogate-assisted optimal sampling for risk prediction under measurement constraints

Résumé technique : Échantillonnage optimal assisté par des substituts pour la prédiction de risques sous contraintes de mesure

Contexte du problème
Dans de nombreux scénarios de prédiction de risques, tels que l'analyse des dossiers de santé électroniques (DSE), des covariables et un substitut de la réponse (par exemple, des codes de diagnostic) sont disponibles pour une large population cible, mais la réponse réelle est coûteuse à établir et n'est observée que pour un sous-ensemble limité. Cela crée un problème de conception : comment allouer un budget de mesure fixe pour sélectionner quelles observations doivent voir leurs réponses réelles mesurées afin de construire un modèle de prédiction optimal.

Les méthodes d'échantillonnage existantes font souvent face à des limitations dans ce contexte. L'échantillonnage aléatoire simple (SRS) ne parvient pas à exploiter l'hétérogénéité de l'informativité. Les méthodes optimisant l'estimation de paramètres (par exemple, Wang et al., 2018) nécessitent des réponses observées pour concevoir les probabilités d'échantillonnage, lesquelles sont indisponibles pour le groupe non étiqueté. D'autres approches (par exemple, Shen & Ning, 2025 ; Lee et al., 2023) se concentrent sur la minimisation de l'erreur quadratique moyenne (MSE) des paramètres ou des prédictions, ce qui peut ne pas s'aligner directement sur la performance de la prédiction de risque binaire. De plus, de nombreuses méthodes existantes supposent que les substituts identifient parfaitement les cas positifs, une condition qui peut ne pas être vérifiée en pratique.

Méthodologie
Les auteurs proposent un cadre d'échantillonnage optimal assisté par des substituts conçu spécifiquement pour la prédiction de risques binaires sous contraintes de mesure.

1. Configuration :

   • Soit $y_i \in \{0, 1\}$ la réponse réelle et $s_i$ un indicateur de substitut où $s_i=1 \implies y_i=1$.
   • Les observations avec $s_i=1$ sont des cas positifs confirmés avec des réponses connues.
   • Les observations avec $s_i=0$ ne sont pas étiquetées (contenant à la fois des vrais positifs et des négatifs). L'objectif est de sélectionner un sous-ensemble de ces observations $s_i=0$ pour la mesure de la réponse.
   • Un budget de mesure $C$ limite le nombre total d'observations échantillonnées à partir du groupe $s_i=0$.

2. Estimation :

   • Un modèle de prédiction $p(x, \beta)$ estime $P(Y=1|x)$.
   • Le paramètre du modèle $\beta$ est estimé en minimisant une perte d'entropie croisée pondérée par l'inverse de la probabilité (IPW) :
     $$L_N(\beta) = -\sum_{i=1}^N \frac{\delta_i}{\pi_T(x_i)} [y_i \log p(x_i, \beta) + (1-y_i) \log(1-p(x_i, \beta))]$$
     où $\delta_i$ est l'indicateur d'échantillonnage et $\pi_T(x_i)$ est la probabilité totale d'échantillonnage.

3. Conception d'échantillonnage optimal :

   • Les auteurs dérivent le terme de premier ordre de l'espérance de la perte d'entropie croisée hors échantillon, qui dépend de la probabilité d'échantillonnage $\pi(z)$ pour le groupe $s_i=0$.
   • La probabilité d'échantillonnage optimale est dérivée en minimisant le pendant empirique de ce terme de premier ordre sous la contrainte de budget.
   • La solution prend la forme :
     $$\hat{\pi}_i \propto \sqrt{a_i(\hat{\beta})}$$
     où $a_i(\hat{\beta})$ représente la contribution de la $i$-ème observation à la variance asymptotique de la perte d'entropie croisée, et $\hat{\beta}$ est un estimateur préliminaire.
   • Procédure en deux étapes : Puisque $\hat{\beta}$ est initialement inconnu, les auteurs proposent un algorithme en deux étapes :
     1. Obtenir un estimateur préliminaire $\tilde{\beta}$ à l'aide d'un échantillon pilote ou d'un échantillonnage aléatoire simple.
     2. Calculer les probabilités d'échantillonnage optimales $\hat{\pi}$ basées sur $\tilde{\beta}$ et ré-échantillonner/mesurer les réponses pour ajuster le modèle final.

4. Propriétés théoriques :

   • Sous des conditions de régularité (espace de paramètres compact, lissité, inversibilité de la Hessienne), l'estimateur proposé $\hat{\beta}_{\pi}$ est montré comme étant convergent et asymptotiquement normal.
   • Théorème 3 établit que la conception proposée minimise le terme d'ordre principal de l'espérance de la perte d'entropie croisée hors échantillon parmi toutes les stratégies d'échantillonnage admissibles avec le même budget.

Principales contributions

1. Applicabilité générale : La méthode s'applique à une classe générale de modèles de prédiction de risques paramétriques lisses, sans être restreinte à la régression logistique ou à des Modèles Linéaires Généralisés (GLM) spécifiques.
2. Faisabilité sous contraintes : La conception ne nécessite pas les réponses réelles des observations cibles non étiquetées lors de la phase de conception, s'appuyant uniquement sur les covariables, le substitut et un estimateur préliminaire.
3. Critère orienté vers la prédiction : Contrairement aux méthodes existantes qui minimisent la MSE des paramètres ou de la prédiction, ce cadre optimise directement la perte d'entropie croisée attendue, alignant la stratégie d'échantillonnage sur l'objectif de la prédiction de risque binaire.

Résultats
Le papier valide la méthode par des simulations approfondies et deux applications sur des données réelles :

• Simulations :

  • Substituts corrects : Lorsque les substituts identifient correctement les cas positifs ($P(Y=1|S=1)=1$), la méthode d'Entropie Croisée (CE) proposée atteint la perte d'entropie croisée la plus faible et une MSE, une sensibilité et une spécificité compétitives par rapport à l'échantillonnage optimal basé sur la MSE (Lee et al., 2023), l'OSCA et le SRS.
  • Substituts mal spécifiés : Lorsque l'hypothèse $P(Y=1|S=1)=1$ est violée (c'est-à-dire que des faux positifs existent dans le groupe de substitution), la méthode CE démontre une robustesse supérieure. Elle maintient une perte d'entropie croisée plus faible et une meilleure stabilité de classification par rapport aux concurrents, dont les performances se dégradent considérablement sous la contamination par des faux positifs.
  • Résultats rares : Dans un scénario de faible prévalence ($\approx 5\%$) et sans information de substitut, la méthode CE surpasse le SRS et l'OSCA (qui se réduit au SRS dans ce cas) et évite la dégénérescence numérique observée avec la méthode basée sur la MSE.

• Applications sur données réelles :

  • Prédiction de la dépression (MIMIC-III) : En utilisant les dossiers d'admission en soins intensifs, la méthode CE a systématiquement obtenu une perte d'entropie croisée plus faible et un AUC plus élevé que les méthodes concurrentes pour divers budgets d'échantillonnage ($C=100$ à $400$).
  • Prédiction de l'AVC (Kaggle) : Dans un contexte de faible prévalence sans indicateurs de substitution, la méthode CE a fourni les prédictions les plus stables et l'AUC le plus élevé parmi les méthodes de sous-échantillonnage, se rapprochant étroitement de la performance de référence des données complètes.

Signification et affirmations
Le papier affirme que le cadre proposé offre une solution théoriquement fondée et pratiquement efficace pour la prédiction de risques sous contraintes de ressources. En ciblant directement la perte d'entropie croisée, la méthode garantit que la conception d'échantillonnage donne la priorité aux observations les plus informatives pour la précision prédictive plutôt qu'à l'estimation des paramètres. Les auteurs soulignent la robustesse de la méthode à la mauvaise spécification des substituts et sa capacité à fonctionner efficacement même dans des contextes de résultats rares où les stratégies d'échantillonnage optimales traditionnelles pourraient échouer. Ce travail comble le fossé entre la conception expérimentale sous contrainte de mesure et la performance de classification binaire, fournissant une stratégie viable pour les scénarios où l'étiquetage est coûteux et les substituts imparfaits.