Inference on the Significance of Modalities in Multimodal Generalized Linear Models

Résumé Technique : Inférence sur la Signification des Modalités dans les Modèles Linéaires Généralisés Multimodaux

Énoncé du Problème
Les données multimodales, qui intègrent des informations provenant de multiples sources (par exemple, l'IRM, la TEP, la CT ou l'omique multiple), sont de plus en plus prévalentes dans des domaines tels que la recherche biomédicale et l'intelligence artificielle. Bien que les modèles multimodaux fusionnés surpassent souvent les modèles unimodaux en termes de prédiction, il existe une lacune critique dans l'inférence statistique rigoureuse : il n'existe pas d'outils établis pour quantifier la signification d'une seule modalité au sein d'un modèle multimodal de haute dimension. Les méthodes d'inférence en haute dimension existantes (par exemple, le LASSO débiaisé, les tests de score décorrélés) sont conçues pour tester les coefficients de covariables individuelles ou leurs combinaisons linéaires. Elles ne peuvent pas évaluer directement la contribution d'une modalité entière car la contribution d'une modalité dépend non seulement de la magnitude de ses coefficients, mais aussi de paramètres de population complexes, tels que les corrélations entre les modalités. De plus, les métriques classiques de qualité d'ajustement (par exemple, $R^2$, pseudo-$R^2$) quantifient la contribution de toutes les variables collectivement, et non des modalités individuelles.

Méthodologie
Les auteurs proposent un cadre pour les Modèles Linéaires Généralisés Multimodaux (MGLM) où la réponse $y$ dépend d'un vecteur concaténé de variables $x = (x_1^T, \dots, x_M^T)^T$ issues de $M$ modalités.

1. Définition de la Métrique (Entropie Relative Attendue - ERE) :
   Les auteurs introduisent une métrique, $H_m$, pour quantifier le gain d'information de la $m$-ième modalité étant donné toutes les autres. Elle est définie comme deux fois la divergence de Kullback-Leibler (KL) attendue entre le modèle complet (utilisant toutes les modalités) et un modèle "oracle" réduit (utilisant toutes les modalités sauf la $m$-ième) :
   $$H_m = 2E_x [D_{KL}(p(y|x) \parallel p(y|x_{-m}))]$$
   où $x_{-m}$ représente le sous-vecteur de prédicteurs excluant la $m$-ième modalité. L'article démontre que $H_m$ est non négative et monotone. Pour des cas spécifiques (par exemple, la régression linéaire), $H_m$ possède une expression en forme fermée impliquant les coefficients et les structures de covariance. Pour les fonctions de lien non linéaires (logistique, Poisson), elle est définie via l'espérance du rapport de vraisemblance. Les auteurs montrent que les métriques conventionnelles de qualité d'ajustement sont des cas particuliers de cette ERE lorsque toutes les covariables sont traitées comme une seule modalité.

2. Procédure d'Estimation :
   Pour estimer $H_m$ dans des contextes de haute dimension ($p \gg n$), les auteurs proposent un estimateur à deux étapes basé sur la déviance :

   • Étape 1 (Écrémage) : Une procédure de Sure Independence Screening (SIS) est appliquée pour réduire l'espace ultra-dimensionnel à une dimension modérée. Les variables sont classées par leurs contributions marginales de vraisemblance, et un seuil $\gamma_n$ est sélectionné (via la minimisation du BIC) pour garantir que l'ensemble écrémé contient le support réel avec une probabilité élevée.
   • Étape 2 (Pénalisation Partielle) : Une estimation de maximum de vraisemblance partiellement pénalisée est effectuée.
     • Pour le modèle complet, les variables dans l'ensemble écrémé se trouvant en dehors de la $m$-ième modalité sont pénalisées (en utilisant une pénalité repliée-concave comme SCAD), tandis que les variables au sein de la $m$-ième modalité ne sont pas pénalisées afin d'éviter tout biais.
     • Pour le modèle réduit, la même procédure est utilisée, mais les variables de la $m$-ième modalité sont contraintes d'avoir des coefficients nuls.
       L'estimateur $\hat{H}_m$ est calculé comme la différence normalisée de déviance entre le modèle complet et le modèle réduit.

3. Inférence Théorique :
   Les auteurs établissent les propriétés asymptotiques de $\hat{H}_m$ :

   • Consistance : $\hat{H}_m$ est consistante pour $H_m$ avec une borne d'erreur de $O_P(\max\{s n^{-1} \log n, n^{-1/2}\})$.
   • Distribution Asymptotique : Sous des conditions de régularité (incluant la sub-gaussianité des covariables et des taux spécifiques pour les paramètres de réglage), $n\hat{H}_m$ converge vers une distribution de chi-deux non centrée ($\chi^2_{e_{sm}, \Gamma_n}$), où $e_{sm}$ est la taille de l'ensemble écrémé pour la $m$-ième modalité et $\Gamma_n$ est un paramètre de non-centralité lié aux véritables coefficients.
   • Test de Signification : Ce résultat de distribution permet la construction d'intervalles de confiance pour $H_m$ et le calcul de p-valeurs pour tester l'hypothèse nulle $H_m = 0$. Crucialement, les auteurs prouvent que cette inférence ne nécessite pas la consistance de la sélection de variables (les estimateurs n'ont pas besoin d'identifier parfaitement les coefficients nuls ou non nuls), ce qui constitue un relâchement significatif par rapport aux méthodes d'inférence existantes en haute dimension.

Résultats Clés

• Études de Simulation : Les auteurs ont évalué la méthode sur des modèles de régression linéaire, logistique et probit avec $n=300$ et $p=600$. La méthode proposée "SIS+SCAD" a démontré des probabilités de couverture empiriques satisfaisantes (proches de la valeur nominale de 95 %) pour les intervalles de confiance de $H_m$, particulièrement lorsque le véritable gain d'information était substantiel. La méthode a surpassé une approche "SIS+refit" (qui manque de pénalisation partielle) en termes de spécificité et de couverture, surtout pour les tailles d'effet plus petites. Les résultats ont confirmé que la méthode maintient sa validité même lorsque la sélection de variables est imparfaite.
• Application sur Données Réelles : La méthode a été appliquée à un ensemble de données de neuroimagerie multimodale provenant de l'Alzheimer's Disease Neuroimaging Initiative (ADNI) impliquant 669 sujets avec des scanners Amyloïde-PET et FDG-PET. Les résultats étaient des scores de mémoire (MEM), des scores de fonction exécutive (EF) et une étiquette diagnostique (DX).
  • L'analyse a révélé que le FDG-PET fournissait nettement plus d'informations que l'Amyloïde-PET pour prédire la fonction exécutive et le statut diagnostique (p-valeurs plus faibles et estimations ERE plus élevées pour le FDG-PET).
  • Inversement, l'Amyloïde-PET présentait un gain d'information plus fort pour les scores de mémoire.
  • Ces conclusions concordent avec la compréhension clinique selon laquelle l'activité métabolique (FDG) est un biomarqueur robuste du déclin fonctionnel, tandis que la charge amyloïde est plus spécifique à la pathologie liée à la mémoire.

Signification et Revendications
L'article affirme fournir les premiers outils d'inférence statistique rigoureux pour évaluer la signification de modalités individuelles dans les modèles linéaires généralisés multimodaux de haute dimension. En définissant l'Entropie Relative Attendue (ERE) et en dérivant sa distribution asymptotique, les auteurs permettent aux chercheurs de :

1. Quantifier le gain d'information spécifique d'une modalité au-delà de ce qui est fourni par les autres.
2. Construire des intervalles de confiance et des p-valeurs pour ce gain sans dépendre de la condition difficile à atteindre d'une sélection de variables parfaite.
3. Étendre le concept de qualité d'ajustement du niveau de la variable au niveau de la modalité, comblant ainsi le fossé entre les métriques classiques et l'analyse multimodale moderne en haute dimension.

Les auteurs notent que bien que le présent travail se concentre sur les GLM, la métrique basée sur l'entropie pourrait potentiellement être étendue à d'autres modèles (par exemple, le modèle à risques proportionnels de Cox), bien que ces extensions soient laissées à la recherche future.