Résumé Technique : Une Plateforme Unifiée pour les Modèles de Facteurs Bayésiens

Énoncé du Problème

Les modèles de facteurs bayésiens (BFM) sont des outils établis pour décomposer la variabilité observée en facteurs latents de moyenne nulle et indépendants. Bien que le modèle linéaire gaussien fondamental ait été largement utilisé depuis Spearman (1904), les applications modernes dans la génomique, la psychologie et la finance impliquent des ensembles de données complexes et de grande dimension qui exigent des méthodes d'inférence et de calcul adaptables.

Malgré l'existence de nombreux priors de contraction (shrinkage) bayésiens modernes conçus pour gérer les données de haute dimension et estimer le nombre de facteurs, le domaine souffre d'un manque d'implémentation harmonisée. Les outils existants sont souvent dispersés dans différents packages logiciels, utilisent des interfaces incohérentes, varient en efficacité computationnelle ou sont indisponibles pour certaines méthodes spécifiques. Les outils à usage général comme Stan, bien que flexibles, manquent souvent de l'efficacité de calcul des échantillonneurs de Gibbs dédiés aux modèles de facteurs. Il existe un besoin pour une plateforme unifiée et reproductible permettant la comparaison directe de ces méthodes sous un cadre cohérent.

Méthodologie

Le papier se concentre sur le modèle de facteur linéaire gaussien de base, où les données observées $X_i$ sont modélisées par $X_i = \Lambda b_i + \epsilon_i$. Ici, $\Lambda$ représente la matrice de chargement $P \times K$, $b_i$ sont les scores factoriels latents, et $\epsilon_i$ sont des erreurs indépendantes avec une covariance diagonale. Les auteurs implémentent six approches bayésiennes modernes distinctes, partageant toutes la même vraisemblance mais différant par leurs spécifications de priors pour la matrice de chargement $\Lambda$ (ou, dans un cas, pour les scores factoriels).

Les six méthodes implémentées sont :

1. Multiplicative Gamma Process Shrinkage (MGPS) : Utilise une structure multiplicative sur la contraction par colonne pour éliminer agressivement les facteurs inutiles dans les modèles en surapprentissage.
2. Spike-and-Slab LASSO (SSL) : Emploie un mélange discret de deux distributions de Laplace (spike et slab) pour séparer les chargements nuls et non nuls, en utilisant un mélange de normales de l'échelle pour la conjugaison.
3. Dirichlet–Laplace (DL) : Combine une structure d'échelle globale-locale avec une allocation de Dirichlet pour partitionner la contraction à travers les facteurs, offrant des queues plus épaisses que les priors gaussiens.
4. Horseshoe (HS) : Utilise une contraction globale-locale avec des distributions de Cauchy demi-normale pour contracter agressivement les chargements proches de zéro tout en préservant les signaux importants.
5. Bayesian Group Factor Analysis with Structured Sparsity (BASS) : Introduit une structure hiérarchique avec des indicateurs binaires pour basculer entre des régimes de contraction parcimonieuse (sparse) et dense pour chaque facteur.
6. Mass-Nonlocal Score (MNL) : Modifie de manière unique la distribution des scores factoriels $b_i$ (en utilisant un mélange spike-and-product-moment) plutôt que les chargements, conçu pour les contextes où de nombreux sujets ont des scores réellement nuls.

Implémentation Computationnelle :
Les auteurs ont développé le package R factorverse, qui fournit une interface unique et cohérente pour les six méthodes. Le moteur de calcul central est écrit en C++ en utilisant la bibliothèque RcppArmadillo pour garantir l'efficacité. L'implémentation repose sur l'échantillonnage de Gibbs, exploitant le fait que les conditionnelles complètes pour les chargements et les scores sont souvent gaussiennes ou facilement échantillonnables via l'augmentation de données (par exemple, les mélanges de normales de l'échelle). Le papier détaille les distributions conditionnelles complètes spécifiques et la logique C++ pour la mise à jour des paramètres, soulignant que les mises à jour des chargements sont le principal différenciateur entre les méthodes, tandis que les mises à jour des scores et des résidus restent souvent partagées.

Principales Contributions

1. Plateforme Logicielle Unifiée (factorverse) : La contribution principale est le package R factorverse, qui implémente les six méthodes derrière une interface harmonisée unique. Cela permet aux utilisateurs de basculer entre les priors en changeant un seul argument, facilitant la comparaison directe sans ré-ingénierie des pipelines d'analyse.
2. Code Harmonisé et Reproductible : Les auteurs fournissent un socle de calcul commun, garantissant que les différences de résultats proviennent des modèles statistiques et non d'artefacts d'implémentation. Le code est open-source et conçu pour la reproductibilité.
3. Étude de Simulation Complète : Le papier présente une étude de simulation rigoureuse à travers quatre scénarios variant en dimensionnalité ($K, P$), force de signal et structure de bruit. Ces scénarios vont de contextes de faible dimension ($K=1, P=5$) à des régimes de haute dimension où $P=N=200$.
4. Implémentation de Méthodes Nouvelles/Dispersées : Le package inclut des implémentations pour des méthodes qui manquaient auparavant de logiciels accessibles pour les modèles de facteurs ou qui étaient difficiles à installer, consolidant ainsi l'ensemble des outils du domaine.

Résultats

L'étude de simulation a évalué les méthodes selon trois métriques : la précision de l'estimation ponctuelle (Erreur Quadratique Moyenne de la matrice de covariance $\Omega$), la couverture inférentielle (intervalles de crédibilité à 95 %) et l'efficacité computationnelle (Taille d'Échantillon Effective par seconde).

• Précision : Dans les contextes de faible dimension, la plupart des méthodes ont performé de manière similaire. Cependant, à mesure que la dimensionnalité et la force du signal augmentaient, des différences distinctes sont apparues. Les priors Dirichlet–Laplace (DL) et BASS ont systématiquement présenté l'Erreur Quadratique Moyenne (MSE) la plus faible dans les scénarios de haute dimension ($K=5, P=50$ et $K=10, P=200$). Le prior SSL a mal performé en haute dimension, échouant à se concentrer sur la structure de bloc parcimonieuse.
• Inférence : DL et BASS ont fourni les intervalles de crédibilité les mieux calibrés, atteignant souvent une couverture proche de la valeur nominale avec les largeurs d'intervalle les plus courtes. SSL et Horseshoe (HS) ont eu tendance à sous-couvrir les entrées diagonales dans les scénarios à signal fort, tandis que MNL a systématiquement sous-performé en précision et en couverture, probablement parce que sa conception (scores parcimonieux) ne correspondait pas au processus de génération de données gaussien dense.
• Efficacité : Les méthodes MGPS, SSL, DL, HS et BASS ont montré des temps d'exécution comparables. Cependant, DL et BASS ont maintenu des Tailles d'Échantillon Effectives (ESS) par seconde significativement plus élevées dans les contextes de signal fort et de haute dimension, indiquant de meilleures propriétés de mélange par rapport aux autres priors dont l'ESS s'est effondré à mesure que le postérieur se concentrait. MNL était systématiquement le plus lent en raison de ses mises à jour de Metropolis-Hastings pour les scores.

Signification et Revendications

Les auteurs affirment explicitement qu'ils n'endosent pas une méthode unique pour une application spécifique. Au lieu de cela, la signification de ce papier réside dans la fourniture d'une « plateforme commune harmonisée et reproductible, auparavant indisponible ».

Ce travail sert de tutoriel pragmatique et complet pour la modélisation moderne des BFM. En supprimant les barrières des interfaces logicielles incohérentes et des implémentations dispersées, factorverse permet aux chercheurs et praticiens de :

• Ajuster différents modèles sur un pied d'égalité.
• Extraire des résumés postérieurs et comparer les résultats entre modèles efficacement.
• Reproduire et étendre les études de simulation présentées.

Le papier positionne factorverse comme une fondation pour de futures extensions, telles que les processus de contraction cumulative ou les modèles avec des dimensions de facteurs inconnues, plutôt que comme une solution définitive pour tous les problèmes d'analyse factorielle. L'accent est mis sur l'utilité de disposer d'une infrastructure unifiée, efficace sur le plan computationnel et reproductible pour faciliter la comparaison et l'application des modèles de facteurs bayésiens modernes.