Résumé technique : OgBench – Un cadre d'évaluation des réseaux de neurones à graphes sur des données omiques

Énoncé du problème

Les réseaux de neurones à graphes (GNN) se sont imposés comme le cadre dominant pour l'apprentissage inductif au niveau des graphes. Cependant, les benchmarks existants (par exemple OGB, TUDataset, LRGB) opèrent principalement dans le régime $n \gg p$, où le nombre de graphes ($n$) dépasse considérablement le nombre de nœuds par graphe ($p$). Cela contraste fortement avec le domaine biologique des omiques (génomique, transcriptomique, protéomique, épigénomique), qui opère dans le régime $n \ll p$. Dans le domaine des omiques, les jeux de données se caractérisent par des graphes massifs (des dizaines de milliers de gènes ou de protéines par échantillon) mais par une pénurie d'échantillons étiquetés (patients ou sujets) due aux coûts, à la vie privée et aux contraintes cliniques.

La recherche actuelle sur les GNN risque la stagnation car les benchmarks standards ne reflètent pas cette réalité de haute dimension et de faible nombre d'échantillons. En apprentissage statistique, le régime $n \ll p$ est sujet au surajustement et à l'instabilité. Bien que les GNN exploitent des a priori structurels qui pourraient théoriquement bénéficier à ce contexte, des études récentes suggèrent qu'ils échouent souvent à surpasser des baselines d'apprentissage automatique plus simples dans les tâches omiques. De plus, le domaine manque d'un pipeline standardisé ; les gains de performance sont souvent confondus par des prétraitements amont hétérogènes (par exemple, agrégation sonde-gène, normalisation, ajustement des covariables), rendant difficile l'isolement de savoir si les améliorations proviennent d'innovations architecturales ou d'artefacts de traitement des données.

Méthodologie : Le cadre OgBench

Pour combler ces lacunes, les auteurs introduisent OgBench, la première plateforme de benchmarking conçue explicitement pour la prédiction au niveau des graphes dans le régime omique $n \ll p$. OgBench fournit une infrastructure modulaire et de bout en bout qui découple le prétraitement des données, la construction du graphe et l'entraînement du modèle.

1. Jeux de données standardisés

Le cadre intègre quatre jeux de données nettoyés et prêts pour les modèles, couvrant trois modalités omiques :

• HERITAGE (Protéomique) : Classification binaire des répondeurs à l'exercice ($n=654$, $p=4977$ protéines).
• Parkinson (Transcriptomique) : Classification binaire du statut cognitif basée sur les scores MoCA ($n=535$, $p=21\,755$ gènes).
• AddNeuroMed (Transcriptomique) : Diagnostic clinique à trois classes (MA, ECI, Contrôle) ($n=711$, $p=17\,198$ gènes).
• BRCA (Épigénomique) : Classification à quatre classes des sous-types de cancer du sein ($n=640$, $p=19\,049$ régions de méthylation mappées sur des gènes).

Tous les jeux de données subissent un pipeline de prétraitement cohérent incluant l'agrégation sonde-gène, la normalisation et l'ajustement des covariables, avec des splits de données fixes à 70/15/15 (entraînement/validation/test).

2. Construction modulaire des graphes

OgBench traite la sélection de nœuds et la construction d'arêtes comme des modules interchangeables pour permettre des études d'ablation contrôlées :

• Sélection de nœuds : Les stratégies incluent le filtrage par variance, la corrélation de Pearson, la corrélation de distance (pour les dépendances non linéaires) et l'échantillonnage aléatoire. Cela permet aux chercheurs d'étudier l'impact des a priori de sélection de caractéristiques sur la performance du modèle.
• Construction d'arêtes : Deux stratégies principales sont prises en charge :
  • Basée sur les données : Graphes de co-expression construits via une corrélation de Pearson par paires avec seuillage doux pour approximer une topologie sans échelle.
  • A priori biologique : Réseaux d'interactions protéine-protéine (PPI) dérivés de la base de données STRING (interactions de confiance moyenne).
  • Crucialement, la matrice d'adjacence est fixe pour tous les échantillons (topologie globale), tandis que les caractéristiques des nœuds (valeurs d'expression) restent spécifiques à l'échantillon.

3. Suite de modèles et baselines

Le cadre compare une diversité de modèles par rapport à des baselines classiques :

• Baselines : Machines à vecteurs de support (SVM) et Elastic Net (modèles linéaires régularisés), qui sont souvent compétitifs dans les contextes de haute dimension.
• Baseline d'apprentissage profond : Perceptrons multicouches (MLP) pour isoler la contribution de la topologie du graphe de la transformation non linéaire des caractéristiques.
• GNN :
  • Classiques : GCN, GraphSAGE, GATv2, GIN.
  • Évolutifs : SAGN (conçu pour les grands graphes).
  • Spécifiques aux omiques : ChebNet (convolutions spectrales), MLA-GNN (attention multi-niveaux).
  • Transformers : GPS (General Graph Transformer).

4. Protocole d'évaluation

Les expériences impliquent une optimisation rigoureuse des hyperparamètres (recherche par grille sur les taux d'apprentissage, le nombre de couches, etc.) et l'utilisation d'une agrégation d'ensemble Top-K pour atténuer l'instabilité de la sélection basée sur la validation dans les régimes à faible nombre d'échantillons. Les métriques incluent le F1 Macro, le F1 Pondéré, la précision et l'AUROC, ainsi que des mesures d'efficacité computationnelle.

Résultats clés

L'évaluation expérimentale sur les quatre jeux de données produit plusieurs insights critiques :

1. Les GNN ne surpassent pas systématiquement les baselines simples : Dans le régime $n \ll p$, les GNN largement utilisés (GCN, GAT, GIN) échouent souvent à surpasser de manière convaincante les MLP simples ou les modèles linéaires régularisés classiques (SVM, Elastic Net). Sur des jeux de données comme Parkinson et BRCA, les baselines linéaires restent compétitives ou supérieures.
2. Utilité dépendante de la tâche de la structure : La valeur de la structure du graphe dépend fortement du jeu de données. Sur le jeu de données HERITAGE, les méthodes basées sur les graphes ont montré des avantages, tandis que sur d'autres, elles ne l'ont pas fait. Cela suggère que les biais inductifs structurels ne sont pas universellement bénéfiques dans les omiques.
3. Les mécanismes de lecture (Readout) comptent : Dans les jeux de données où les GNN sous-performent les baselines (Parkinson, BRCA), l'utilisation d'une lecture MLP (apprentissage des poids sur les embeddings de nœuds sans passage de messages) surpasse significativement le pooling vanilla (agrégation moyenne/somme). Cela implique que l'intégration globale des caractéristiques pilote la performance plutôt que le passage de messages local, indiquant que la topologie du graphe ajoute un signal limité au-delà des caractéristiques des nœuds elles-mêmes dans ces cas.
4. La sélection de nœuds est critique : Le choix de la stratégie de sélection de nœuds interagit de manière complexe avec la performance du modèle. Fait intéressant, sur HERITAGE, la sélection aléatoire de nœuds a parfois produit les meilleures performances basées sur les graphes, suggérant que la préservation de la connectivité du réseau (même avec des nœuds moins prédictifs) est cruciale pour les mécanismes de passage de messages, tandis que la sélection basée sur la corrélation (qui sélectionne des nœuds individuellement prédictifs) peut perturber la structure du graphe.
5. Sensibilité à la source des arêtes : Aucune source d'arêtes unique (PPI vs Co-expression) ne surpasse systématiquement l'autre. Le choix optimal dépend du backbone GNN spécifique et du jeu de données, suggérant que l'interaction entre l'architecture et la topologie est plus significative que la source des arêtes elle-même.
6. Instabilité de la validation : Dans le régime $n \ll p$, la sélection d'un seul meilleur modèle basée sur un petit ensemble de validation est peu fiable. L'agrégation d'ensemble (moyenne des prédictions des K meilleures configurations) réduit la variance et révèle les véritables avantages des modèles que la sélection d'une seule configuration masque souvent.

Importance et revendications

L'article revendique qu'OgBench fournit une « vérification de la réalité » nécessaire pour l'application des GNN en biomédecine. En exposant que les GNN standards luttent souvent pour surpasser des méthodes plus simples dans des contextes omiques à haute dimension et à faible nombre de données, le cadre remet en question l'hypothèse prévalente selon laquelle la structure du graphe ajoute intrinsèquement de la valeur.

Les auteurs soutiennent que le domaine doit aller au-delà des gains de performance incrémentaux sur les benchmarks standards et s'engager dans une réévaluation critique des paradigmes d'apprentissage. Les résultats suggèrent que l'application aveugle de méthodes graphiques aux données biologiques sans remettre en question la validité de la structure sous-jacente ou l'adéquation de l'architecture au régime $n \ll p$ peut mener à la stagnation. OgBench vise à favoriser le développement de nouvelles architectures explicitement adaptées aux graphes biologiques et à fournir à la communauté un écosystème reproductible et open source pour valider de telles innovations. Le code et les jeux de données sont publiés pour faciliter cette transition.