Freeze, Prompt, and Adapt: A Framework for Source-free Unsupervised GNN Prompting

Résumé technique : Freeze, Prompt, and Adapt (UGPrompt)

Formulation du problème : Problème de Prompting de Graphe Non Supervisé (UGPP)
L'article identifie une lacune critique dans l'adaptation actuelle des réseaux de neurones sur graphes (GNN) : les méthodes de prompting existantes dépendent fortement de données étiquetées et nécessitent souvent l'ajustement fin (fine-tuning) de têtes de prédiction spécifiques à la tâche (ajustement léger). Cela compromet l'objectif d'une adaptation efficace en paramètres, particulièrement dans les scénarios où les données sources sont inaccessibles (par exemple, pour des raisons de confidentialité) et où les étiquettes cibles sont indisponibles.

Pour répondre à cela, les auteurs proposent le Problème de Prompting de Graphe Non Supervisé (UGPP). Il s'agit d'un cadre de problème rigoureux défini par quatre conditions strictes :

1. Modèle source gelé (Frozen Source Model) : Le GNN pré-entraîné (incluant à la fois l'encodeur et la tête de prédiction) reste entièrement gelé ; aucun paramètre du modèle entraîné sur la source n'est mis à jour.
2. Absence d'étiquettes cibles : L'adaptation se produit sans aucune donnée étiquetée provenant du domaine cible.
3. Inaccessibilité de la source : Le jeu de données source original utilisé pour le pré-entraînement est indisponible.
4. Décalage de covariables (Covariate Shift) : La distribution des données cibles présente un décalage par rapport à la distribution source ($P_s^X \neq P_t^X$), tandis que la distribution conditionnelle des étiquettes reste invariante ($P_t^{Y|X} = P_s^{Y|X}$).

Ce cadre distingue l'UGPP de l'Adaptation de Domaine Sans Source (SFDA) non supervisée, qui permet généralement l'ajustement fin des paramètres du modèle. L'UGPP isole l'efficacité de la fonction de prompting elle-même comme unique mécanisme d'adaptation.

Méthodologie : UGPrompt
Les auteurs introduisent UGPrompt, le premier cadre de prompting de GNN entièrement non supervisé conçu pour résoudre l'UGPP. Le cadre entraîne une fonction de prompting apprenable $f(\cdot; \theta_f)$ pour adapter un GNN gelé à la distribution cible. La méthodologie se compose de trois composantes clés :

1. Prompting basé sur la cohérence (Consistency-Based Prompting) :

   • Augmentation : Pour chaque graphe d'entrée $G$, la méthode génère une augmentation faible $G_w$ (via un masquage aléatoire des caractéristiques) et une augmentation forte $G_s$.
   • Prompting : L'augmentation forte $G_s$ est traitée par la fonction de prompting apprenable $f$ pour produire un graphe prompté $G_p$. La fonction $f$ enrichit les vecteurs de caractéristiques des nœuds en utilisant une approche de module de préfixe.
   • Objectif : Le modèle minimise la divergence entre les scores de prédiction du GNN pour $G_w$ et $G_p$. Crucialement, les pseudo-étiquettes sont générées uniquement à partir de $G_w$ si la confiance du GNN dépasse un seuil $\tau$. Cela garantit que l'optimisation repose sur des prédictions de haute confiance issues du modèle gelé, utilisant efficacement la connaissance source pour réduire l'entropie sur le domaine cible.

2. Régularisation de la diversité ($L_{div}$) :

   • Pour empêcher le modèle de s'effondrer vers une solution triviale (par exemple, prédire une classe unique pour tous les échantillons en raison du déséquilibre des classes), le cadre maximise l'entropie des scores de prédiction attendus sur un batch. Cela encourage des prédictions diverses à travers le jeu de données cible.

3. Régularisation de domaine ($L_{adv}$) :

   • Pour empêcher la fonction de prompting de générer des graphes hors distribution (OOD), un discriminateur adversarial est entraîné pour distinguer l'augmentation faible non promptée ($G_w$) du graphe prompté ($G_p$).
   • La fonction de prompting est régularisée pour tromper ce discriminateur, garantissant que les représentations latentes des graphes promptés restent proches de la distribution des augmentations non promptées (et, par extension, de la distribution source préservée dans le modèle gelé).

La fonction d'objectif finale combine ces termes : $L = L_c + \lambda_1 L_{div} + \lambda_2 L_{adv}$.

Contributions Clés

• Définition du Problème : La formalisation de l'UGPP, un nouveau cadre qui isole la véritable efficacité du prompting en interdisant les mises à jour des paramètres du GNN entraîné sur la source et en exigeant zéro donnée étiquetée.
• Méthodologie Novatrice : La proposition d'UGPrompt, qui exploite la régularisation de cohérence, le pseudo-étiquetage de confiance et une double régularisation (diversité et domaine) pour adapter des GNN gelés de manière non supervisée.
• Validation Empirique : Des expériences approfondies démontrant qu'UGPrompt surpasse les méthodes de prompting supervisées de pointe (SOTA) (qui ont accès à des données étiquetées) tant pour les tâches de classification de graphes que de classification de nœuds sous décalage de covariables.

Résultats Expérimentaux
Les auteurs ont évalué UGPrompt sur six jeux de données standards pour la classification de graphes (ENZYMES, PROTEINS, DHFR, BBBP, BACE) et la classification de nœuds (Cora, CiteSeer, PubMed, Flickr, Cornell, Texas, Wisconsin).

• Performance vs Baselines Supervisées : Malgré l'utilisation de 0 % de données étiquetées, UGPrompt a systématiquement surpassé les méthodes de prompting supervisées SOTA (ex: GraphPrompt, GPF-Plus, All-In-One) qui ont été entraînées avec 25 % de données étiquetées.
• Robustesse au Décalage : La méthode a maintenu un transfert positif même sous des décalages de covariables sévères (ex: variations des ratios d'homophilie et décalages de popularité basés sur le PageRank), là où de nombreuses baselines ont souffert d'un transfert négatif.
• Capacité Few-Shot : Lorsqu'un nombre limité de données étiquetées (5-25 %) a été introduit, UGPrompt s'est encore amélioré, montrant qu'il peut utiliser efficacement les étiquettes lorsqu'elles sont disponibles tout en restant supérieur dans le cadre entièrement non supervisé.
• Tests de Stress : Dans des tests de stress de catégories disjointes (où les classes cibles étaient sémantiquement différentes des classes sources mais la tête était gelée), UGPrompt a récupéré une performance significative, alors que les baselines se sont souvent effondrées.

Signification et Revendications
L'article affirme qu'UGPrompt démontre la viabilité du prompting non supervisé comme un paradigme d'adaptation pratique pour les GNN. En prouvant qu'un GNN gelé peut être efficacement adapté à de nouvelles distributions décalées sans données étiquetées ni accès à la source, ce travail remet en question la nécessité d'ajuster les têtes de prédiction pour chaque nouvelle tâche. Les auteurs positionnent cela comme une étape vers les "modèles de fondation de graphes" capables de généraliser à travers divers jeux de données non étiquetés.

Les auteurs reconnaissent modestement les limites : l'UGPP suppose que les domaines source et cible partagent le même espace d'étiquettes. La méthode n'est pas conçue pour les scénarios à vocabulaire ouvert avec de nouvelles classes cibles, car la tête de prédiction gelée ne peut pas accommoder de nouvelles étiquettes sans réentraînement. Des travaux futurs sont suggérés pour traiter les vocabulaires de graphes universels et la sélection de pseudo-étiquettes de haute qualité sous des décalages sévères.