SphUnc: Hyperspherical Uncertainty Decomposition and Causal Identification via Information Geometry

Le papier présente SphUnc, un cadre unifié qui combine l'apprentissage de représentations hypersphériques et la modélisation causale structurelle pour décomposer l'incertitude et identifier les influences causales dans les systèmes multi-agents complexes.

L'essentiel

Imagine que vous êtes le capitaine d'un navire naviguant dans une mer très agitée, remplie de milliers d'autres bateaux (les agents) qui communiquent, se copient, et parfois se tirent dessus. Votre but est de prédire où ira le prochain bateau et de savoir si vous pouvez faire confiance à votre prédiction.

Le problème, c'est que les cartes habituelles (les modèles d'intelligence artificielle classiques) sont souvent trop simplistes. Elles voient les bateaux comme des points sur une grille plate, ce qui les empêche de comprendre les mouvements complexes en groupe. De plus, quand elles font une prédiction, elles disent souvent "Je suis sûr à 100%" alors qu'elles devraient dire "Je ne suis pas très sûr, il y a du brouillard".

Voici comment SphUnc (le nouveau système présenté dans l'article) change la donne, expliqué simplement :

1. La Carte en Forme de Globe (L'Hyper-sphère)

Au lieu de dessiner les bateaux sur une feuille de papier plate (un espace euclidien), SphUnc les place sur la surface d'une sphère (comme un ballon de foot).

• L'analogie : Imaginez que la direction est plus importante que la distance. Sur une sphère, ce qui compte, c'est l'angle vers lequel le bateau pointe, pas à quelle vitesse il avance.
• Pourquoi ? Dans les groupes humains, c'est souvent l'orientation des idées ou des émotions qui compte. En utilisant une sphère, le modèle comprend mieux les relations complexes (comme un groupe de 5 amis qui décident ensemble) plutôt que de juste regarder les paires d'amis deux par deux.

2. Le Météo-Prévisionniste en Deux Voix (Décomposition de l'incertitude)

C'est le cœur du système. Quand SphUnc fait une prédiction, il ne donne pas juste un chiffre. Il sépare son "doute" en deux types distincts, comme un météorologue qui distingue deux sources d'incertitude :

• Voix 1 : "Je ne connais pas assez" (Incertitude Épistémique).
  • L'analogie : C'est comme si le capitaine disait : "Je n'ai jamais vu ce type de tempête, mes cartes sont floues." C'est un manque de connaissance que le modèle peut apprendre à corriger avec plus de données.
  • Comment ça marche : Le modèle utilise une distribution mathématique spéciale (vMF) pour mesurer à quel point ses "idées" sont concentrées ou éparpillées sur la sphère. Si elles sont éparpillées, il sait qu'il est perdu.
• Voix 2 : "C'est le chaos, je ne peux rien y faire" (Incertitude Aléatoire).
  • L'analogie : C'est comme si le capitaine disait : "Je connais la tempête, mais le vent souffle de manière totalement imprévisible aujourd'hui." C'est le bruit de fond, le chaos naturel que même un dieu ne pourrait pas prédire.
  • Comment ça marche : Le modèle mesure le bruit inhérent aux données (comme une caméra qui tremble).

Le résultat ? Au lieu de dire "Je suis sûr", SphUnc dit : "Je suis sûr de la direction, mais il y a beaucoup de bruit, donc je vais être prudent." Cela évite les fausses confiances.

3. Le Simulateur de "Et si..." (Causalité et Intervention)

La plupart des modèles disent : "Quand il pleut, les gens portent des parapluies." Ils voient une corrélation. Mais SphUnc veut comprendre la cause.

• L'analogie : Imaginez un jeu de simulation où vous pouvez figer le temps et dire : "Et si j'empêchais ce bateau spécifique de changer de cap ?"
• Comment ça marche : Le système construit un "arbre de causalité" sur la sphère. Il peut simuler des interventions. Par exemple, si vous changez l'humeur d'un seul agent dans un groupe, comment cela affecte-t-il tout le reste ?
• Pourquoi c'est utile : Cela permet de distinguer ce qui est une simple imitation (homophilie) de ce qui est une vraie influence. Si vous supprimez l'influence d'un leader, le modèle peut prédire si le groupe va s'effondrer ou rester stable.

4. La Boussole de Confiance (Calibration)

Le plus grand problème des IA actuelles, c'est qu'elles sont souvent trop confiantes alors qu'elles se trompent.

• L'analogie : Un élève qui répond "100% sûr" à une question qu'il ne connaît pas. SphUnc, lui, ajuste sa confiance. Si la sphère est floue (beaucoup d'incertitude épistémique), il baisse son score de confiance.
• Le résultat : Dans les tests (sur des réseaux sociaux, des émotions, etc.), SphUnc a non seulement mieux prédit les résultats, mais il a aussi été beaucoup plus honnête sur ses erreurs. Quand il dit "Je ne sais pas", c'est souvent vrai.

En Résumé

SphUnc est comme un capitaine d'élite équipé d'une boussole sphérique (pour voir les relations complexes), d'un double système de météo (pour distinguer le manque de savoir du chaos naturel) et d'un simulateur de réalité virtuelle (pour tester les conséquences de ses actions).

Au lieu de simplement deviner l'avenir, il vous dit : "Voici ce qui va probablement se passer, voici pourquoi je pense cela, et voici à quel point je suis sûr de moi." C'est un outil essentiel pour prendre des décisions dans un monde complexe et incertain.

Résumé technique

1. Problématique et Contexte

La prise de décision fiable dans les systèmes multi-agents complexes (réseaux sociaux, interactions affectives, systèmes financiers) se heurte à deux défis majeurs :

1. L'incertitude mal calibrée : Les modèles existants peinent à distinguer l'incertitude due au manque de données (épistémique) de l'incertitude inhérente au bruit des données (aléatoire). De plus, les représentations euclidiennes traditionnelles mélangent dispersion radiale et angulaire, ce qui fausse l'estimation de l'incertitude pour des données directionnelles.
2. L'identification causale dans les interactions d'ordre supérieur : Les graphes classiques (liens par paires) échouent à capturer les dynamiques de groupe (interactions multi-parties). Les méthodes causales existantes (comme la causalité de Granger) sont souvent confondues par des structures latentes directionnelles et des interactions de groupe, rendant difficile la distinction entre l'influence réelle et l'homophilie (tendance à se regrouper par similarité).

L'objectif est donc de concevoir un cadre unifié capable de fournir des prédictions calibrées, de décomposer l'incertitude de manière interprétable et d'identifier des relations causales directionnelles dans des structures hypergraphiques complexes.

2. Méthodologie : Le Framework SphUnc

SphUnc propose une architecture unifiée couplant l'apprentissage de représentations hypersphériques et la modélisation causale structurelle (SCM).

A. Représentation Hypersphérique et Distributions vMF

Au lieu d'utiliser un espace euclidien, les caractéristiques des agents sont projetées sur une hypersphère unité ($S^{D-1}$).

• Modélisation : Les états latents sont modélisés par des distributions de von Mises-Fisher (vMF). Une distribution vMF est définie par une direction moyenne ($\mu$) et un paramètre de concentration ($\kappa$).
• Avantage : Cette contrainte géométrique permet de capturer naturellement les sémantiques orientées (directions) et d'utiliser la concentration $\kappa$ comme mesure directe de la certitude directionnelle.

B. Décomposition de l'Incertitude

L'incertitude totale est décomposée en deux composantes distinctes :

1. Incertitude Épistémique ($U_{epi}$) : Mesurée par l'entropie hypersphérique $H_{sph}(\kappa)$ dérivée du paramètre de concentration vMF. Une faible concentration (faible $\kappa$) indique une forte incertitude épistémique (manque de connaissances du modèle).
2. Incertitude Aléatoire ($U_{alea}$) : Modélisée par une tête de variance apprise ($\sigma^2_\phi$) qui capture le bruit irréductible des données.

• Fusion : Une fonction de fusion monotone apprise ($g_\omega$) combine ces deux termes pour obtenir une estimation d'incertitude totale calibrée.

C. Modélisation Causale Structurelle (SCM) sur Latents Sphériques

Le framework intègre un SCM défini directement sur les latents hypersphériques :

• Équations Structurelles : L'état d'un agent $i$ à l'instant $t$ dépend de ses parents (influences passées), de ses caractéristiques et d'un bruit exogène, via des modules de messages directionnels.
• Attention Angulaire : Un mécanisme d'attention est adapté à la géométrie sphérique pour agréger les informations des hyperarêtes (interactions de groupe).
• Inférence Interventionnelle : Le modèle permet de simuler des interventions $do(h^*)$ en fixant certains états latents et en propageant les changements. L'incertitude causale est quantifiée par l'entropie de la distribution post-interventionnelle.

D. Objectif d'Apprentissage

La fonction de perte composite $L$ équilibre trois objectifs :

1. Précision prédictive ($L_{pred}$).
2. Calibration de l'entropie ($L_{entropy}$) : pénalise l'écart entre l'incertitude prédite et les erreurs empiriques.
3. Fidélité causale ($L_{causal}$) : régularise la structure apprise pour respecter les contraintes temporelles et de parcimonie.

3. Contributions Clés

1. Décomposition de l'incertitude hypersphérique : Première formulation traitant la concentration vMF comme une mesure interprétable d'incertitude épistémique directionnelle, complétée par une estimation de variance aléatoire.
2. Apprentissage conjoint Géométrie-Causalité : Un processus d'entraînement qui aligne la géométrie latente, la calibration de l'incertitude et la découverte de structures causales, assurant que l'apprentissage des représentations est guidé par les objectifs d'intervention.
3. Conditions d'identifiabilité opérationnelle : Proposition de conditions théoriques (ordre temporel, parcimonie, découplage du bruit) permettant une estimation robuste des composantes d'incertitude et des structures causales.
4. Validation empirique rigoureuse : Démonstration sur des benchmarks sociaux et affectifs montrant des gains significatifs en précision, calibration et récupération de liens causaux par rapport aux états de l'art (HyperGCN, SphereNet, CI-GNN, etc.).

4. Résultats Expérimentaux

Les expériences ont été menées sur plusieurs jeux de données (SNARE, PHEME, AMIGOS, réseaux financiers et de collaboration).

• Performance Prédictive : SphUnc surpasse systématiquement les modèles de base (baselines). Par exemple, sur SNARE, le score F1 passe de 71,4 (Causal-SphHN) à 78,5.
• Calibration : L'erreur de calibration attendue (ECE) est considérablement réduite. Sur PHEME, l'ECE chute de 0,041 à 0,018, indiquant des prédictions beaucoup plus fiables.
• Interprétabilité Causale : La précision dans la récupération des liens d'influence (Precision@10) est nettement supérieure (0,78 sur SNARE contre 0,62 pour le meilleur concurrent), prouvant une meilleure capacité à distinguer l'influence de l'homophilie.
• Robustesse : Le modèle maintient une performance élevée même en cas de dropout important des caractéristiques des nœuds (jusqu'à 60%), grâce à son mécanisme de fusion d'incertitude.
• Études d'ablation : La suppression de tout composant clé (représentation sphérique, décomposition d'incertitude, SCM, ou perte de calibration) entraîne une dégradation significative des performances, confirmant la nécessité de l'approche holistique.

5. Signification et Impact

SphUnc établit une fondation géométrique-causale pour le raisonnement incertain dans les systèmes multi-agents.

• Théorique : Il résout le problème de la conflation entre dispersion radiale et angulaire en utilisant la géométrie des variétés pour l'incertitude.
• Pratique : Il offre un outil pour les décideurs (politiques publiques, IA centrée sur l'humain) permettant non seulement de prédire des résultats, mais aussi de simuler l'impact d'interventions spécifiques avec une mesure de confiance calibrée.
• Généralité : La méthode est applicable aux domaines où les interactions d'ordre supérieur et les dynamiques directionnelles sont critiques, comme la modélisation de la propagation de rumeurs, l'analyse des sentiments de groupe et la finance comportementale.

En résumé, SphUnc représente une avancée majeure en combinant l'apprentissage profond sur variétés, la théorie de l'information géométrique et l'inférence causale pour créer des modèles d'IA plus robustes, interprétables et fiables.