Résumé technique : Attribution de l'émergence dans les systèmes à un million d'agents

Énoncé du problème

Les systèmes multi-agents (MAS) pilotés par des modèles de langage de grande taille (LLM) sont de plus en plus utilisés pour simuler des phénomènes sociaux à l'échelle de la population, tels que la polarisation, les cascades d'information et les paniques de marché. Un défi scientifique critique dans ces simulations est l'attribution de l'émergence : déterminer quels agents individuels ont conduit un phénomène de niveau macro et quand il a changé.

Les méthodes d'attribution existantes, principalement basées sur les valeurs de Shapley axiomatiques, se heurtent à une barrière fondamentale d'évolutivité. Elles nécessitent d'évaluer le système sur de nombreux sous-ensembles d'agents, entraînant des coûts de calcul qui évoluent de manière combinatoire avec le nombre d'agents ($N$). Par conséquent, les travaux antérieurs ont été confinés à des systèmes à petite échelle ($N \lesssim 10^3$). Cependant, les phénomènes sociaux que ces systèmes visent à expliquer (par exemple, les cascades en ligne, les dynamiques électorales) se produisent à des échelles de $N \ge 10^6$. Il reste une question ouverte de savoir si les conclusions au niveau des agents tirées de simulations à petite échelle survivent à des échelles réalistes de plusieurs millions d'agents. De plus, il n'est pas clair si les différences structurelles observées entre les petites et les grandes échelles peuvent être corrigées par un recalibrage a posteriori.

Méthodologie

Les auteurs proposent un cadre basé sur l'attribution par intégrale de chemin Aumann–Shapley, adaptée aux MAS pilotés par des LLM.

1. Cadre théorique

La méthode satisfait les quatre axiomes d'Aumann–Shapley (efficacité, symétrie, agent fictif et linéarité) pour les jeux non atomiques. Au lieu de l'évaluation combinatoire des sous-ensembles requise par les valeurs de Shapley standard, les auteurs définissent l'attribution de l'agent $i$ comme l'effet marginal intégré de l'indicateur macro $f$ lorsque le vecteur de caractéristiques de l'agent $z_i$ s'active progressivement depuis une valeur de référence $z_0$ jusqu'à sa valeur observée le long d'un trajet rectiligne :
$$\phi_i = \sum_{d=1}^D (z_{i,d} - z_{0,d}) \int_0^1 \frac{\partial f}{\partial z_{i,d}} \left( z_0 + \tau(z - z_0) \right) d\tau$$
Pour des indicateurs macro analytiques spécifiques (linéaires, multiplicatifs-saturants, variance et Gini), les auteurs dérivent des expressions en forme fermée qui réduisent l'intégration à des calculs explicites par agent, éliminant ainsi le besoin d'intégration numérique ou d'échantillonnage.

2. Théorème du biais d'échelle d'attribution

Une contribution théorique centrale est le Théorème 1 (Biais d'échelle d'attribution), qui établit une dichotomie structurelle :

• Cas linéaire : Si l'indicateur macro est linéaire (décomposable additivement sur les agents), les attributions à petite échelle et à pleine échelle ne diffèrent que par un facteur de recalibrage global.
• Cas non linéaire : Si l'indicateur macro est non linéaire (impliquant des interactions inter-agents), aucun facteur de recalibrage global n'existe pour concilier l'attribution à petite échelle avec l'attribution à pleine échelle. Le désaccord est structurel, et non simplement une question de magnitude.

3. Validation empirique

Les auteurs ont mené une étude contrôlée à travers les échelles en utilisant 14 jours de données publiques de Bluesky ($N = 1\,671\,587$ utilisateurs actifs).

• Pleine échelle : L'attribution a été calculée sur l'ensemble du panel.
• Petite échelle : L'attribution a été calculée sur un échantillon de commodité biaisé par la visibilité ($N=102$), imitant les contraintes des études actuelles sur les MAS-LLM à petite échelle.
• Protocoles : L'étude a comparé l'échantillonnage biaisé par la visibilité à un échantillonnage aléatoire uniforme pour isoler l'effet de la stratégie d'échantillonnage.
• Fonctions de valeur : Quatre indicateurs macro analytiques ont été testés : additif linéaire, multiplicatif-saturant (chaleur), variance de population et différence moyenne absolue de Gini.

Résultats clés

1. Inversion structurelle de l'attribution

L'étude révèle une « inversion » de la structure d'attribution lors du passage d'échantillons biaisés et de petite taille à la population entière :

• Pleine échelle : La « longue traîne » (les 90 % inférieurs des utilisateurs selon le nombre d'abonnés) et le « niveau intermédiaire » portent conjointement la majorité de la masse d'attribution. Par exemple, sous la fonction multiplicatif-saturant ($f_{heat}$), la longue traîne portait 76,4 % de l'attribution sur le panel complet.
• Petite échelle biaisée : La même méthode axiomatique appliquée à un échantillon biaisé par la visibilité de 102 utilisateurs concentre presque toute la masse d'attribution sur les comptes de premier rang (utilisateurs à fort nombre d'abonnés). Sur les mêmes données, le top 1 % portait 11,3 % de l'attribution (une augmentation de 3 fois par rapport à la pleine échelle), tandis que la longue traîne s'effondrait à 52,0 %.
• Contrôle aléatoire : Un échantillon aléatoire uniforme de la même taille ($N=102$) a récupéré les fractions de population, confirmant que le désaccord est spécifique aux échantillons de commodité biaisés utilisés en pratique, et non aux petites tailles d'échantillon en général.

2. Impossibilité théorique de correction

Les résultats empiriques s'alignent avec le Théorème 1. Pour les indicateurs macro non linéaires (variance, Gini, chaleur), l'erreur résiduelle après un recalibrage global optimal était élevée ($\epsilon \approx 0,13$ à $0,97$), prouvant qu'aucun scalaire unique ne peut mapper les résultats à petite échelle vers les résultats à pleine échelle. Même pour la référence linéaire, bien qu'un facteur de recalibrage existe théoriquement, une « inversion » significative (environ 20 points de pourcentage) s'est produite en raison de la structure d'échantillonnage, bien qu'elle fût théoriquement corrigeable.

3. Efficacité computationnelle

La méthode Aumann–Shapley proposée évolue linéairement avec $N$.

• Vitesse : Elle calcule l'attribution pour $N=10^6$ agents en moins de 10 millisecondes sur un seul nœud CPU.
• Comparaison : C'est 4 à 5 ordres de grandeur plus rapide que les méthodes de Shapley échantillonnées sur le même matériel. Elle étend l'échelle faisable de l'attribution axiomatique de plus de trois ordres de grandeur (de $N \approx 10^3$ à $N \approx 10^6$).

Importance et affirmations

L'article affirme que l'attribution à pleine échelle est une exigence théorique, et non simplement un choix méthodologique, pour toute étude impliquant des indicateurs macro non linéaires dans les systèmes multi-agents.

1. Validité des études à petite échelle : Les auteurs soutiennent que les conclusions de la forme « le type d'agent A conduit le phénomène E » tirées de petits panels biaisés par la visibilité sont structurellement peu fiables lorsque l'indicateur macro sous-jacent est non linéaire. L'« inversion » signifie que les études à petite échelle peuvent fondamentalement mal identifier les moteurs des phénomènes émergents.
2. Nécessité méthodologique : L'article ne prétend pas que chaque étude doit être menée à l'échelle du million d'agents, mais plutôt que toute affirmation concernant les moteurs causaux doit reposer soit sur une analyse à l'échelle réaliste du phénomène, soit sur des preuves de cohérence inter-échelle.
3. Limite théorique : Le théorème du biais d'échelle d'attribution fournit une preuve rigoureuse qu'un recalibrage a posteriori ne peut pas corriger le désaccord structurel entre les petites et les grandes échelles pour les systèmes non linéaires.

Ce travail comble le fossé entre la théorie des jeux axiomatique et la simulation sociale à grande échelle, fournissant la première preuve systématique que les conclusions au niveau des agents ne sont pas invariantes d'échelle en présence d'interactions non linéaires et d'échantillonnage biaisé.