Résumé Technique : CoCoGen – Un cadre de génération de données compatible avec la coopétition pour l'apprentissage fédéré cross-silo

1. Énoncé du problème

L'apprentissage fédéré cross-silo (CFL) permet aux organisations (par exemple, les hôpitaux, les banques) d'entraîner collaborativement des modèles d'IA tout en préservant la confidentialité des données. Cependant, les approches existantes négligent souvent le double défi de l'hétérogénéité statistique (distributions de données non-IID entre les silos) et de la compétition économique (coopétition).

Dans les scénarios réels, les organisations participantes sont souvent des rivaux sur le marché. Cela crée une dynamique de « coopétition » où :

• Compétition : Les organisations hésitent à contribuer en raison de la crainte de révéler des avantages compétitifs ou de subir des pertes d'utilité (réduction du bénéfice net) si le modèle global profite à leurs rivaux.
• Hétérogénéité : Les différences statistiques dans les données locales peuvent provoquer la divergence du modèle global par rapport aux optima, entraînant une faible généralisation et une faible utilité individuelle.
• La lacune : Les travaux antérieurs ont analysé la compétition ou l'hétérogénéité de manière isolée. Il existe un manque de cadres modélisant explicitement l'interaction entre ces facteurs et leur impact sur la prise de décision organisationnelle et le bien-être social global du système. De plus, bien que l'IA générative (GenAI) offre une solution pour l'augmentation des données, il n'existe aucun mécanisme établi pour optimiser les stratégies de génération de données basées sur la GenAI dans des contextes de CFL hétérogènes et compétitifs afin de maximiser le bien-être collectif.

2. Méthodologie : Le cadre CoCoGen

Les auteurs proposent CoCoGen, un cadre qui intègre les concepts économiques de coopétition avec la théorie des jeux potentiels pour modéliser et optimiser le CFL sous ces contraintes.

A. Modèle de système et définitions

• CFL Coopétitive : Définie comme une stratégie duale où les organisations coopèrent pour entraîner un modèle global partagé mais entrent en compétition pour maximiser leurs propres revenus de marché en aval.
• Stratégie de données : Chaque organisation $n$ utilise un ensemble de données mixtes $D^{mix}_n = D^{loc}_n \cup D^{gen}_n$, où $D^{gen}_n$ est l'ensemble de données générées par la GenAI. Le profil de stratégie est le vecteur des tailles de données générées $\mathbf{d}^{gen}$.
• Coûts : Le cadre prend en compte les coûts de calcul (consommation d'énergie pour la génération de données et l'entraînement) ainsi que les frais de serveur. Les coûts de communication sont négligés.

B. Formulation de l'utilité et du gain (Payoff)

L'utilité $U_n$ pour une organisation est dérivée d'un équilibre entre gains et pertes :

1. Gain de coopération : Le revenu est proportionnel à l'amélioration de la performance du modèle global ($\epsilon_0 - \epsilon(\mathbf{d}^{gen})$), où la performance est modélisée comme une fonction de loi de puissance inverse de la taille totale des données.
2. Redistribution des gains : Pour garantir l'équité, les organisations ayant des contributions moindres reçoivent une compensation de la part de celles ayant des contributions plus élevées. Cela est proportionnel à l'écart de contribution marginale et à l'intensité compétitive ($\gamma_{n,n'}$).
3. Perte de coopétition : Les organisations subissent une perte représentant le revenu que leurs concurrents tirent de leurs contributions, pondérée par l'intensité compétitive.
4. Contraintes : Le système opère sous les principes de Rationalité Individuelle (utilité $\ge 0$) et d'Équilibre Budgétaire (les transferts monétaires totaux somment à zéro).

C. Analyse par la théorie des jeux

L'interaction est modélisée comme un Jeu de Potentiel Pondéré :

• Joueurs : Organisations rationnelles et égoïstes.
• Stratégies : La quantité de données GenAI à générer.
• Fonction de potentiel : Les auteurs prouvent que le jeu possède une fonction de potentiel pondérée $F(\mathbf{d}^{gen})$. L'Équilibre de Nash (NE) du jeu correspond à la minimisation de cette fonction.
• Mécanisme de solution : Puisque le problème d'optimisation est non convexe, les auteurs relaxent les contraintes entières sur la taille des données pour obtenir un intervalle continu. Ils dérivent les conditions de NE en utilisant les conditions de Karush–Kuhn–Tucker (KKT) et résolvent la stratégie optimale de génération de données via un algorithme d'Itération de Point Fixe (FPI) (Algorithme 1).

3. Contributions clés

1. Cadre compatible avec la coopétition : CoCoGen est le premier cadre modélisant conjointement l'hétérogénéité statistique et la compétition inter-organisationnelle dans le CFL en utilisant des formulations de performance d'apprentissage et d'utilité.
2. Mécanisme basé sur les jeux de potentiel : Les auteurs prouvent que chaque cycle d'entraînement constitue un jeu de potentiel pondéré. Ils dérivent une solution en forme close pour l'Équilibre de Nash, permettant aux organisations de déterminer les stratégies optimales de génération de données GenAI afin de maximiser le bien-être social.
3. Validation empirique : Des expériences approfondies sur le jeu de données Fashion-MNIST démontrent l'efficacité du cadre sous différents niveaux d'hétérogénéité et de compétition.

4. Résultats expérimentaux

Les expériences ont été menées avec $N=10$ organisations utilisant le jeu de données Fashion-MNIST. Les principales conclusions sont les suivantes :

• Impact de l'hétérogénéité et de la compétition : L'augmentation des niveaux d'hétérogénéité statistique (paramètre de Dirichlet $\alpha_D$ plus faible) et de l'intensité de la compétition ( $\bar{\gamma}$ plus élevé) réduit significativement le bien-être social. Ces conditions nécessitent un volume plus important de données générées par la GenAI pour maintenir la convergence du modèle.
• Performance par rapport aux bases de référence : CoCoGen surpasse systématiquement trois bases de référence :
  • CFL Vanille (VCFL) : Pas d'augmentation par GenAI.
  • Sans Compétition (WCO) : Ignore les facteurs compétitifs.
  • Génération de Données Aléatoire (RaDG) : Sélectionne aléatoirement les montants de génération de données.
• Gains quantitatifs : Sous une forte hétérogénéité ($\alpha_D = 0,1$), CoCoGen a amélioré le bien-être social d'environ 50 % par rapport à VCFL, de 25,93 % par rapport à WCO et de 16,89 % par rapport à RaDG.
• Efficacité du mécanisme : Le mécanisme de redistribution des gains intégré compense efficacement les organisations à haute contribution, atténuant les pertes de coopétition et soutenant les incitations à la participation, même dans des environnements hautement compétitifs.

5. Signification et affirmations

L'article affirme que CoCoGen fournit une solution théorique et algorithmique pratique pour soutenir la coopération dans le CFL au sein de marchés réels et compétitifs.

• Aperçu théorique : Il clarifie comment la coexistence de l'hétérogénéité et de la compétition affecte le comportement organisationnel, montrant que sans incitations spécifiques (comme la redistribution des gains et la génération de données optimisée), le bien-être social se dégrade considérablement.
• Utilité pratique : En exploitant la GenAI pour combler les écarts de distribution de données et en utilisant la théorie des jeux pour aligner les incitations individuelles sur le bien-être collectif, CoCoGen permet aux organisations de bénéficier de la collaboration malgré leur rivalité commerciale.
• Scalabilité : L'algorithme FPI proposé offre une méthode de calcul efficace pour dériver les stratégies optimales, rendant le cadre applicable aux déploiements réels de CFL.

Les auteurs concluent que leur travail répond au besoin critique d'équilibrer la confidentialité, la compétition et l'hétérogénéité des données, offrant une voie vers des systèmes d'apprentissage fédéré plus robustes et socialement optimaux.