Resumen Técnico: CoCoGen – Un Marco de Generación de Datos Compatible con la Coopetencia para el Aprendizaje Federado de Silos Cruzados

1. Planteamiento del Problema

El Aprendizaje Federado de Silos Cruzados (CFL, por sus siglas en inglés) permite que las organizaciones (por ejemplo, hospitales, bancos) entrenen modelos de IA de forma colaborativa preservando la privacidad de los datos. Sin embargo, los enfoques existentes suelen pasar por alto el doble desafío de la heterogeneidad estadística (distribuciones de datos no IID entre silos) y la competencia económica (coopetencia).

En escenarios del mundo real, las organizaciones participantes suelen ser rivales de mercado. Esto crea una dinámica de "coopetencia" donde:

• Competencia: Las organizaciones dudan en contribuir con recursos debido al temor de revelar ventajas competitivas o de sufrir pérdidas de utilidad (reducción del beneficio neto) si el modelo global beneficia a sus rivales.
• Heterogeneidad: Las diferencias estadísticas en los datos locales pueden causar que el modelo global diverja de los óptimos, lo que conduce a una generalización deficiente y a una baja utilidad individual.
• La Brecha: Los trabajos previos han analizado la competencia o la heterogeneidad de forma aislada. Existe una falta de marcos que modelen explícitamente la interacción entre estos factores y su impacto en la toma de decisiones organizacional y el bienestar social del sistema. Además, aunque la IA Generativa (GenAI) ofrece una solución para el aumento de datos, no existe un mecanismo establecido para optimizar las estrategias de generación de datos basadas en GenAI en entornos de CFL competitivos y heterogéneos para maximizar el bienestar colectivo.

2. Metodología: El Marco CoCoGen

Los autores proponen CoCoGen, un marco que integra conceptos de coopetencia económica con la teoría de juegos potenciales para modelar y optimizar el CFL bajo estas restricciones.

A. Modelo de Sistema y Definiciones

• CFL Coopetitiva: Definida como una estrategia dual donde las organizaciones cooperan para entrenar un modelo global compartido, pero compiten para maximizar sus propios ingresos de mercado derivados.
• Estrategia de Datos: Cada organización $n$ utiliza un conjunto de datos mixto $D^{mix}_n = D^{loc}_n \cup D^{gen}_n$, donde $D^{gen}_n$ son datos generados por GenAI. El perfil de estrategia es el vector de tamaños de datos generados $\mathbf{d}^{gen}$.
• Costos: El marco tiene en cuenta los costos computacionales (consumo de energía para la generación de datos y el entrenamiento) y las tarifas del servidor. Se omiten los costos de comunicación.

B. Formulación de Utilidad y Pago

La utilidad $U_n$ para una organización se deriva de un equilibrio entre ganancias y pérdidas:

1. Ganancia por Cooperación: Los ingresos son proporcionales a la mejora en el rendimiento del modelo global ($\epsilon_0 - \epsilon(\mathbf{d}^{gen})$), donde el rendimiento se modela como una función de ley de potencia inversa del tamaño total de los datos.
2. Redistribución de Pagos: Para garantizar la equidad, las organizaciones con menores contribuciones reciben compensación de aquellas con mayores contribuciones. Esto es proporcional a la brecha de contribución marginal y la intensidad competitiva ($\gamma_{n,n'}$).
3. Pérdida por Coopetencia: Las organizaciones incurren en una pérdida que representa los ingresos que sus competidores obtienen de sus contribuciones, escalada por la intensidad competitiva.
4. Restricciones: El sistema opera bajo Racionalidad Individual (utilidad $\ge 0$) y Equilibrio Presupuestario (las transferencias monetarias totales suman cero).

C. Análisis de Teoría de Juegos

La interacción se modela como un Juego de Potencial Ponderado:

• Jugadores: Organizaciones racionales y con intereses propios.
• Estrategias: La cantidad de datos de GenAI a generar.
• Función de Potencial: Los autores demuestran que el juego posee una función de potencial ponderado $F(\mathbf{d}^{gen})$. El Equilibrio de Nash (NE) del juego corresponde a la minimización de esta función.
• Mecanismo de Solución: Dado que el problema de optimización no es convexo, los autores relajan las restricciones enteras sobre el tamaño de los datos a un intervalo continuo. Derivan las condiciones de NE utilizando las condiciones de Karush–Kuhn–Tucker (KKT) y resuelven la estrategia óptima de generación de datos mediante un algoritmo de Iteración de Punto Fijo (FPI) (Algoritmo 1).

3. Contribuciones Clave

1. Marco Compatible con la Coopetencia: CoCoGen es el primer marco que modela conjuntamente la heterogeneidad estadística y la competencia interorganizacional en CFL utilizando formulaciones de rendimiento de aprendizaje y utilidad.
2. Mecanismo Basado en Juegos de Potencial: Los autores demuestran que cada ronda de entrenamiento constituye un juego de potencial ponderado. Derivan una solución de forma cerrada para el Equilibrio de Nash, permitiendo a las organizaciones determinar estrategias óptimas de generación de datos de GenAI que maximicen el bienestar social.
3. Validación Empírica: Experimentos extensos en el conjunto de datos Fashion-MNIST demuestran la eficacia del marco bajo distintos niveles de heterogeneidad y competencia.

4. Resultados Experimentales

Los experimentos se realizaron con $N=10$ organizaciones utilizando el conjunto de datos Fashion-MNIST. Hallazgos clave incluyen:

• Impacto de la Heterogeneidad y la Competencia: Niveles crecientes de heterogeneidad estadística (parámetro Dirichlet más bajo $\alpha_D$) e intensidad competitiva (mayor $\bar{\gamma}$) reducen significativamente el bienestar social. Estas condiciones requieren un mayor volumen de datos generados por GenAI para mantener la convergencia del modelo.
• Rendimiento frente a Baselines: CoCoGen supera consistentemente a tres líneas base:
  • Vanilla CFL (VCFL): Sin aumento de GenAI.
  • Sin Competencia (WCO): Ignora los factores competitivos.
  • Generación de Datos Aleatoria (RaDG): Selecciona aleatoriamente las cantidades de generación de datos.
• Ganancias Cuantitativas: Bajo alta heterogeneidad ($\alpha_D = 0.1$), CoCoGen mejoró el bienestar social aproximadamente un 50% respecto a VCFL, un 25.93% respecto a WCO y un 16.89% respecto a RaDG.
• Efectividad del Mecanismo: El mecanismo de redistribución de pagos integrado compensa eficazmente a las organizaciones de alta contribución, mitigando las pérdidas por coopetencia y manteniendo los incentivos de participación incluso en entornos altamente competitivos.

5. Significado y Reivindicaciones

El artículo afirma que CoCoGen proporciona una solución teórica y algorítmica práctica para sostener la cooperación en el CFL en mercados competitivos reales.

• Perspectiva Teórica: Clarifica cómo la coexistencia de la heterogeneidad y la competencia afecta el comportamiento organizacional, mostrando que sin incentivos específicos (como la redistribución de pagos y la generación de datos optimizada), el bienestar social se degrada significativamente.
• Utilidad Práctica: Al aprovechar la GenAI para cerrar las brechas en la distribución de datos y utilizar la teoría de juegos para alinear los incentivos individuales con el bienestar colectivo, CoCoGen permite que las organizaciones se beneficien de la colaboración a pesar de ser rivales de mercado.
• Escalabilidad: El algoritmo FPI propuesto ofrece un método computacionalmente eficiente para derivar estrategias óptimas, lo que hace que el marco sea aplicable a despliegues de CFL en el mundo real.

Los autores concluyen que su trabajo aborda la necesidad crítica de equilibrar la privacidad, la competencia y la heterogeneidad de los datos, ofreciendo una vía hacia sistemas de aprendizaje federado más robustos y socialmente óptimos.