Resumen Técnico: Hacia el Aprendizaje Federado Interpretable

Enunciado del Problema

El Aprendizaje Federado (FL) permite el entrenamiento colaborativo de modelos entre múltiples propietarios de datos sin exponer los datos privados locales. Sin embargo, la adopción generalizada del FL, especialmente en dominios críticos como las finanzas y la atención sanitaria, se ve obstaculizada por la falta de interpretabilidad. Los modelos modernos de FL a menudo dependen de arquitecturas complejas y no lineales (por ejemplo, Redes Neuronales Profundas) con millones de parámetros, lo que hace que sus mecanismos internos y procesos de toma de decisiones sean opacos para las partes interesadas. Esta opacidad erosiona la confianza y complica el cumplimiento de normativas como el GDPR, que exige "explicaciones significativas" para las decisiones automatizadas.

Aunque existe la IA interpretable para el aprendizaje centralizado, aplicar estos conceptos al FL es significativamente más desafiante debido a:

1. Invisibilidad de los datos: Los datos locales permanecen ocultos para el servidor y otros clientes.
2. Restricciones de recursos: Los clientes suelen operar en dispositivos con capacidad de cálculo y comunicación limitada.
3. Complejidad interdisciplinaria: Las soluciones requieren integrar aprendizaje automático, optimización, criptografía y factores humanos.

Actualmente, no existe una encuesta exhaustiva que aborde estos desafíos específicos en el contexto del Aprendizaje Federado Interpretable (IFL).

Metodología: Taxonomía Propuesta

El artículo propone la primera encuesta exhaustiva y una taxonomía única para el IFL. El marco se estructura en torno al proceso de entrenamiento del FL, el análisis de las partes interesadas y los requisitos de protección de la privacidad.

1. Definición y Alcance

Los autores amplían la definición de interpretabilidad más allá de la selección de clientes para incluir:

• Definición: La capacidad de cualquier parte (servidor o cliente) de explicar o presentar comportamientos relacionados con modelos y datos en términos comprensibles para otras partes bajo un protocolo de FL.
• Partes interesadas:
  • Directas: Servidor FL (necesita comprender la calidad de los datos del cliente, el comportamiento del modelo y la asignación de recompensas) y Clientes FL (necesitan comprender los criterios de selección y la justificación de las recompensas).
  • Indirectas: Investigadores, reguladores y responsables políticos (necesitan perspectivas de depuración y verificación del cumplimiento normativo).
• Objetivos de privacidad:
  • Hacia el servidor: Proteger los datos crudos y las distribuciones de datos.
  • Hacia los clientes (en VFL): Proteger las etiquetas de la exposición a otros clientes.
• Modelos de amenazas: Participantes semihonestos (siguen el protocolo pero inferen datos) y participantes maliciosos (comprometen los modelos).
• Técnicas de privacidad: Privacidad Diferencial (DP), Cifrado Homomórfico (HE) y Computación Segura de Múltiples Partes (MPC).

2. Taxonomía de Enfoques IFL

La encuesta clasifica los trabajos existentes en cinco etapas del ciclo de vida del FL:

A. Selección de Clientes Interpretable

Métodos para identificar clientes de alta calidad para la agregación.

• Basados en importancia:
  • Desviación del modelo: Utiliza las desviaciones de las actualizaciones locales respecto a las actualizaciones globales (por ejemplo, Krum, Bulyan) para detectar clientes ruidosos o maliciosos.
  • Basados en pérdida: Cuantifica la importancia mediante la pérdida local o utilidades basadas en la pérdida.
  • Basados en la norma del gradiente: Utiliza normas de gradiente (o cotas superiores) para una medición más precisa que la pérdida por sí sola.
• Basados en influencia:
  • Reentrenamiento: Perturba/elimina clientes para medir el impacto en el rendimiento (computacionalmente costoso).
  • Funciones de influencia: Utiliza optimización de segundo orden (Hessiana) para aproximar la influencia sin reentrenamiento completo. Trabajos recientes utilizan Productos Vectoriales de Hessiana (HVP) para reducir la complejidad de $O(p^3n)$ a $O(np)$.

B. Selección de Muestras Interpretable

Métodos para seleccionar muestras de datos específicas dentro del conjunto de datos local de un cliente.

• Basados en lógica: Utiliza razonamiento lógico o aprendizaje de reglas para agregar actualizaciones o seleccionar indicaciones (por ejemplo, para LLM).
• Basados en importancia: Selecciona muestras basándose en umbrales de pérdida o cotas superiores de la norma del gradiente, filtrando a menudo valores atípicos.
• Basados en influencia: Aproxima el impacto de muestras individuales en las predicciones del modelo utilizando HVP o valores de influencia basados en signos para evitar altos costos computacionales.

C. Selección de Características Interpretable

Métodos para identificar características relevantes y descartar ruido/redundancia.

• Agnóstico del modelo: Trata el modelo como una caja negra.
  • Supervisado: Utiliza medidas estadísticas (Información Mutua, impureza de Gini, estadísticas F) mediante MPC o agregación distribuida.
  • No supervisado: Utiliza métodos como One-Class SVM para detectar características atípicas en entornos no IID.
• Específico del modelo: Trata el modelo como una caja blanca.
  • Utiliza restricciones (L1, L2, L0) y arquitecturas (Autoencoders, Puertas Duales Estocásticas) para seleccionar características directamente durante el entrenamiento.

D. Optimización de Modelos Interpretable

• Modelos intrínsecamente interpretables: Reemplaza las DNN complejas con modelos autoexplicativos como Árboles de Decisión (por ejemplo, FedForest) o representaciones intermedias.
• Agregación robusta interpretable:
  • Semihonesto: Utiliza mecanismos de incentivos (por ejemplo, juegos de Stackelberg) para recompensar actualizaciones de alta calidad.
  • Malicioso: Asigna pesos más bajos a clientes atípicos basándose en valores de influencia para mitigar ataques bizantinos.

E. Evaluación de Contribuciones Interpretable

Métodos para cuantificar el valor de los clientes o características para una asignación justa de recompensas.

• Contribución del cliente:
  • Juegos de utilidad: Mide cambios en la utilidad marginal.
  • Valor de Shapley (SV): El estándar de oro para la asignación justa. Los trabajos se centran en acelerar el cálculo del SV (por ejemplo, basado en gradientes, incrustación local) para evitar la complejidad exponencial. Se explora el cálculo seguro de SV para entornos maliciosos utilizando HE o blockchain.
• Contribución de características:
  • Basado en SV: Estima la importancia de las características (a menudo requiriendo suposiciones que violan la privacidad en VFL).
  • Basado en atención: Utiliza mecanismos de atención jerárquica para visualizar correlaciones de características.
  • Basado en activación: Extrae características de entrada que activan fuertemente neuronas (por ejemplo, Flames2Graph para series temporales).

Contribuciones Clave

1. Primera Encuesta Exhaustiva: El artículo proporciona la primera encuesta dedicada al IFL, cerrando la brecha entre el FL y la interpretabilidad.
2. Taxonomía Novel: Introduce una taxonomía estructurada que cubre la selección de clientes/muestras/características, la optimización de modelos y la evaluación de contribuciones, mapeando explícitamente estas a las necesidades de las partes interesadas, modelos de amenazas y técnicas de privacidad.
3. Análisis Sistemático: Los autores analizan enfoques representativos, sus mecanismos subyacentes (por ejemplo, aproximaciones HVP, protocolos MPC) y sus compensaciones en cuanto a precisión, eficiencia y privacidad.
4. Revisión de Métricas de Evaluación: El artículo clasifica las métricas de evaluación en Efectividad (Rendimiento post-interpretabilidad, Fidelidad mediante reentrenamiento con exclusión parcial) y Eficiencia (Costos de cálculo y comunicación).
5. Futuras Direcciones: Los autores delinean brechas de investigación específicas, incluyendo:
   • Aproximación de Modelos Interpretables: Utilizar aprendizaje de imitación para aproximar modelos FL complejos con modelos interpretables sin pérdida significativa de precisión.
   • IFL Robusto al Ruido Consciente de Muestras Difíciles: Desarrollar métodos que distingan entre muestras ruidosas y muestras difíciles con influencia positiva sin conocimiento previo de umbrales.
   • Interpretabilidad para LLM: Adaptar el IFL para Modelos de Lenguaje Grandes Federados (FedLLM) donde las entradas son objetos combinatorios.
   • Modelos de Amenazas Complejos: Ir más allá de las suposiciones semihonestas para manejar actores maliciosos/colusorios.
   • Compensaciones Privacidad-Eficiencia: Reducir los altos costos de las técnicas de preservación de la privacidad (DP, HE, MPC) para dispositivos con recursos limitados.
   • Evaluación Estandarizada: Desarrollar métricas que midan el nivel de exposición a la privacidad en relación con la interpretabilidad lograda.

Resultados y Afirmaciones

El artículo no presenta nuevos resultados experimentales ni un algoritmo novedoso. En cambio, sus "resultados" son la síntesis del estado actual del arte.

• Hallazgos: La investigación actual en IFL está fragmentada, a menudo centrándose en etapas individuales (por ejemplo, solo selección de clientes) o modelos de amenazas específicos (semihonestos). Muchos métodos dependen de reentrenamientos costosos o suposiciones fuertes (por ejemplo, acceso del servidor a datos de prueba) que pueden no sostenerse en la práctica.
• Significado: El artículo afirma que al proporcionar esta taxonomía y análisis, reduce la barrera de entrada para nuevos investigadores y guía el desarrollo de técnicas IFL versátiles. Enfatiza que lograr la interpretabilidad es crucial para construir confianza, garantizar el cumplimiento normativo y habilitar mecanismos de incentivos justos en los ecosistemas de FL.

Los autores mantienen un tono modesto, reconociendo que, aunque el IFL es un campo emergente, persisten desafíos significativos para equilibrar la interpretabilidad, la privacidad y la eficiencia, particularmente en escenarios complejos del mundo real que involucran actores maliciosos y dispositivos con recursos limitados.