Autonomous Collaborative Learning Among an Ensemble of Tsetlin Machines with Consensus-Based Inference

Resumen Técnico: Aprendizaje Colaborativo Autónomo entre un Conjunto de Máquinas de Tsetlin con Inferencia Basada en Consenso

Planteamiento del Problema
La Máquina de Tsetlin (TM) es un algoritmo de aprendizaje automático basado en reglas, fundamentado en la lógica proposicional y en los Autómatas de Tsetlin (TA), que ofrece simplicidad computacional y eficiencia energética, lo cual es adecuado para dispositivos periféricos (edge) con recursos limitados. Si bien estudios recientes han explorado el Aprendizaje Federado (FL) con TMs, la literatura existente se centra predominantemente en arquitecturas de servidor centralizadas (FL Horizontal o Vertical) o asume capacidades homogéneas de los agentes. Existe una brecha significativa en la exploración del aprendizaje de TM descentralizado y distribuido, particularmente en entornos de partición vertical de características donde los agentes poseen subconjuntos de características disjuntos de las mismas instancias de datos. Los enfoques estándar de FL a menudo requieren el intercambio de actualizaciones de modelos o gradientes, lo que puede ser computacionalmente costoso o invasivo para la privacidad. El desafío radica en diseñar un marco donde agentes heterogéneos puedan aprender colaborativamente y alcanzar un consenso global sin intercambiar datos brutos ni revelar sus parámetros de modelo internos, operando bajo estrictas restricciones de energía y comunicación típicas de las redes de sensores.

Metodología
Los autores proponen un paradigma de aprendizaje colaborativo descentralizado utilizando una arquitectura de TM jerárquica de dos capas junto con un protocolo de comunicación basado en gossip.

1. Arquitectura:

   • Capa de Entrada: Cada agente mantiene una TM local que opera exclusivamente sobre su subconjunto privado y local de características booleanas. Esta capa aprende a reconocer patrones específicos del subconjunto de datos locales del agente.
   • Capa de Agregación de Vecindad: Una segunda capa de TM reside en cada agente. Su entrada consiste en las salidas de cláusulas de la TM de la Capa de Entrada del propio agente combinadas con las salidas de cláusulas recibidas de sus vecinos inmediatos en la topología de la red. Esta capa aprende a detectar patrones globales de nivel superior que emergen del clúster local de agentes.
   • Preservación de la Privacidad: Solo se intercambian salidas de cláusulas binarias (bits individuales) entre los vecinos. La estructura interna de las cláusulas, los estados de los autómatas y los datos brutos permanecen estrictamente locales y privados.

2. Protocolo de Comunicación:

   • El sistema emplea un protocolo de gossip asíncrono. Los agentes transmiten sus salidas de cláusulas a sus vecinos inmediatos sin un coordinador central.
   • Para la inferencia, se utiliza un protocolo de difusión multi-fuente de todos contra todos para propagar las sumas de votos de clase a través de la red, permitiendo que cada agente compute eventualmente una decisión globalmente consistente (consenso) basada en la agregación de los votos de todo el conjunto.

3. Flujo de Trabajo de Entrenamiento:

   • El entrenamiento ocurre en dos etapas por iteración. Primero, la TM de la Capa de Entrada se entrena con los datos locales. Segundo, la TM de la Capa de Agregación de Vecindad se entrena utilizando las salidas de cláusulas de la TM de la Capa de Entrada local y aquellas recibidas de los vecinos.
   • En escenarios de múltiples clases, los agentes mantienen pares de TMs (cláusulas positivas y negativas) para cada clase, actualizándolas secuencialmente basándose en las etiquetas de verdad de campo (ground-truth) y en las etiquetas de clases alternativas.

Contribuciones Clave

• Marco de FL Vertical Descentralizado: El artículo introduce el primer marco de TM jerárquico conocido diseñado para el aprendizaje descentralizado bajo partición vertical de características con muestras alineadas, eliminando la necesidad de un servidor central.
• Soporte para la Heterogeneidad: El paradigma acomoda agentes heterogéneos con diferentes medios de adquisición de datos, distribuciones de datos locales y recursos computacionales, facilitando la integración en entornos de detección multimodal.
• Comunicación Eficiente: Al intercambiar únicamente salidas de cláusulas binarias mediante un protocolo de gossip, el método reduce significativamente la sobrecarga de comunicación y preserva la confidencialidad tanto de los parámetros del modelo como de los datos locales.
• Inferencia Basada en Consenso: El sistema logra el consenso global a través de intercambios locales de par a par (peer-to-peer), permitiendo al conjunto reconocer patrones complejos que los modelos locales aislados no pueden capturar.

Resultados Experimentales
Los autores evaluaron el marco utilizando implementaciones de software en tres benchmarks:

1. MNIST y Fashion-MNIST:

   • Los experimentos consistieron en particionar imágenes de 28x28 en teselas asignadas a agentes en una cuadrícula 2D (por ejemplo, 49 agentes con teselas de 4x4, o 16 agentes con teselas de 7x7).
   • Resultados: La arquitectura jerárquica de dos capas superó consistentemente a los enfoques de una sola capa. En MNIST, el conjunto alcanzó precisiones de hasta el 94.65% (16 agentes, teselas de 7x7), acercándose al rendimiento de una TM centralizada clásica (96.73%). En Fashion-MNIST, el conjunto alcanzó un 83.99%, comparable a las líneas base centralizadas.
   • Los resultados demostraron que la capa de agregación aprende eficazmente los patrones de actividad de las cláusulas dentro del clúster, proporcionando una discriminación superior en comparación con la simple agregación por suma de votos.

2. Red de Sensores Heterogénea Sintética:

   • Se simuló una red de 25 agentes con datos de sensores heterogéneos (variaciones en escalas, desplazamientos, niveles de ruido y conteos de sensores).
   • Comparación con la Línea Base: Una Red Neuronal Artificial (ANN) centralizada entrenada con datos agregados logró un 93% de precisión, mientras que los agentes individuales entrenados con datos locales lograron solo entre 43% y 57.5% de precisión debido al solapamiento de datos y al ruido.
   • Desempeño de la TM: El conjunto de TM descentralizado logró un 93% de precisión, igualando a la ANN centralizada.
   • Escalabilidad: Se demostró que la precisión converge hacia la línea base centralizada a medida que aumenta el número de agentes participantes.
   • Robustez de la Topología: El marco también fue probado en una topología de grafo conectado general (no en cuadrícula) con 9 agentes que tenían diferentes conteos de vecinos. El sistema alcanzó un 76% de precisión, comparable a la ANN centralizada y a la configuración de cuadrícula con 9 agentes.

Significancia y Reivindicaciones
El artículo afirma que este trabajo establece un paradigma viable para el aprendizaje automático descentralizado y preservador de la privacidad en entornos de borde y redes de sensores. Al aprovechar la naturaleza basada en la lógica y de bajo consumo de las Máquinas de Tsetlin, el marco propuesto permite:

• Inteligencia Colaborativa: Los agentes pueden resolver colectivamente tareas de clasificación complejas que exceden las capacidades de los modelos locales individuales sin compartir datos brutos.
• Eficiencia de Recursos: El enfoque está diseñado para entornos de computación de baja potencia, evitando la pesada aritmética y los costos de comunicación asociados con el aprendizaje federado de aprendizaje profundo tradicional.
• Escalabilidad y Flexibilidad: El sistema funciona eficazmente a través de diversas topologías de red (cuadrículas y grafos generales) y soporta agentes heterogéneos, lo que lo hace adecuado para escenarios de detección multimodal del mundo real.

Los autores señalan que la evaluación actual asume canales de comunicación ideales y libres de errores, y que trabajos futuros abordarán las deficiencias de red realistas, tales como la pérdida de paquetes y la latencia.