Sovereign-Mohawk: Machine-Checked Hierarchical Byzantine Resilience and Probabilistic Composition for Federated Learning

En el mundo moderno, los modelos de aprendizaje automático suelen ser demasiado grandes y los datos demasiado sensibles para ser recopilados en un solo lugar central. En su lugar, una técnica llamada aprendizaje federado permite que miles de dispositivos, desde teléfonos inteligentes hasta sensores industriales, entrenen una inteligencia compartida sin enviar nunca sus datos privados a un servidor central. Cada dispositivo aprende de su propia información local y envía solo una pequeña pieza actualizada del modelo para ser combinada. Este enfoque promete un futuro donde la inteligencia artificial mejore sin comprometer la privacidad personal. Sin embargo, este sistema descentralizado enfrenta una vulnerabilidad crítica: el problema "bizantino". En este contexto, un fallo bizantino ocurre cuando algunos participantes en la red actúan de forma maliciosa o presentan fallos, enviando actualizaciones corruptas diseñadas para envenenar todo el modelo. Si incluso un pequeño número de estos malos actores logra introducir sus datos corruptos en el cálculo final, el sistema completo puede fallar.

Para gestionar la escala masiva de millones de dispositivos, los ingenieros suelen organizar a estos participantes en una jerarquía, como un árbol con ramas y hojas. La idea es que si cada grupo local de dispositivos verifica a sus propios miembros en busca de malos actores antes de enviar los datos hacia arriba en la cadena, toda la red debería permanecer segura. Es una suposición reconfortante: si cada supervisor local hace su trabajo, el líder global debería estar bien. Pero esta suposición, tomada por sentada durante mucho tiempo en el diseño de estos sistemas, resulta ser peligrosamente errónea. Un nuevo estudio de Ryan Williams, titulado "Sovereign-Mohawk", expone esta debilidad oculta y ofrece una solución matemáticamente probada que reemplaza la conjetura con la certeza.

Los investigadores comenzaron probando la creencia común de que las garantías de seguridad local garantizan la seguridad global. Construyeron un modelo matemático formal de una jerarquía de dos niveles, donde grupos de dispositivos envían sus actualizaciones a supervisores regionales, quienes luego envían un resumen a un líder global. En su modelo, crearon un escenario donde cada uno de los supervisores regionales seguía las reglas perfectamente. Cada grupo local tenía una mayoría de dispositivos honestos, y los filtros locales bloquearon con éxito a los actores maliciosos obvios dentro de sus propios círculos pequeños. Sin embargo, cuando los investigadores observaron el panorama general, descubrieron que la red global estaba en realidad dominada por actores maliciosos. Al colocar cuidadosamente los dispositivos maliciosos de modo que estuvieran justo por debajo del umbral de detección en cada grupo local, lograron crear una situación en la que el sesenta por ciento de la red total estaba controlado por adversarios. Los guardias locales estaban haciendo su trabajo, pero el sistema en su conjunto había colapsado. Esto no fue una simulación de un posible fallo; fue una prueba verificada por máquina de que la antigua forma de pensar simplemente no funciona.

Tras haber refutado el método antiguo, el equipo necesitaba una forma de arreglar la jerarquía sin abandonar la eficiencia del procesamiento local. Se dieron cuenta de que el problema surgía porque la colocación de los dispositivos era predecible. Si un atacante sabe exactamente qué dispositivos se agruparán, puede organizar sus nodos maliciosos para filtrarse por las grietas. Para resolver esto, los investigadores introdujeron un método de asignación aleatoria. En lugar de dejar que los dispositivos permanezcan en grupos fijos, propusieron mezclarlos en comités mediante un proceso similar a sacar nombres de un sombrero, pero realizado con estrictas garantías matemáticas. Demostraron que si los dispositivos se asignan a estos comités de forma aleatoria, la probabilidad de que un grupo malicioso concentre suficientes actores malos para romper un filtro local es tan pequeña que es efectivamente cero. Verificaron esto utilizando un sistema informático diseñado para comprobar pruebas matemáticas, demostrando que incluso con cincuenta mil dispositivos en un comité y un número significativo de actores malos en la población total, la probabilidad de fallo es menor a uno entre un número tan vasto que tiene más ceros que átomos en el universo.

Este avance teórico no se quedó como una idea abstracta. Los investigadores construyeron un sistema de software funcional para demostrar que su nuevo método podía funcionar en el mundo real. Crearon un motor de alta velocidad escrito en un lenguaje llamado Go, que gestionaba el flujo de datos entre miles de dispositivos simulados. Este sistema incluía varias capas de protección para garantizar la privacidad y la seguridad. Añadía un tipo específico de ruido matemático a las actualizaciones de datos para evitar que alguien pudiera realizar ingeniería inversa de la información privada de los usuarios individuales. También utilizó herramientas criptográficas avanzadas para demostrar que los datos enviados eran válidos sin revelar los datos en sí, y empleó nuevos métodos de cifrado diseñados para resistir ataques de futuras computadoras cuánticas.

El equipo probó este sistema en un entorno controlado que imitaba una red masiva, ejecutando hasta mil quinientos dispositivos virtuales en una sola computadora física. Sometieron al sistema a ataques agresivos, donde hasta el treinta y cinco por ciento de los dispositivos intentaban activamente sabotear el proceso de aprendizaje. A pesar de esta intensa presión, el sistema se mantuvo firme. El modelo continuó aprendiendo y mejorando, alcanzando una precisión del 86.4 por ciento tras cien rondas de entrenamiento. Esto fue solo una pequeña caída comparado con un sistema perfecto y no atacado, que alcanzó el 88.2 por ciento. El coste de esta seguridad fue sorprendentemente bajo. El tiempo adicional requerido para verificar las pruebas y mezclar los dispositivos añadió solo unos treinta y cinco milisegundos al tiempo total de cada ronda de entrenamiento, un retraso tan breve que se mide en microsegundos.

El trabajo representa un cambio significativo en la forma en que pensamos sobre la seguridad de la inteligencia artificial a gran escala. Aleja al campo de la dependencia de suposiciones esperanzadoras sobre cómo escalarán las comprobaciones locales, y lo dirige hacia una base de garantías rigurosas verificadas por máquinas. Al demostrar que el antiguo modelo jerárquico estaba roto y proporcionar una nueva forma probabilística de organizar la red, los investigadores han demostrado que es posible construir sistemas que sean tanto eficientes como seguros contra atacantes decididos. El sistema "Sovereign-Mohawk" constituye un plano para un futuro donde millones de dispositivos puedan colaborar de forma segura, sabiendo que su inteligencia colectiva está protegida no por la esperanza, sino por matemáticas que han sido comprobadas hasta su detalle más mínimo.