Resumen Técnico: Inferencia Dividida Adaptativa Óptima en Latencia para la Colaboración Preservadora de la Privacidad entre Nube-Borde-Extremo

1. Declaración del Problema

Los dispositivos finales del Internet de las Cosas (IoT) enfrentan un compromiso crítico al procesar datos sensibles a la privacidad (por ejemplo, imágenes médicas): carecen de los recursos computacionales para ejecutar redes neuronales convolucionales (CNN) completas localmente, pero la transferencia de datos brutos o características intermedias a servidores en la nube o en el borde expone información sensible. Si bien el Cifrado Totalmente Homomórfico (FHE) permite la computación sobre datos cifrados sin descifrarlos, desplegar FHE íntegramente en la nube es prohibitivamente lento debido a la expansión del texto cifrado y la sobrecarga de la aritmética homomórfica. Por el contrario, depender únicamente de los servidores de borde es insuficiente debido a su capacidad limitada en comparación con la nube.

El problema central abordado por este artículo es determinar dónde dividir una CNN y cómo distribuir el sufijo cifrado entre los niveles de borde y nube para minimizar la latencia de extremo a extremo mientras se preserva estrictamente la privacidad. Específicamente, el artículo busca resolver el problema de seleccionar un par de división óptimo (un punto de división en el lado del extremo y un punto de terminación en el lado del borde) que equilibre la ejecución de texto plano local, los costos de cifrado, los retrasos de comunicación y los costos de ejecución de FHE remota.

2. Metodología

Arquitectura del Sistema y Modelo de Amenaza

El marco propuesto opera en una arquitectura de tres niveles:

• Dispositivo Final: Actúa como el ancla de confianza. Ejecuta el prefijo de texto plano inicial de la CNN, cifra la activación intermedia utilizando FHE (específicamente el esquema CKKS) y retiene la clave secreta localmente. Nunca transmite entradas brutas ni características en texto plano.
• Servidor de Borde (Edge): Es el primer nivel externo. Recibe activaciones cifradas y ejecuta un segmento continuo del modelo sobre los textos cifrados.
• Servidor de Nube (Cloud): Es el nivel de alta capacidad. Completa el sufijo cifrado restante si el borde no termina la inferencia.

Modelo de Amenaza: Los servidores de borde y de nube se modelan como "honestos pero curiosos". Siguen el protocolo fielmente, pero pueden intentar inferir información privada de los textos cifrados que procesan. El marco asume que no hay colusión entre los niveles; incluso si el borde y la nube combinan observaciones, no pueden descifrar los datos sin la clave secreta que posee únicamente el dispositivo final.

Diseño de Modelo Compatible con FHE

Para permitir una evaluación homomórfica eficiente, el artículo reemplaza las activaciones ReLU estándar por una función de activación residual cuadrática: $\sigma(z) = (\alpha \cdot z)^2 + z$. Esto preserva una vía residual lineal mientras utiliza un polinomio de grado 2, lo cual es compatible con el soporte de suma y multiplicación del esquema CKKS. El modelo se entrena desde cero con esta activación para asegurar que la precisión se mantenga en el dominio cifrado.

Algoritmo de Planificación Óptima de Latencia

Los autores formulan el despliegue como un problema de optimización con restricciones para minimizar la latencia total $T_{tot}(q, e)$, donde $q$ es el punto de división del lado del extremo y $e$ es el punto de terminación del lado del borde. La latencia total es la suma de:

1. Ejecución de Texto Plano Local ($T_{end}$): Computada basándose en los GFLOPS del dispositivo final.
2. Cifrado ($T_{enc}$): Costo de cifrar la activación de división.
3. Comunicación ($T_{comm}$): Retrasos de transmisión para los textos cifrados entre niveles, calculados según el tamaño de la carga útil (determinado por los parámetros de CKKS y el empaquetado SIMD) y los anchos de banda de enlace configurados.
4. Ejecución Remota de FHE ($T_{edge}, T_{cloud}$): Estimada utilizando densidades de costo calibradas empíricamente (segundos por GFLOP) para grupos de capas específicos (por ejemplo, convolución+pooling, capas totalmente conectadas) en el hardware respectivo.

El planificador soporta dos granularidades:

• A nivel de Convolución: Permite puntos de división en capas de convolución individuales.
• A nivel de Bloque: Restringe los puntos de división a los límites de bloques completos de la red o capas totalmente conectadas.

El sistema evalúa todos los pares factibles $(q, e)$ bajo restricciones como una política de exposición máxima del modelo (limitando la fracción de parámetros del modelo en el dispositivo final) y consistencia estructural, seleccionando el par que minimiza la latencia.

3. Contribuciones Clave

1. Marco de División Preservador de la Privacidad: Una arquitectura novedosa donde el dispositivo final es el único poseedor de la clave secreta y los datos en texto plano, mientras que los niveles de borde y nube realizan la computación estrictamente sobre textos cifrados de FHE.
2. Planificador Consciente de la Latencia: Un modelo de costo unificado y un algoritmo de optimización que considera conjuntamente la ejecución de texto plano, el cifrado, la comunicación y los costos heterogéneos de ejecución de FHE a través de los niveles de borde y nube.
3. Partición Consciente de la Granularidad: El marco soporta la división tanto a nivel de convolución como a nivel de bloque, demostrando que las divisiones más finas pueden reducir significamente la latencia al utilizar mejor los recursos del borde.
4. Prototipo de Implementación: Un prototipo funcional utilizando CKKS/OpenFHE en un banco de pruebas híbrido (Raspberry Pi 4B para el extremo, contenedores Docker en un servidor Xeon para el borde/nube) con modelos basados en VGG16.

4. Resultados Experimentales

Los experimentos se realizaron en los conjuntos de datos CIFAR-10 y PathMNIST utilizando una arquitectura VGG16 modificada (SquareVGG16).

• Rendimiento de Latencia:

  • El despliegue de división a nivel de convolución propuesto logró una latencia de extremo a extremo amortizada de 1033.279 s/muestra en CIFAR-10 y 1023.429 s/muestra en PathMNIST.
  • Esto representa una aceleración de aproximadamente 12.9× en comparación con una línea base de FHE de nube completa y 3.9× en comparación con una línea base de división a nivel de bloque.
  • La línea base de FHE de nube completa sufrió una latencia alta (aprox. 13,357 s/muestra en CIFAR-10) debido a la ejecución de todo el modelo de forma remota.

• Precisión:

  • El esquema colaborativo logró un 88.53% de precisión en CIFAR-10 y un 91.43% en PathMNIST.
  • Estos resultados coinciden exactamente con el modelo SquareVGG16 en texto plano (o dentro de 0.01 puntos porcentuales), confirmando que la activación compatible con FHE y la inferencia dividida no degradan el rendimiento del modelo.

• Sobrecarga de Comunicación:

  • La división a nivel de convolución incurrió en un mayor volumen de comunicación (aprox. 276 MB/muestra) en comparación con la división a nivel de bloque (141 MB/muestra) porque el traspaso a la nube ocurrió antes (después de Conv. III-1 frente a después de Block III). Sin embargo, la reducción en el tiempo de ejecución de FHE en el lado del borde superó el costo de comunicación, resultando en una menor latencia total.

• Análisis de Sensibilidad:

  • El plan de división óptimo (Bloque II en el extremo, Conv. III-1 en el borde) se mantuvo estable a través de varias configuraciones de ancho de banda. El plan solo se desplazó más profundamente hacia el nivel de borde cuando la tasa de ejecución de FHE del borde se acercaba a la de la nube.

5. Significación y Reivindicaciones

El artículo afirma que su principal significación radica en demostrar que la inferencia dividida preservadora de la privacidad puede hacerse óptima en latencia mediante la partición adaptativa. Al tratar la selección del punto de división como un problema de optimización conjunta que involucra costos de cifrado, comunicación y ejecución de FHE heterogénea, el marco cierra la brecha entre la alta seguridad de FHE y los requisitos prácticos de latencia de las aplicaciones IoT.

Los autores enfatizan que su trabajo proporciona una solución a nivel de sistemas que:

• Preserva el límite de privacidad criptográfica de FHE de nube completa (ningún texto plano sale del dispositivo final) mientras reduce drásticamente la latencia.
• Valida que la división de grano fino (a nivel de convolución) es superior a la división de grano grueso (a nivel de bloque) en entornos heterogéneos de nube-borde, incluso cuando los costos de comunicación aumentan.
• Ofrece un modelo de costo calibrado y reproducible para futuras investigaciones en inferencia distribuida cifrada.

El artículo concluye modestamente, señalando que la implementación actual es un prototipo de investigación basado en CPU para inferencia por lotes no interactiva, no para la toma de decisiones en tiempo real, y que el trabajo futuro se centrará en la aceleración de hardware y familias de modelos más amplias.