Privacy-Preserving LLMs Routing

Resumen Técnico: PPRoute - Enrutamiento de LLMs con Preservación de la Privacidad

1. El Problema

El enrutamiento de Modelos de Lenguaje Grande (LLM) ha surgido como una estrategia crítica para equilibrar el rendimiento del modelo y la eficiencia de costos, seleccionando dinámicamente servicios de diversos proveedores. Sin embargo, esta arquitectura introduce una capa intermedia entre el usuario y los LLMs, generando nuevos riesgos de privacidad:

• Fugas de datos: La integración de una etapa de enrutamiento puede exponer las consultas de los usuarios dentro del pipeline de inferencia.
• Gestión de terceros: El enrutamiento suele ser gestionado por terceros, complicando la cadena de control de datos sensibles.
• Falta de soluciones existentes: Las metodologías actuales de preservación de privacidad para el enrutamiento de LLMs están poco exploradas.

Aunque la Computación Segura Multi-Parte (MPC) permite realizar cálculos sobre datos compartidos en secreto sin revelar la información subyacente, su aplicación directa al enrutamiento de LLMs es prohibitiva debido a la sobrecarga computacional y de comunicación. Las operaciones no lineales (como Softmax y funciones de activación como GeLU) y los protocolos de búsqueda de vecinos más cercanos (KNN) encriptados generan latencias extremas (ej. inferencia de BERT bajo MPC puede ser >60x más lenta que en texto plano).

2. Metodología: El Marco PPRoute

Los autores proponen PPRoute, un marco de enrutamiento de LLMs basado en embeddings (incrustaciones) diseñado específicamente para operar bajo MPC sin sacrificar la calidad del enrutamiento. La solución se basa en tres pilares técnicos:

A. Operaciones Amigables con MPC (Aceleración de Inferencia)
El codificador (encoder) del enrutador, basado en Transformers, contiene operaciones costosas bajo MPC. PPRoute reemplaza estos cuellos de botella:

• Aproximación de Softmax: Reemplaza la función exponencial (costosa) con una aproximación llamada "2ReLU", definida como ReLU(x) / ΣReLU(x).
• Aproximación de GeLU: Sustituye la función de error gaussiano (GeLU) por ReLU, que es simple, eficiente y nativamente compatible con MPC.
• Resultado: Se elimina la necesidad de iteraciones complejas y multiplicaciones costosas, reduciendo drásticamente la latencia de inferencia.

B. Algoritmo de Entrenamiento Multi-etapa (Distilación de Conocimiento)
Dado que reemplazar las funciones de activación degrada el rendimiento del modelo, PPRoute utiliza un enfoque de distilación de conocimiento en texto plano (antes de la inferencia encriptada):

1. Modelo Profesor: Un enrutador original con operaciones estándar.
2. Modelo Estudiante: Un enrutador con el codificador aproximado (operaciones amigables con MPC).
3. Entrenamiento: Se utiliza una función de pérdida híbrida que combina la pérdida de enrutamiento (L_routing) y la pérdida de distilación (L_distill). Esto asegura que el modelo estudiante mantenga una alta precisión de enrutamiento a pesar de las aproximaciones, mientras se entrena completamente en texto plano. Solo la inferencia final ocurre bajo MPC.

C. Búsqueda de Vecinos Más Cercanos (Unsorted Top-k)
La búsqueda de los modelos más similares (KNN) en un entorno encriptado suele requerir muchas rondas de comunicación. PPRoute introduce un algoritmo novedoso de "Top-k no ordenado":

• Mecanismo: Transforma el problema de clasificación en operaciones matriciales altamente paralelizables. Se construye una matriz de comparación binaria entre el vector de entrada y el pool de modelos.
• Complejidad: Logra una complejidad de comunicación de O(1) (rondas constantes). En lugar de ordenar completamente los datos (lo cual es costoso), calcula puntuaciones de rango mediante sumas locales de comparticiones secretas y aplica una función de umbral.
• Ventaja: Elimina la latencia de comunicación iterativa, haciendo viable la búsqueda en tiempo real para pools de modelos de tamaño limitado.

3. Contribuciones Clave

1. Primera investigación sistemática: Es el primer trabajo que identifica los riesgos de privacidad en el enrutamiento de LLMs y propone un marco end-to-end (PPRoute) para mitigarlos.
2. Optimización de inferencia: Logra un rendimiento comparable al texto plano mediante la sustitución de funciones costosas (Softmax/GeLU) por aproximaciones eficientes (2ReLU/ReLU).
3. Algoritmo de búsqueda eficiente: Introduce un algoritmo de Top-k con complejidad de comunicación constante, resolviendo el cuello de botella de la búsqueda de vecinos en MPC.
4. Generalización: El marco es agnóstico al modelo y se ha validado exitosamente sobre dos sistemas de enrutamiento existentes: CSCR y UniRoute.

4. Resultados Experimentales

Los experimentos se realizaron en tres conjuntos de datos de referencia (EmbedLLM, MixInstruct, RouterBench) utilizando el framework CrypTen para MPC.

• Aceleración de Velocidad:

  • PPRoute logra una aceleración de ~20x (hasta 23x en algunos casos) en comparación con implementaciones ingenuas de MPC.
  • El tiempo de inferencia del codificador se redujo de ~190 segundos (baselines) a ~9 segundos.
  • La búsqueda Top-k mejoró de 10 segundos (algoritmos de ordenamiento existentes) a **0.25 segundos**.

• Calidad de Enrutamiento:

  • PPRoute mantiene una calidad de enrutamiento casi idéntica a sus contrapartes en texto plano.
  • Métricas clave como AUDC (Área bajo la curva de diferimiento), Peak Accuracy (Precisión máxima) y QNC (Costo normalizado por consulta) muestran diferencias mínimas (ej. en EmbedLLM, AUDC de 0.539 en original vs. 0.538 en PPRoute).
  • El sistema equilibra eficazmente el rendimiento y el costo, protegiendo la privacidad del usuario sin sacrificar la utilidad.

5. Significado e Impacto

Este trabajo es fundamental para la adopción segura de sistemas de enrutamiento de LLMs en entornos sensibles (salud, finanzas, empresas).

• Viabilidad Práctica: Demuestra que la privacidad criptográfica (MPC) no tiene por qué ser incompatible con la latencia baja requerida por las aplicaciones de IA en tiempo real.
• Seguridad de Datos: Permite que las consultas de los usuarios y las representaciones de los modelos permanezcan confidenciales durante todo el proceso de selección del modelo, evitando que el proveedor del enrutador o los proveedores de modelos accedan a los datos sensibles.
• Futuro: Establece un nuevo estándar para el diseño de sistemas de enrutamiento que priorizan la privacidad sin comprometer la eficiencia operativa.

En conclusión, PPRoute cierra la brecha entre la necesidad de enrutamiento dinámico de LLMs y la exigencia de privacidad de datos, ofreciendo una solución técnica robusta, rápida y escalable.