How fine a change can moments see? A scale law for detecting distribution shift, with a kernel calibration rule

Resumen Técnico: Una Ley de Escala para la Detección de Desplazamientos de Distribución

Planteamiento del Problema
El artículo aborda el desafío de detectar desplazamientos de distribución en flujos de embeddings de alta dimensión. Mientras que los enfoques estándar plantean esto como una elección de estadística (por ejemplo, deriva de la covarianza, estimación de densidad o resúmenes topológicos como la homología persistente), el autor argumenta que la eficacia de cualquier detector basado en momentos está fundamentalmente limitada por la escala espacial ($\varepsilon$) del cambio y la fracción de masa ($f$) que este conlleva, más que por el número de características o la dimensionalidad del espacio. El trabajo investiga específicamente si los métodos topológicos (Homología Persistente) ofrecen una ventaja distintiva sobre las estadísticas basadas en momentos, particularmente bajo condiciones adversarias.

Metodología y Marco Teórico
El núcleo del artículo es la derivación y validación empírica de una ley de escala que gobierna la complejidad requerida para detectar cambios distribucionales.

1. La Ley de Escala (Límite Inferior):

   • El autor demuestra que certificar una característica de escala espacial $\varepsilon$ que porta una fracción de masa $f$ requiere pruebas polinómicas de grado $N^*$ que satisfacen:
     $$N^* \ge \frac{\log(1/f)}{2\varepsilon}$$
   • Este límite se deriva del problema extremal de Chebyshev. Implica que el costo de la detección está gobernado por la finura de la característica, no por el conteo de las características.
   • Para una topología de complejidad $b$ (por ejemplo, $b$ bucles), se establece un límite inferior de $N^* \ge 4b - 1$ utilizando argumentos de cuadratura de Gauss.

2. El Límite Superior y la Regla de Calibración:

   • Aunque el límite inferior es estricto para las pruebas polinómicas, el artículo identifica que las funciones de prueba gaussianas (el testigo del RKHS de un kernel RBF) pueden alcanzar una tasa de $N^* \propto \log(1/f)/\varepsilon$.
   • Esto conduce a una regla de calibración práctica: la anchura de banda ($\sigma$) de una prueba de Discrepancia de la Distancia Media Máxima (MMD) debe ajustarse para coincidir con la escala de la característica ($\sigma \approx \varepsilon$).

3. Contraejemplos y Limitaciones:

   • La ley es de un solo sentido: proporciona un límite inferior sobre el orden necesario, pero nunca certifica la suficiencia.
   • Se construye un contraejemplo específico: un anillo con un grosor no nulo posee una homología de primer orden no trivial ($H_1 \neq 0$) y, sin embargo, comparte su media, covarianza y todos los momentos hasta el orden cuatro con un disco lleno. Esto refuta la idea de que "la información de cuarto orden gobierna el cambio topológico canónico" en todos los casos.

4. Evaluación Empírica:

   • Conjuntos de Datos: Flujos de embeddings reales (MiniLM, bge-1024) de los corpora 20 Newsgroups y AG News.
   • Adversario: Un adversario basado en gradiente optimizado para evadir estadísticas de defensores específicos ($\mu, \Sigma$, k-NN, curtosis) mientras preserva la topología objetivo.
   • Líneas Base: Deriva de la covarianza, distancia de Mahalanobis, densidad k-NN, curtosis de Mardia y diversos resúmenes topológicos (Primer Paisaje de Persistencia, Persistencia Total, etc.).
   • Protocolo: Ventanas deslizantes ($W=200$), reducción por PCA a la dimensión intrínseca, y evaluación a tasas de Falsos Positivos (FPR) y Longitudes de Ejecución Promedio (ARL) fijas.

Resultados Clave

1. Validación de la Ley de Escala:

   • Los experimentos confirman que la anchura de banda óptima de MMD $\sigma^*$ es aproximadamente igual a la escala de la característica $\varepsilon$ (relación de la mediana $\sigma^*/\varepsilon = 1.12$, IQR $[1.01, 1.52]$).
   • Una estimación de $\varepsilon$ basada en datos permite que la prueba MMD alcance un AUC $\ge 0.95$.
   • Contra un adversario adaptativo optimizado contra $\{\mu, \Sigma, \text{k-NN}, \text{curtosis}\}$, todas esas estadísticas son evadidas. Solo la prueba de kernel con anchura de banda emparejada (MMD-RBF) detecta con éxito el desplazamiento.

2. Desempeño de la Homología Persistente (PH):

   • La elección del resumen es crítica: El desempeño de la PH está dominado por la elección del estadístico de resumen.
     • Primer Paisaje de Persistencia: Funciona pobremente (AUC $\approx 0.75$, recall 0.00 en FPR=1%). Su desempeño se degrada con la dimensión ambiental y es sensible a la reducción de la dimensión.
     • Persistencia Total: Funciona significativamente mejor (AUC $\approx 0.99$, recall 0.75 en FPR=1%), igualando el desempeño de la curtosis en entornos no adversarios.
   • Redundancia: El resumen de "Persistencia Total" se comporta estructuralmente como un momento de bajo orden (una lectura del perfil radial). En el régimen de cambios gruesos y de una sola escala (el foco del estudio), es redundante con la curtosis, pero incurre en un costo computacional masivo (116$\times$ la curtosis).
   • Fallo Adversario: Contra el adversario adaptativo, tanto la Persistencia Total como la curtosis fallan simultáneamente. El único detector que sobrevive es la prueba de kernel con anchura de banda emparejada.

3. Costo vs. Potencia:

   • No existe una "brecha de potencia" donde la PH detecte lo que los momentos omiten en esta tarea específica; más bien, hay una brecha de costo.
   • La PH (incluso con el mejor resumen) cuesta aproximadamente 116 veces más que la curtosis y falla bajo las mismas condiciones adversarias.
   • El "degradación con la dimensión ambiental" observado en algunas métricas es una propiedad del resumen del paisaje, no de la homología persistente en sí misma.

Significancia y Reivindicaciones
El artículo concluye con un conjunto de afirmaciones modestas pero precisas:

• La Ley de Escala: Establece un límite inferior teórico sobre el orden de los momentos requerido para detectar características de una escala dada, demostando que el costo de detección es una función de la finura de la característica, no del conteo de las características.
• Regla de Calibración: Proporciona una regla concreta y validada empíricamente para establecer la anchura de banda de las pruebas de dos muestras de kernel ($\sigma \approx \varepsilon$), lo cual es crítico para su éxito contra adversarios adaptativos.
• Veredicto sobre la Topología: El artículo no afirma que los resúmenes topológicos sean inútiles. Sin embargo, concluye que para el monitoreo grueso y de una sola escala (el régimen de los experimentos), los resúmenes topológicos están dominados por las pruebas de kernel en términos de costo.
  • El resumen que funciona (Persistencia Total) actúa esencialmente como un momento, alineándose con la predicción de la ley de que los momentos de bajo orden bastan para características gruesas.
  • El artículo sugiere que el valor genuino de la homología persistente reside en la detección de estructuras finas o multiescala donde el orden de momento equivalente sería prohibitivamente alto, un régimen que no está presente en los desplazos de embeddings probados.

En resumen, el trabajo argumenta que para la detección de desplazos de distribución en embeddings, la elección del estadístico está constreñida por la escala del desplazamiento. El enfoque práctico óptimo es una prueba de kernel con la anchura de banda ajustada a esa escala, mientras que los métodos topológicos no ofrecen ventaja en costo o potencia para la clase específica de deformaciones gruesas probadas.