$p$-adic Principal Component Analysis

Este artículo formula un problema de optimización $p$-ádica sobre la factorización de matrices e investiga un método heurístico análogo al Análisis de Componentes Principales (PCA) para resolverlo.

Lo esencial

¡Hola! Imagina que tienes una montaña de datos desordenados: miles de registros de clientes, sensores de temperatura o transacciones bancarias. Tu objetivo es encontrar el "secreto" que une a estos datos, reducirlos a algo manejable y detectar cuáles son extraños (anomalías).

En el mundo real, usamos una herramienta llamada PCA (Análisis de Componentes Principales) para esto. Es como si tomaras una foto 3D de una nube de puntos y proyectaras la sombra más clara en una pared 2D, perdiendo la menor cantidad de información posible. Funciona genial con números reales (como la temperatura o el peso).

Pero, ¿qué pasa si tus datos no son números reales, sino que tienen una estructura "digital" o modular, como los bits de un ordenador (0 y 1) o números que se comportan de forma cíclica (como las horas en un reloj)? Aquí es donde entra este paper de Tomoki Mihara.

El Problema: El "Mundo Real" no sirve para todo

El autor dice: "Oye, el método clásico (PCA) asume que los datos viven en un mundo suave y continuo, como una carretera. Pero muchos datos viven en un mundo de 'saltos' o 'módulos', como un escalón o un reloj que da vueltas".

Si intentas usar el PCA normal en estos datos, es como intentar medir la distancia entre dos ciudades usando una regla de goma que se estira y se encoge de formas extrañas. No funciona bien porque las reglas de la geometría euclidiana (la que aprendimos en la escuela) no se aplican aquí.

La Solución: El "Mundo p-ádico"

El paper introduce una nueva forma de hacer PCA usando números p-ádicos.

• La Analogía: Imagina que los números reales son como una línea infinita y suave. Los números p-ádicos son como un árbol gigante o una pirámide de cajas.
  • En el mundo real, para ir de un punto a otro, puedes caminar suavemente.
  • En el mundo p-ádico, para ir de un punto a otro, tienes que subir o bajar por los niveles de la pirámide. Dos puntos pueden estar "muy cerca" si comparten la misma caja grande, aunque sus números parezcan muy diferentes.

El autor propone un PCA p-ádico que entiende esta estructura de "cajas y niveles" en lugar de intentar forzar los datos a ser suaves.

¿Cómo funciona? (Sin matemáticas complicadas)

El paper propone dos métodos principales, que llamaremos "El Explorador Rápido" y "El Arquitecto Paciente":

1. El Explorador Rápido (Non-reduced PCA):

   • La idea: Mira los datos uno por uno. Si encuentras un dato interesante, úsalo como base para explicar a los demás. Luego, mira el siguiente dato que no se explique bien y úsalo como nueva base.
   • La metáfora: Es como si estuvieras organizando una biblioteca. Tomas el primer libro que ves, lo pones en una estantería. Luego tomas el siguiente libro que no encaja con el primero y lo pones en otra estantería. Es rápido, pero a veces las estanterías se cruzan y se mezclan.

2. El Arquitecto Paciente (Reduced PCA):

   • La idea: Antes de empezar a organizar, primero "limpia" y "alinea" todos los libros. Asegúrate de que las estanterías sean perfectamente perpendiculares entre sí (ortogonales) antes de empezar a colocar los libros.
   • La metáfora: Es como construir una casa. Primero aseguras que los cimientos y las paredes estén perfectamente cuadrados y nivelados (usando un proceso llamado "ortogonalización iterativa"). Solo entonces empiezas a colocar los muebles. Es más lento al principio, pero el resultado final es mucho más ordenado y preciso.

¿Para qué sirve esto? (La prueba de fuego)

El autor hizo experimentos para ver si su método podía detectar anomalías (datos raros o errores).

• El escenario: Imagina que tienes miles de puntos "normales" que viven en un grupo pequeño (como un vecindario) y unos pocos puntos "anormales" que viven en otro lugar o tienen un comportamiento extraño.
• El resultado:
  • El PCA clásico (o métodos antiguos basados en álgebra lineal simple) fallaba porque no entendía la estructura de "cajas" de los datos. A veces confundía a los vecinos normales con los extraños.
  • El PCA p-ádico (especialmente el "Arquitecto Paciente") fue excelente. Logró separar a los datos normales de los raros con mucha precisión, incluso cuando los datos "raros" parecían normales a simple vista pero tenían una estructura oculta diferente.

En resumen

Este paper es como un manual de instrucciones para organizar datos que viven en un universo digital o modular.

• El problema: Las herramientas actuales (PCA normal) son como intentar poner un cuadrado en un círculo; no encajan bien con datos categóricos o modulares.
• La innovación: Usar la geometría de los números p-ádicos (el "árbol de cajas") para entender cómo se relacionan los datos.
• El resultado: Una nueva herramienta que detecta anomalías y reduce la complejidad de datos que antes eran muy difíciles de analizar, especialmente en campos como la ciberseguridad, el análisis de redes o el procesamiento de datos binarios.

Es como si el autor nos hubiera dado unas gafas especiales para ver la estructura oculta de los datos digitales, permitiéndonos encontrar el "ruido" (lo extraño) en medio de la "señal" (lo normal) de una manera que antes era imposible.

Resumen técnico

Resumen Técnico: Análisis de Componentes Principales p-ádico (p-adic PCA)

1. Planteamiento del Problema

El Análisis de Componentes Principales (PCA) es una herramienta fundamental para la reducción de dimensionalidad en datos continuos reales, basada en el álgebra lineal sobre $\mathbb{R}$. Sin embargo, su aplicación directa a variables categóricas o datos con estructuras algebraicas discretas (como operaciones booleanas o aritmética modular) presenta desafíos significativos:

• Pérdida de Estructura: Al incrustar conjuntos categóricos (ej. $\{0, 1\}$ o $\mathbb{Z}/n\mathbb{Z}$) en espacios euclidianos, se pierden las operaciones algebraicas originales, generando componentes que son combinaciones reales virtuales sin significado categórico.
• Limitaciones del PCA Clásico en Contextos p-ádicos:
  • Falta de Diagonalización: En el contexto p-ádico, las matrices simétricas no son necesariamente diagonalizables, lo que invalida el método estándar de PCA basado en la descomposición de la matriz de covarianza.
  • Problemas de Distribución: No existe una distribución natural p-ádica análoga a la distribución normal que permita la estandarización o normalización efectiva.
  • Dificultad de Optimización: La ausencia de un cálculo diferencial estándar (gradientes) en los números p-ádicos impide el uso de métodos de optimización basados en gradientes. Además, las funciones de pérdida basadas en normas suelen ser localmente constantes, haciendo difícil determinar pasos de optimización.
  • Deficiencias del Producto Interno: El producto interno estándar p-ádico no satisface necesariamente la condición de no degeneración ($\langle v, v \rangle = 0 \iff v = 0$), lo que complica la definición de ortogonalidad y correlación.

El objetivo del artículo es formular un PCA p-ádico que respete la estructura algebraica de los datos (incrustados en $\mathbb{Q}_p^D$ o $\mathbb{Z}_p^D$) y funcione como una herramienta de reducción de dimensionalidad y detección de anomalías, superando las limitaciones de los métodos basados en la forma normal de Smith (que usan la norma $\ell_\infty$).

2. Metodología

El autor propone un enfoque heurístico que evita la diagonalización y el cálculo diferencial, basándose en la proyección de mínimos y la ortogonalidad p-ádica.

2.1. Ortogonalidad y Proyección 1-Dimensional

En lugar de usar el producto interno, se define la ortogonalidad basándose en la relación entre la perpendicularidad y el punto más cercano:

• Definición: Un vector $\vec{w}$ es la componente de $\vec{v}_0$ a lo largo de $\vec{v}_1$ si $\vec{w}$ es el punto más cercano a $\vec{v}_0$ en el subespacio generado por $\vec{v}_1$ (es decir, minimiza $\|\vec{v}_0 - c\vec{v}_1\|$).
• Componente Ortogonal: La diferencia $\vec{v}_0 - \vec{w}$ se considera la componente ortogonal.
• Algoritmo de Búsqueda: Dado que la función de pérdida es una suma de normas $q$-ádicas, el problema de encontrar el coeficiente óptimo $c$ se resuelve mediante un algoritmo de búsqueda en árbol de prefijos (Trie Tree) sobre las expansiones $\pi$-ádicas de los datos. Esto permite calcular la proyección de manera eficiente sin derivadas.

2.2. Sistemas Ortogonales

Debido a que la ortogonalidad p-ádica no es simétrica y no forma subespacios lineales en general, el método requiere una ortogonalización iterativa:

• Se aplica un proceso de ortogonalización repetido sobre un conjunto de vectores hasta que la norma del residuo se estabilice o se alcance un umbral.
• Esto genera un sistema de coordenadas aproximadamente ortogonal.

2.3. Dos Variantes de PCA p-ádico

El artículo presenta dos algoritmos principales para la factorización de matrices de bajo rango:

1. NRPCA (Non-reduced p-adic PCA):

   • Método: Selecciona dinámicamente el primer vector no nulo disponible en los datos residuales como el nuevo componente principal.
   • Características: Computación dinámica paso a paso. No garantiza que el sistema de coordenadas resultante sea ortogonal.
   • Ventaja: Menor tasa de falsos positivos.

2. RPCA (Reduced p-adic PCA):

   • Método: Primero realiza una ortogonalización iterada de todos los datos de entrada para generar un sistema de coordenadas precomputado (aproximadamente ortogonal). Luego, selecciona los vectores de este sistema precomputado para construir la factorización.
   • Características: Pre-cálculo pesado pero produce un sistema de coordenadas más estable y ortogonal.
   • Ventaja: Mayor precisión en la detección de anomalías y mejor reducción de error.

2.4. Búsqueda de Línea y Descenso de Coordenadas

Se introducen técnicas de "búsqueda de línea p-ádica" y "descenso de coordenadas" para verificar si una solución heurística es localmente óptima, ajustando los coeficientes de la matriz de proyección hasta que no se pueda reducir más la norma del error.

3. Contribuciones Clave

1. Formulación de PCA sin Diagonalización: Se propone un marco para la reducción de dimensionalidad en espacios p-ádicos que no depende de la diagonalización de matrices ni de distribuciones gaussianas.
2. Definición de Ortogonalidad Basada en Proyección: Se introduce una noción de ortogonalidad robusta para espacios normados p-ádicos basada en la minimización de la distancia (punto más cercano), superando las limitaciones del producto interno estándar.
3. Algoritmos Heurísticos Eficientes: Desarrollo de algoritmos (NRPCA y RPCA) que utilizan árboles de prefijos (Trie) para resolver problemas de optimización de normas $q$-ádicas de manera exacta y eficiente.
4. Superación de la Forma Normal de Smith: Se demuestra que el uso de la norma $\ell_q$ (en lugar de $\ell_\infty$) permite aplicar la reducción de dimensionalidad a tareas de detección de anomalías donde los datos anómalos tienen normas $\ell_\infty$ pequeñas, un escenario donde los métodos basados en la forma normal de Smith fallan.

4. Resultados Experimentales

Los experimentos se realizaron con $p=7$, dimensión $D=100$, y datos en $\mathbb{Q}_p^D$ con norma $\ell_1$. Se evaluaron dos escenarios:

4.1. Detección de Anomalías en Bolas Abiertas

• Escenario: Datos normales agrupados en bolas cerradas de radio $|p|^2$ y datos anómalos dispersos.
• Resultados:
  • RPCA mostró una tasa de verdaderos positivos (True Positive Ratio) significativamente superior a NRPCA en todos los casos, especialmente cuando el número de bolas ($B$) era menor que la dimensión reducida ($D^-$).
  • NRPCA presentó una tasa de falsos positivos (False Positive Ratio) más baja, lo que lo hace útil cuando la prioridad es evitar alarmas falsas.
  • RPCA logró detectar anomalías incluso cuando su norma $\ell_\infty$ era pequeña, algo imposible para métodos basados en Smith.

4.2. Detección en Subespacios Afines

• Escenario: Datos normales distribuidos cerca de un subespacio afín de dimensión $D'$ con ruido, y datos anómalos fuera de este subespacio.
• Resultados:
  • RPCA logró una tasa de verdaderos positivos extremadamente alta (cercana al 100%) incluso cuando la dimensión del subespacio $D'$ era mayor que la dimensión de reducción $D^-$.
  • Esto demuestra que RPCA puede capturar estructuras subespaciales complejas en entornos no supervisados donde los métodos algebraicos lineales tradicionales (como eliminación gaussiana sobre campos finitos) fallan.

5. Significado e Impacto

El trabajo de Mihara es significativo por varias razones:

• Puente entre Teoría de Números y Ciencia de Datos: Establece un marco riguroso para aplicar técnicas de aprendizaje automático (PCA) en el contexto de los números p-ádicos, abriendo nuevas vías para el análisis de datos categóricos y discretos.
• Alternativa a los Métodos Euclidianos: Ofrece una solución viable para el análisis de datos donde la estructura algebraica (como operaciones modulares o booleanas) es crítica y no debe perderse en una incrustación euclidiana.
• Aplicabilidad en Detección de Anomalías: Demuestra que el PCA p-ádico es superior a los métodos basados en la forma normal de Smith para la detección de anomalías en escenarios donde la magnitud de los datos (norma $\ell_\infty$) no es un indicador fiable de su rareza.
• Fundamento para Futuras Investigaciones: Proporciona los algoritmos básicos (ortogonalización, proyección, búsqueda en Trie) necesarios para desarrollar redes neuronales p-ádicas y otros modelos de optimización en este dominio, un área emergente en la intersección de la teoría de números y la inteligencia artificial.

En conclusión, el artículo presenta una reformulación exitosa del PCA adaptada a la geometría ultramétrica de los números p-ádicos, demostrando su eficacia práctica mediante algoritmos heurísticos robustos y resultados experimentales superiores en tareas de detección de anomalías complejas.