Encoding Robust Topological Signatures for Hyperdimensional Computing

Este trabajo propone un marco robusto de computación hiperdimensional que codifica primitivas topológicas invariantes a la rotación, traslación y escala, específicamente formas externas y agujeros, en hipervectores, demostrando una resiliencia significativamente mejorada frente a corrupciones a nivel de píxel en comparación con los codificadores basados en píxeles estándar y las CNN compactas, al tiempo que mantiene una precisión en datos limpios competitiva.

Lo esencial

Imagina que estás intentando enseñar a una computadora a reconocer números escritos a mano, como los dígitos en un trozo de papel. Por lo general, las computadoras hacen esto observando cada píxel individual (los pequeños puntos que componen la imagen) y memorizando exactamente cómo se ve la tinta.

El artículo argumenta que este enfoque "píxel por píxel" es como intentar reconocer a un amigo por el patrón exacto de pecas en su rostro. Si ese amigo se pone un sombrero, se broncea o se para bajo una luz diferente, la computadora se confunde y falla. Es demasiado frágil.

Los autores proponen una nueva forma de enseñar a la computadora, llamada Computación Hiperdimensional (HDC). En lugar de observar los píxeles, enseñan a la computadora a observar el esqueleto de la forma y sus agujeros.

Así es como funciona su método, desglosado en conceptos simples:

1. El "Detective de Formas" vs. El "Fotógrafo de Píxeles"

Piensa en un modelo estándar de visión por computadora como un Fotógrafo de Píxeles. Toma una instantánea de cada punto. Si giras la foto o agregas algo de estática (ruido) a la imagen, el patrón de puntos cambia completamente y el fotógrafo se pierde.

El método de los autores actúa como un Detective de Formas. En lugar de contar puntos, el detective se hace dos preguntas simples:

• ¿Cuál es el contorno? (La gran forma del número).
• ¿Dónde están los agujeros? (Los espacios vacíos dentro de la forma, como el agujero en el medio de un "8" o la parte superior de un "6").

En términos matemáticos, estos "agujeros" se llaman primitivas topológicas. Lo interesante de los agujeros es que son tercos. Si estiras, giras o encoges una banda de goma con forma de "8", todavía tiene dos agujeros. El número de agujeros no cambia solo porque la forma se haya vuelto inestable.

2. Construyendo la "Tarjeta de Identidad"

Para que esto funcione, la computadora construye una "tarjeta de identidad" especial (un hipervector) para cada imagen. Lo hace en tres pasos:

• Paso A: El Marco Exterior (La Silueta):
  La computadora observa el contorno principal del número. Para asegurarse de reconocer el número ya sea que esté inclinado o ampliado, utiliza una herramienta matemática llamada momentos de Zernike.

  • Analogía: Imagina tomar una foto de un edificio. Si giras la cámara, el edificio se ve diferente. Pero si describes el edificio por su "distribución de masa" (qué tan pesadas son las paredes a la izquierda versus la derecha) en lugar del ángulo exacto del techo, aún puedes reconocerlo incluso si la cámara gira. Este paso crea una descripción de la forma exterior que permanece igual incluso si giras o cambias el tamaño de la imagen.

• Paso B: Los Agujeros Internos (La Topología):
  La computadora encuentra los agujeros dentro del número. Mide la forma del agujero y dónde se sitúa en relación con el borde exterior.

  • Analogía: Piensa en una dona. Ya sea que la dona sea grande, pequeña o esté inclinada, siempre tiene un agujero en el medio. La computadora aprende a decir: "Ah, esta forma tiene un agujero en el centro", independientemente de lo desordenados que estén los bordes de la dona.

• Paso C: La "Puntuación de Confianza" (Pesos de Fiabilidad):
  A veces la imagen está tan sucia (ruidosa) que la computadora no puede ver bien el contorno, pero aún puede ver los agujeros. Otras veces, el contorno está claro, pero los agujeros están borrosos.
  El sistema aprende a asignar una "puntuación de confianza" a cada pista. Si la imagen es ruidosa, confía más en la cuenta de agujeros. Si la imagen es clara, confía más en el contorno. Combina estas pistas en una respuesta final.

3. Por Qué Esto Importa: La Prueba del "Ruido"

Los autores probaron su "Detective de Formas" contra el "Fotógrafo de Píxeles" estándar y un modelo moderno de Aprendizaje Profundo (una CNN Compacta) utilizando el conjunto de datos MNIST (números escritos a mano).

No solo probaron con imágenes limpias; arrojaron "corrupciones" a la computadora:

• Ruido Gaussiano: Como agregar estática de televisión a la imagen.
• Sal y Pimienta: Como espolvorear motas negras y blancas sobre el papel.
• Zoom: Hacer el número enorme o diminuto.
• Recortes: Cubrir parte del número con un cuadrado negro.

Los Resultados:

• El Fotógrafo de Píxeles (HDC Ingenuo): Cuando agregaron ruido o giraron los números, su precisión se desplomó. Pasó de ser 95% preciso en imágenes limpias a menos del 10% preciso en las ruidosas. Fue como una persona que solo reconoce a un amigo por el patrón exacto de sus pecas; si las pecas están cubiertas por un sombrero, no sabe quién es.
• El Modelo de Aprendizaje Profundo (CNN): Fue excelente reconociendo números limpios (99% de precisión), pero cuando se agregó ruido, también colapsó, cayendo a una adivinanza casi aleatoria (alrededor del 11%).
• El Detective de Formas (HDC guiado por Topología): Se mantuvo fuerte. Incluso con mucho ruido o rotación, mantuvo una alta precisión (alrededor del 70–88%). No necesitó ser reentrenado para manejar el ruido; su método de observar "agujeros y contornos" era naturalmente resistente al desorden.

La Conclusión

El artículo afirma que al enseñar explícitamente a la computadora a observar características topológicas (como agujeros y la forma general) en lugar de solo píxeles crudos, podemos construir una IA mucho más resistente y confiable.

Es la diferencia entre intentar memorizar una fotografía específica de un rostro versus memorizar el hecho de que "esta persona tiene dos ojos y una nariz". Si tomas una foto de ellos en la oscuridad o desde un ángulo extraño, la foto cambia, pero el hecho de que tengan dos ojos y una nariz sigue siendo cierto. Este enfoque hace que la computadora sea robusta frente al "ruido" del mundo real.

Resumen técnico

Resumen Técnico: Codificación de Firmas Topológicas Robustas para Computación Hiperdimensional

Enunciado del Problema
La computación hiperdimensional (HD) ofrece una alternativa eficiente en recursos a las redes neuronales profundas para el aprendizaje en el borde, caracterizada por una inferencia rápida basada en prototipos y compatibilidad con actualizaciones en línea. Sin embargo, los codificadores HD estándar, que dependen de representaciones ingenuas basadas en píxeles (vinculación de vectores de posición e intensidad), exhiben una fragilidad significativa. Como se demuestra en la introducción del artículo, pequeños desplazamientos de distribución —tales como rotación, ruido gaussiano, ruido sal y pimienta o zoom— pueden causar caídas catastróficas en la precisión (por ejemplo, de 95% a 9% en MNIST con ruido gaussiano). Mientras que los sistemas de aprendizaje profundo han intercambiado en gran medida la eficiencia por la profundidad, siguen siendo frágiles ante perturbaciones estructuradas. El problema central abordado es la falta de codificación topológica explícita en los marcos HD, lo que limita su robustez frente a corrupciones que alteran las estadísticas locales de píxeles mientras preservan la estructura global de la forma.

Metodología
Los autores proponen un marco "HD guiado por topología" que extrae explícitamente primitivas topológicas discretas de formas binarizadas y las codifica en hipervectores de alta dimensión. La metodología procede a través de las siguientes etapas:

1. Extracción de Primitivas: La imagen se procesa para identificar un multiconjunto de primitivas: el contorno exterior (forma global) y los agujeros internos (características topológicas).
2. Descriptores Invariantes a RTS:
   • Forma Exterior: El contorno exterior se normaliza utilizando un marco canónico de Rotación, Translación y Escala (RTS) derivado del eje principal y el centroide de la forma. La forma se describe luego utilizando un descriptor de Momentos Zernike de Pirámide Espacial. Esto combina la distribución global de masa (mediante magnitudes de Zernike para invarianza a la rotación) con la disposición espacial local (mediante una descomposición en cuadrícula) para capturar tanto la geometría global como los detalles estructurales gruesos. También se incluye un Histograma de Gradientes Orientados (HOG) para capturar estructuras de bordes locales a menudo pasadas por alto por los momentos globales.
   • Agujeros: Para cada agujero detectado, el método calcula:
     • Geometría Relativa: El centroide del agujero se mapea a coordenadas canónicas RTS relativas al marco de la forma exterior.
     • Forma Intrínseca: El límite del agujero se re-muestrea y parametriza. Se calcula una firma radial y sus magnitudes de Fourier (excluyendo el componente de CC) se utilizan como un descriptor de forma invariante a la rotación.
3. Codificación HD:
   • Cada primitiva se mapea a un hipervector bipolar ($\{-1, +1\}^D$) mediante proyección aleatoria y vinculación de roles (utilizando vectores de rol específicos del tipo).
   • Conjuntos de agujeros de cardinalidad variable se agregan utilizando empaquetado invariante a permutaciones (suma elemento a elemento seguida de umbralización de signo) para formar un único hipervector de imagen.
4. Ponderación de Confiabilidad: Para evitar sobreponderar señales poco fiables, el sistema aprende pesos de confiabilidad no negativos ($\alpha, \beta$) para los canales de Zernike y agujeros en relación con el canal HOG. Estos pesos se optimizan en un conjunto de validación fusionando puntuaciones de similitud coseno de los canales de características separados.
5. Clasificación: La clasificación se realiza mediante aprendizaje de prototipos, donde los prototipos de clase se acumulan a partir de datos de entrenamiento y se actualizan en línea.

Contribuciones Clave

• Codificación Topológica Explícita: El artículo introduce la primera integración explícita de primitivas topológicas discretas (específicamente agujeros y su geometría relativa) en el paradigma de computación HD.
• Descriptores Estables a RTS: Construye descriptores que son matemáticamente invariantes a la rotación, traslación y escala por construcción, utilizando momentos de Zernike para la forma global y descriptores de Fourier para las formas de los agujeros.
• Robustez mediante Topología: El trabajo demuestra que las características topológicas (conteo de agujeros, conectividad, colocación relativa) proporcionan información complementaria a las características basadas en píxeles, particularmente cuando la apariencia local está corrupta.
• Aprendizaje en Línea Ligero: El marco mantiene la ventaja central de la HD de entrenamiento en línea ligero, permitiendo que los prototipos se adapten sin reentrenar desde cero.

Resultados
Se realizaron experimentos en los conjuntos de datos MNIST y EMNIST bajo corrupciones controladas (rotación, ruido gaussiano, sal y pimienta, recorte y zoom).

• Vs. HD Ingenuo: La HD guiada por topología supera significativamente a la línea base HD basada en píxeles ingenua en todos los tipos de corrupción. Por ejemplo, bajo ruido gaussiano ($\sigma=0.1$), la precisión de la HD ingenua cae a ~7%, mientras que el método propuesto mantiene ~83% (antes del entrenamiento en línea) y ~89% (después del entrenamiento).
• Vs. CNN Compacta: Al compararse con una CNN compacta entrenada en datos limpios:
  • Datos Limpios: La CNN logra una mayor precisión en conjuntos de datos limpios (por ejemplo, 99.1% en MNIST frente a 97.68% para la HD guiada por topología).
  • Datos Corruptos: La HD guiada por topología demuestra una robustez marcadamente superior. Bajo ruido gaussiano ($\sigma=0.1$), la CNN colapsa a un rendimiento cercano al azar (~11%), mientras que la HD guiada por topología mantiene ~89% de precisión. Se observan tendencias similares para ruido sal y pimienta y oclusiones por recorte.
  • EMNIST: En el conjunto de datos de letras EMNIST, más complejo, la HD guiada por topología supera sustancialmente a la CNN bajo condiciones de ruido (por ejemplo, 57.7% frente a 3.84% bajo ruido gaussiano antes del entrenamiento).

Significado y Afirmaciones
El artículo afirma que la estructura topológica explícita es una vía práctica para lograr representaciones HD robustas. El significado radica en demostrar que la computación HD puede lograr una precisión competitiva en datos limpios mientras ofrece una "robustez marcadamente más fuerte" frente a corrupciones a nivel de píxel en comparación con los modelos de aprendizaje profundo, sin requerir aumento de datos específico para la corrupción. Los autores argumentan que, al aprovechar las propiedades de invarianza inherentes a la topología (homeomorfismo), el sistema puede mantener la separabilidad de clases incluso cuando las estadísticas locales de píxeles se degradan severamente.

Limitaciones
Los autores reconocen que el método depende de la estabilidad de las etapas iniciales de binarización y extracción de primitivas. El ruido severo o el bajo contraste pueden conducir a límites fragmentados o agujeros espurios, lo que afecta negativamente la precisión aguas abajo. Además, las garantías teóricas cubren transformaciones de similitud (RTS) pero no se extienden a deformaciones no rígidas, efectos de perspectiva o desplazamientos de dominio pesados que involucran desorden de fondo. La etapa de preprocesamiento (segmentación y extracción de contornos) también se señala como un posible cuello de botella computacional dependiendo de la implementación.