Resumen Técnico: SOMtime – Violando la Equidad con Mapas Autoorganizados

Declaración del Problema

El artículo desafía la creencia generalizada de la "equidad mediante la ignorancia" (fairness through unawareness) en el aprendizaje automático no supervisado. Esta suposición postula que si los atributos sensibles (por ejemplo, edad, ingresos, raza) se omiten de las características de entrada durante el entrenamiento, las representaciones no supervisadas resultantes (embeddings) serán neutrales y libres de sesgo discriminatorio. Los autores argumentan que esto es falso. Demuestran que las representaciones no supervisadas pueden codificar información sensible no meramente como ruido recuperable, sino como una fuga de atributo sensible estructurada: información organizada a lo largo de un eje geomético único e interpretable (un ordenamiento monotónico) dentro del espacio de incrustación.

Esta fuga es particularmente insidiosa porque ocurre antes de que se defina cualquier tarea supervisada. En consecuencia, cualquier aplicación descendente (downstream) que dependa de estos embeddings —como sistemas de agrupamiento (clustering), sistemas de recomendación o visualización— hereda un riesgo de equidad por defecto. El artículo postula que los métodos de auditoría estándar, que a menudo dependen de clasificadores de sondeo (probing classifiers) o estimación de información mutua, pueden fallar al detectar este tipo específico de organización geométrica global, especialmente cuando la señal sensible está distribuida en muchas características débiles en lugar de concentrada en unos pocos indicadores fuertes.

Metodología: SOMtime

Los autores proponen SOMtime, una herramienta de auditoría de preservación de topología basada en Mapas Autoorganizados (SOM) de alta capacidad. A diferencia del uso estándar de los SOM para la visualización, SOMtime está diseñado específicamente para exponer la fuga estructurada.

Mecanismo Central

1. Discretización de Preservación de Topología: Los datos de entrada se mapean en una red discreta 2D de vectores prototipo utilizando un Mapa Autoorganizado. El tamaño del mapa se escala heurísticamente ($K = 5 \cdot N^{0.54}$) para asegurar una alta resolución.
2. Construcción de Incrustación 3D: Para permitir un análisis continuo, la rejilla discreta del SOM se transforma en una incrustación 3D. A cada observación se le asigna:
   • Coordenadas $(x, y)$: La posición de su Unidad de Mejor Ajuste (BMU, por sus siglas en inglés) en la red.
   • Coordenada $z$: El error de cuantificación ($\|x_i - w_{j^*}\|$), denominado "energía de activación".
3. Recuperación de Ejes: El método analiza la geometría de los centroides de las unidades del SOM para identificar una trayectoria donde el atributo sensible varía de forma monotónica. Esto se logra mediante un procedimiento ávido de vecino más cercano que construye un camino a lo largo de la red.
4. Métrica de Auditoría: La fuerza de la fuga se cuantifica mediante la correlación de Spearman ($\rho$) entre el atributo sensible omitido y la posición a lo largo del camino monotónico recuperado (específicamente el eje de activación $z$).

Fundamento Teórico

El artículo establece un puente teórico entre la fuga estructurada y la violación de la equidad:

• Definición: La fuga estructurada ocurre cuando un atributo sensible $s$ se codifica a lo largo de una única dirección lineal $\hat{v}$ en el espacio de incrustación con una correlación $r$.
• Límite de Disparidad: Los autores demuestran que si existe una fuga estructurada con un nivel de correlación $r$, esta induce un límite inferior cuantitativo para la peor disparidad de grupo en cualquier función Lipschitz que actúe sobre la incrustación. Específicamente, la separación de la media de grupo es exactamente $|r|\sigma_\zeta / \sqrt{p(1-p)}$, donde $p$ es la prevalencia del grupo.
• Contraste de Mecanismos: El artículo contrasta los SOM con el Análisis de Componentes Principales (PCA). El PCA suprime las señales en las direcciones de baja varianza; si un atributo sensible está distribuido en muchas características con correlaciones individuales débiles, el PCA trunca esta señal. En contraste, los SOM preservan las señales Lipschitz-continuas independientemente de su varianza, lo que les permite agregar señales débiles distribuidas en una estructura geométrica coherente.

Configuración Experimental

Los autores evaluaron SOMtime frente a cinco líneas de base (PCA, UMAP, t-SNE, Autoencoders e Isomap) utilizando dos conjuntos de datos del mundo real, omitiendo estrictamente los atributos sensibles durante el aprendizaje de la representación:

1. World Values Survey (WVS): Datos de cinco países (Canadá, Rumania, Alemania, China, EE. UU.) utilizando preguntas de ética/moral, con la edad como el atributo omitido.
2. Census-Income (KDD): Datos demográficos y económicos, con edad, ingresos y ganancias de capital omitidos.

Preprocesamiento: Para simular un modelo de amenaza realista donde se eliminan los indicadores (proxies) fuertes, los autores filtraron las características con alta correlación con el atributo sensible. Esto dejó un régimen donde ninguna característica individual era un indicador fuerte, obligando a los métodos a depender de la agregación de señales débiles distribuidas.

Resultados Clave

1. Recuperación Superior de la Estructura Sensible

SOMtime superó significativamente a todas las líneas de base en la recuperación del ordenamiento monotónico de los atributos sensibles:

• WVS (Edad): SOMtime logró correlaciones de Spearman entre 0.52 y 0.85 en todos los países. La línea de base más fuerte (PCA) alcanzó como máximo 0.44.
• Census (Edad/Ingresos/Ganancias): SOMtime logró correlaciones de 0.83 (Edad), 0.69 (Ingresos) y 0.43 (Ganancias). Las líneas de base alcanzaron picos de 0.22–0.40.
• Invarianza de Rotación: Incluso al evaluar las líneas de base bajo una métrica invariante de rotación (buscando la mejor dirección lineal en el espacio de incrustación), la ventaja de SOMtime persistió. El factor de mejora osciló entre 1.7x y 5.4x.

2. Validación del Mecanismo

• Capacidad vs. Topología: Los Autoencoders de gran capacidad (1.4M de parámetros) lograron una reconstrucción casi perfecta (MSE $\approx$ 0.001) pero fallaron en recuperar la estructura sensible (Spearman máx $\approx$ 0.34). Esto confirma que la fuga no se debe a la capacidad del modelo, sino a la dinámica de aprendizaje competitivo y la topología de red fija de los SOM.
• Especificidad de la Preservación de Topología: Isomap, otro método de preservación de topología, se comportó de manera similar a PCA y UMAP (Spearman máx $\approx$ 0.43) y no logró recuperar la estructura en varios casos. Esto indica que la ventaja es específica de los SOM, no de la preservación de la topología en general.
• Fuerza de la Señal: La brecha de rendimiento fue mayor donde la señal por característica era más débil (por ejemplo, Ganancias de Capital), lo que respalda la hipótesis de que los SOM agregan de manera única las señales débiles distribuidas.

3. Recuperación de Trayectoria

El procedimiento de recuperación de trayectoria reconstruyó con éxito el ordenamiento de los grupos sensibles (por ejemplo, rangos de edad) a partir de la incrustación 3D con alta precisión (por ejemplo, 100% para WVS Canadá, 0.82 para Census Edad), superando con creces el azar.

Significado y Reivindicaciones

El artículo realiza las siguientes reivindicaciones respecto a su contribución:

1. Refutación de la Neutralidad: Las representaciones no supervisadas no son neutrales; pueden codificar atributos sensibles como ejes geométricos dominantes incluso cuando dichos atributos se excluyen explícitamente del entrenamiento.
2. Fuga Estructurada: Los autores definen y demuestran una forma específica de fuga: la fuga de atributo sensible estructurada, donde la información se organiza a lo largo de un eje interpretable, distinta de la mera fuga "recuperable mediante sondeo".
3. Necesidad de Auditoría: La auditoría de la equidad debe extenderse más allá de los predictores supervisados y los clasificadores de sondeo para incluir las representaciones no supervisadas. Debido a que la fuga estructurada crea un "eje con nombre", es auditable antes de que se ejecuten las tareas descendentes (agrupamiento, visualización).
4. Puente Teórico: El trabajo formaliza el vínculo entre el ordenamiento monotónico en las incrustaciones y las violaciones de equidad descendentes, demostrando que la existencia de tal ordenamiento garantiza un límite inferior en la disparidad de grupo para cualquier tarea descendente de tipo Lipschitz.

Los autores posicionan a SOMtime no como una herramienta de mitigación de la equidad, sino como una lente de diagnóstico que hace explícita la organización geométrica "invisible" de los datos sensibles, permitiendo así la gobernanza y la auditoría en los procesos modernos de ML que dependen de fundamentos no supervisados.