🤖 machine learning

Diversity-Based Active Learning: An Evaluation of Metric Spaces for Active Learning Selection

Este artículo evalúa el desempeño de la estrategia de selección de aprendizaje activo Greedy K-center a través de diversos espacios métricos, demostrando que mapear las instancias a un espacio de probabilidad derivado de un modelo ponderado por entropía produce resultados superiores en comparación con los espacios de características puras o de LDA cuando se utilizan clasificadores Random Forest.

Autores originales: Siddharth Chilamkur, Dorit S. Hochbaum

Publicado 2026-08-25

📖 6 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Siddharth Chilamkur, Dorit S. Hochbaum

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

En el mundo de la inteligencia artificial, las computadoras son notablemente buenas aprendiendo de ejemplos, pero tienen un requisito obstinado: necesitan vastas cantidades de datos que ya hayan sido clasificados y etiquetados por humanos. Imagine intentar enseñar a un niño a reconocer animales mostrándole miles de imágenes, pero donde cada una de las imágenes debe ser primero identificada y etiquetada por un maestro. En muchos campos, como la imagenología médica o las finanzas especializadas, encontrar a un experto humano para realizar este etiquetado es increíblemente costoso o consume mucho tiempo. Esto crea un cuello de botella donde la computadora está lista para aprender, pero los expertos humanos están demasiado ocupados para proporcionar el combustible que necesita. Para resolver esto, los investigadores desarrollaron una estrategia llamada aprendizaje activo. En lugar de pedirle a un humano que etiquete una enorme pila aleatoria de datos, la computadora actúa como un estudiante curioso. Observa los datos no etiquetados, determina qué ejemplos específicos le enseñarían más y pide a un humano que etiquete solo esos. El objetivo es alcanzar un alto nivel de inteligencia gastando la menor cantidad de tiempo y dinero en el etiquetado.

El desafío radica en decidir qué ejemplos son los más valiosos. Un enfoque popular es buscar la diversidad, asegurando que la computadora tome muestras de datos de todos los rincones de la información disponible en lugar de centrarse solo en un área congestionada. Un método específico para hacer esto, conocido como el enfoque K-center codicioso (greedy K-center), funciona eligiendo nuevos ejemplos que estén lo más lejos posible de los ya elegidos. Sin embargo, el éxito de este método depende enteramente de cómo la computadora mida la "distancia". Si la computadora mide la distancia basándose en los números brutos de los datos, podría confundirse con detalles irrelevantes o ruido, tal como intentar navegar por una ciudad usando un mapa que incluye cada árbol y cerca en lugar de solo las carreteras. Los investigadores de la Universidad de California, Berkeley, se propusseron probar si cambiar la forma en que la computadora percibe los datos —específicamente, al observar los datos a través del lente de las propias predicciones de la computadora en lugar de solo sus números brutos— podría hacer que este proceso de selección fuera mucho más inteligente.

El equipo probó diferentes maneras de medir la distancia entre puntos de datos. Comenzaron con el método más básico, utilizando las características brutas de los datos, como los valores de los píxeles en una imagen o los números en un registro financiero. También probaron una técnica llamada análisis discriminante lineal, que es una herramienta matemática que intenta comprimir los datos en una forma más simple que separe las diferentes categorías de la manera más clara posible. Finalmente, probaron un enfoque más sofisticado donde la computadora primero hacía una suposición sobre qué era cada elemento no etiquetado, creando un "espacio de probabilidad". En este espacio, la distancia entre dos elementos no se basa en sus números brutos, sino en qué tan diferente predice la computadora que deberían ser clasificados. Para hacer esto aún más agudo, añadieron una capa de incertidumbre, ponderando la selección según qué tan insegura estaba la computadora sobre su propia suposición. Utilizaron un tipo de modelo de computadora robusto y rápido llamado bosque aleatorio (random forest) para generar estas prediciones y evaluar los resultados, realizando sus experimentos tanto en datos artificiales que crearon como en conjuntos de datos del mundo real que variaban de 150 a más de 6,000 elementos.

Los resultados fueron claros y consistentes en la mayoría de sus pruebas. El método que dependía de los números brutos de los datos a menudo tenía dificultades, rindiendo a veces no mejor que simplemente elegir ejemplos al azar. Esto sucedía porque en datos complejos y de alta dimensionalidad, los números brutos pueden ser engañosos, causando que la computadora se concentre en ruido irrelevante en lugar de en los patrones reales que definen las categorías. En contraste, el enfoque que utilizó las probabilidades predichas por la propia computadora superó consistentemente a los demás. Al medir la distancia basándose en cómo la computadora ve el mundo, el sistema pudo ignorar la estática y centrarse en los límites significativos entre los diferentes grupos. La estrategia más efectiva de todas fue el enfoque híbrido, que combinó esta visión basada en la probabilidad con una medida de incertidumbre. Este método le decía a la computadora que buscara ejemplos que fueran no solo diferentes de lo que ya había visto, sino también ejemplos donde la computadora estuviera genuinamente insegura de la respuesta. Este equilibrio permitió que el sistema aprendiera más rápido y con mayor precisión, alcanzando niveles de rendimiento más altos con menos ejemplos etiquetados.

Sin embargo, hubo algunas situaciones específicas donde este método avanzado no destacó. En un caso que involucraba un conjunto de datos con muy pocos atributos físicos, el enfoque simple de datos brutos funcionó tan bien como el método complejo de probabilidad, lo que sugiere que cuando los datos son simples y densos, los pasos adicionales no son necesarios. En otro caso con un conjunto de datos artificial altamente complejo y ruidoso, el método de probabilidad funcionó en realidad peor que los otros. Los investigadores encontraron que esto sucedía porque el propio modelo de la computadora estaba confundido por el ruido; cuando el modelo no entiende los datos, sus predicciones son solo conjeturas, y construir una estrategia de selección sobre esas conjeturas solo amplifica la confusión. Esto resalta un hallazgo crucial: el método basado en la probabilidad es poderoso, pero requiere que el modelo subyacente tenga al menos una comprensión básica de los datos para funcionar efectivamente.

En última instancia, el estudio demuestra que la forma en que medimos la distancia entre los puntos de datos es tan importante como el algoritmo utilizado para seleccionarlos. Al cambiar el enfoque de las características brutas y a menudo desordenadas de los datos hacia la propia comprensión de las categorías por parte del modelo, los investigadores pueden mejorar significativamente la eficiencia del aprendizaje activo. Los mejores resultados provinieron de una estrategia que pedía a la computadora encontrar ejemplos que fueran tanto diversos en su propia mente como inciertos en su propio juicio. Este enfoque permite que las máquinas aprendan de manera más inteligente, reduciendo la carga sobre los expertos humanos y haciendo factible el despliegue de una inteligencia artificial poderosa en campos donde el etiquetado de datos es un obstáculo importante. El trabajo confirma que, si bien las herramientas matemáticas para seleccionar datos son importantes, el espacio en el que operan esas herramientas determina si tienen éxito o fracasan.

Resumen Técnico: Evaluación del Aprendizaje Activo Basado en la Diversidad de Espacios Métricos

Planteamiento del Problema

Los modelos de aprendizaje automático supervisado requieren cantidades sustanciales de datos correctamente etiquetados para alcanzar un alto rendimiento. En dominios donde el etiquetado es prohibitivamente costoso (por ejemplo, imágenes médicas) o requiere mucho tiempo, la anotación manual se convierte en un cuello de botella principal. Si bien el Aprendizaje Activo (AL, por sus siglas en inglés) ofrece un marco para consultar solo las muestras más informativas de un conjunto no etiquetado, los métodos de selección basados en la diversidad enfrentan un desafío crítico: la elección del espacio métrico.

Los enfoques basados en la diversidad, como el algoritmo Greedy K-center, tienen como objetivo seleccionar un subconjunto representativo de datos para asegurar que el modelo explore el dominio de los datos de manera uniforme. Sin embargo, la efectividad de estos algoritmos depende fuertemente del espacio en el que se calculan las distancias. Las métricas de distancia física estándar (por ejemplo, la norma L2 en el espacio de características puras) sufren de la "maldición de la dimensionalidad" y pueden priorizar el ruido o los valores atípicos en lugar de los límites de decisión informativos. Por el contrario, aunque las técnicas de reducción de dimensionalidad como el Análisis Discriminante Lineal (LDA) mejoran la separabilidad de las clases, aún pueden fallar al capturar la incertidumbre matizada necesaria para una selección óptima de AL. El artículo investiga qué espacio métrico —características puras, proyecciones LDA, espacios de probabilidad derivados del modelo o espacios de probabilidad ponderados por entropía— produce el mejor rendimiento cuando se combina con la estrategia de selección Greedy K-center.

Metodología

1. Algoritmo de Selección: Greedy K-center

El estudio utiliza el algoritmo Greedy K-center como el mecanismo central de selección. A diferencia del K-center exacto (que es NP-Hard) o el K-median (que es computacionalmente costoso y donde los heurísticos rápidos funcionan mal), el enfoque Greedy K-center selecciona iterativamente la instancia no etiquetada $u$ que maximiza la distancia mínima a la vez al conjunto etiquetado $L$ :
$u^* = \arg\max_{u \in U} \min_{l \in L} d(u, l)$
La variable principal en este estudio es la definición de la función de distancia $d(u, l)$ .

2. Espacios Métricos Evaluados

El artículo evalúa cuatro espacios métricos distintos para calcular $d(u, l)$ :

Espacio de Características Puras: Utiliza la distancia euclidiana L2 entre vectores de características puras estandarizados.
Espacio LDA: Proyecta los datos en un espacio latente de menor dimensión utilizando el Análisis Discriminante Lineal, el cual maximiza la separabilidad entre clases. La distancia se calcula entre estas proyecciones lineales.
Espacio de Probabilidad Predictiva: Deriva un vector de probabilidades de clase $\hat{p}(x)$ a partir del clasificador base (un Random Forest). La distancia es la distancia L2 entre estos vectores de probabilidad. Esto desplaza la búsqueda de diversidad del espacio de características geométricas al espacio de representación del límite de decisión del modelo.
Espacio de Probabilidad + Entropía: Un enfoque híbrido que pondera la distancia del espacio de probabilidad por la entropía predictiva $H(u)$ de la muestra. El criterio de selección se convierte en:
$u^* = \arg\max_{u \in U} \left( H(u) \cdot \min_{l \in L} d(u, l) \right)$
Esto prioriza muestras que son espacialmente diversas en el espacio de probabilidad y altamente inciertas (alta entropía).

3. Selección del Evaluador de Referencia (Baseline)

Los autores determinaron empíricamente que los Random Forests (RF) son el modelo base óptimo para esta tarea en comparación con las Redes Neuronales (específicamente las Pre-Activation Tabular ResNets). Aunque las NN pueden producir espacios de probabilidad de alta calidad, requieren un ajuste exhaustivo de hiperparámetros y cientos de épocas de entrenamiento para estabilizarse en cada paso de AL, lo que crea un costo computacional prohibitivo. Los Random Forests proporcionan una estabilidad robusta, resisten el sobreajuste y no requieren bucles basados en épocas, lo que los hace ideales para la naturaleza iterativa del aprendizaje activo.

4. Configuración Experimental

Los experimentos se realizaron tanto en conjuntos de datos sintéticos (con variaciones en la complejidad de los clústeres) como en conjuntos de datos del mundo real (por ejemplo, Iris, Spambase, Satimage, Madelon). La evaluación cubrió dos escenarios:

Presupuestos de Consulta Grandes: Seleccionando del 10% al 50% de los datos de entrenamiento.
Presupuestos de Consulta Pequeños: Seleccionando hasta un total de 400 muestras para simular una escasez extrema de datos.
El rendimiento se midió mediante la precisión final y el Área Bajo la Curva de Aprendizaje (AUC), promediada sobre 100 ejecuciones independientes.

Resultados Clave

1. Superioridad de los Espacios de Probabilidad

En la mayoría de los conjuntos de datos y niveles de complejidad, mapear las instancias no etiquetadas en un espacio de probabilidad predictiva derivado del modelo superó consistentemente a los espacios de características puras y a las proyecciones LDA.

Enfoque en el Límite de Decisión: Al calcular la diversidad sobre vectores de probabilidad en lugar de coordenadas geométricas, el algoritmo se enfoca en muestras que representan regiones diversas del límite de decisión, evitando el ruido estructural inherente a las características puras.
Robustez ante la Complejidad: A medida que los conjuntos de datos sintéticos aumentaban en complejidad (más clústeres por clase), la brecha de rendimiento entre los espacios de probabilidad y los espacios geométricos se amplió, confirmando que los cálculos de distancia pura luchan con las distribuciones no lineales.

2. Impacto de la Ponderación por Entropía

El método Probabilidad + Entropía generalmente proporcionó una mejora ligera pero constante sobre el Espacio de Probabilidad estándar.

Equilibrio entre Exploración y Explotación: La ponderación por entropía penaliza la selección de muestras donde el modelo ya tiene una alta confianza. Esto obliga al algoritmo Greedy K-center a priorizar muestras ambiguas e informativas, acelerando la convergencia sin sacrificar la exploración de la diversidad proporcionada por el objetivo de K-center.
Eficiencia: Este enfoque híbrido logró una mayor precisión predictiva general y una convergencia más rápida tanto en escenarios de presupuesto grande como pequeño sin introducir un sobrecosto computacional significativo.

3. Excepciones y Limitaciones

El estudio identificó escenarios específicos donde la metodología del espacio de probabilidad no fue dominante:

Datos Densos de Baja Dimensionalidad: En el conjunto de datos Phoneme (baja dimensionalidad, 5 atributos), el Espacio de Características puras funcionó de manera comparable o ligeramente superior a los espacios de probabilidad, lo que sugiere que en entornos estrictamente limitados, la distancia euclidiana física ya correlaciona bien con los límites de clase.
Fallo del Modelo (Amplificación de Ruido): En el conjunto de datos Madelon bajo una escasez extrema de datos, el Espacio de Probabilidad tuvo un rendimiento inferior a todos los demás métodos. Debido a que el Random Forest no pudo extraer una señal fundamental de los datos ruidosos y complejos con presupuestos bajos, el espacio de probabilidad simplemente mapeó "vectores de ruido a vectores de ruido", amplificando la confusión inicial del modelo. Esto indica que el método requiere un nivel base de comprensión del modelo para funcionar efectivamente.

Significado y Reivindicaciones

El artículo sostiene que el éxito del aprendizaje activo basado en la diversidad no está determinado únicamente por el algoritmo de selección (Greedy K-center), sino que está fundamentalmente dictado por el espacio métrico en el que se mide la diversidad.

La contribución principal es la demostración empírica de que transformar el conjunto no etiquetado en un espacio de probabilidad predictiva permite al algoritmo Greedy K-center evitar el ruido geométrico de las características puras. Este enfoque reorienta la búsqueda de diversidad para priorizar muestras que mapean regiones distintas y significativas del límite de decisión de clasificación.

Además, el artículo establece que los espacios de probabilidad ponderados por entropía ofrecen un equilibrio híbrico ventajoso entre exploración (diversidad) y explotación (incertidumbre). Los autores concluyen que, para los marcos de aprendizaje activo que dependen de restricciones de diversidad, las distancias deben medirse dentro de los límites de probabilidad interpretados por el modelo en lugar de las coordenadas de características puras, siempre que el modelo base haya alcanzado un nivel fundamental de precisión predictiva. El estudio refuerza la utilidad de los Random Forests como un motor computacionalmente eficiente y estable para generar estos espacios de probabilidad en ciclos iterativos de aprendizaje activo.