Resumen Técnico: Adquisición de Modalidad Activa Basada en Cohortes (CAMA)

Definición del Problema

El aprendizaje automático multimodal del mundo real a menudo opera bajo restricciones donde ciertas modalidades de datos están ausentes, son costosas de adquirir o invasivas de obtener. Mientras que los paradigmas existentes como el Aprendizaje Activo (AL), la Adquisición Activa de Características (AFA) y la Adquisición Activa de Modalidades (AMA) se centran en optimizar la adquisición para muestras individuales (a menudo durante el entrenamiento o a nivel de muestra en tiempo de prueba), frecuentemente no abordan el desafío específico de la asignación de recursos a nivel de cohorte.

En muchos escenarios prácticos, como en el ámbito sanitario, los presupuestos son específicos de los recursos (por ejemplo, un número fijo de escáneres de resonancia magnética o una subvención para pruebas de proteómica) en lugar de fondos flexibles por paciente. El problema central abordado es: Dada una cohorte de $N$ muestras donde solo está disponible un subconjunto de modalidades, y un presupuesto fijo $\beta$ para adquirir una modalidad específica, costosa y faltante, ¿qué subconjunto de muestras debe seleccionarse para maximizar una métrica de rendimiento global (por ejemplo, AUROC, AUPRC) para toda la cohorte?

Este escenario, denominado Adquisición de Modalidad Activa Basada en Cohortes (CAMA), difiere de trabajos anteriores al desplazar el nivel de decisión de la muestra individual a la cohorte, con el objetivo de optimizar el rendimiento discriminativo global de la cohorte en lugar de solo la precisión de predicción individual.

Metodología

1. Formulación del Problema

Los autores formalizan CAMA como un problema de optimización. Sea $D = \{(x_i, y_i)\}_{i=1}^N$ un conjunto de datos donde cada muestra $i$ tiene $P$ modalidades, pero solo se observa un subconjunto $P^{avail}_i$. El objetivo es seleccionar un subconjunto $S \subseteq \{1, \dots, N\}$ con $|S| = \beta$ para adquirir la modalidad faltante.

• Puntuaciones: El marco distingue entre:
  • $s^{avail}_i$: Puntuación utilizando las modalidades disponibles.
  • $s^{acquired}_i$: Puntuación utilizando las modalidades disponibles + adquiridas (la puntuación "oráculo").
  • $\{s^{imp}_{i,k}\}_{k=1}^K$: Un conjunto de $K$ puntuaciones imputadas que estiman $s^{acquired}_i$ utilizando un modelo generativo.
• Objetivo: Maximizar una métrica global $Metric(y, s(S))$, donde $s(S)$ es el vector de puntuaciones actualizado para las muestras en $S$.

2. Estrategias de Función de Adquisición (AF)

Dado que resolver el problema de optimización exactamente es computacionalmente intratable, los autores proponen Funciones de Adquisición (AF) heurísticas para clasificar las muestras. Estas se categorizan en:

• Estrategias Oráculo: Límites superiores teóricos que asumen un conocimiento perfecto de las etiquetas verdaderas y de $s^{acquired}_i$. Seleccionan codiciosamente las muestras que producen la mayor ganancia marginal en la métrica global.
• Heurísticas de Límite Superior: Estrategias agnósticas a las etiquetas que asumen conocimiento de $s^{acquired}_i$ pero no de $y_i$. Se basan en métricas como la reducción de incertidumbre verdadera, el cambio de rango o la Divergencia KL entre distribuciones de probabilidad.
• Estrategias Basadas en Imputación (Propuestas): Estas utilizan un modelo generativo $f_{imp}$ para estimar las puntuaciones contrafactuales $\{s^{imp}_{i,k}\}$ sin adquirir realmente los datos. Las estrategias incluyen:
  • Divergencia KL Esperada: Priorizar muestras donde la distribución imputada diverge más de la línea base.
  • Cambio de Rango Esperado: Priorizar muestras que se espera que cambien significativamente en la clasificación de la cohorte.
  • Reducción de Incertidumbre Esperada: Priorizar muestras donde se espera que la incertidumbre disminuya más.
  • Probabilidad Esperada: Priorizar muestras con alta probabilidad imputada promedio.
• Líneas Base: Estrategias que utilizan solo información pre-adquisición (por ejemplo, incertidumbre de línea base) o selección aleatoria.

3. Arquitectura del Modelo

La arquitectura propuesta combina un modelo de fusión tardía discriminativo con un módulo de imputación generativo (Figura 2):

• Componente Discriminativo: Un modelo de fusión tardía $f$ con codificadores específicos de modalidad (por ejemplo, ViT para imágenes, BERT para texto) y un clasificador de fusión. Produce $s^{avail}_i$.
• Componente Generativo: Un modelo generativo $f_{imp}$ (implementado como Transformadores de Difusión o VAEs Condicionales Beta) entrenado para aproximar la distribución condicional $p(z^{(k)} | \{z^{(m)}\}_{m \in P^{avail}_i})$ para las modalidades faltantes.
• Entrenamiento: El modelo se entrena de extremo a extremo con una pérdida combinada de entropía cruzada binaria (discriminativa) y una pérdida generativa (límite variacional u objetivo de eliminación de ruido). Crucialmente, durante el entrenamiento, las salidas generativas están desacopladas del clasificador; el clasificador se entrena solo con las modalidades disponibles mediante máscaras de atención para evitar la filtración de datos, mientras que el módulo generativo aprende a reconstruir incrustaciones latentes.

Contribuciones Clave

1. El Escenario CAMA: La formalización de un escenario novedoso de adquisición a nivel de cohorte en tiempo de prueba que aborda la priorización de muestras para una única modalidad fija bajo una restricción de presupuesto global.
2. Marco Teórico para AFs: La derivación de funciones de adquisición basadas en métricas de evaluación estándar (AUROC, AUPRC), incluyendo la definición de heurísticas de límite superior y estrategias basadas en imputación.
3. Arquitectura Novel: Una arquitectura híbrida que integra la fusión tardía discriminativa con la imputación generativa (adaptando específicamente conceptos de IMDer [64]) para habilitar el razonamiento contrafactual en tiempo de prueba.
4. Evaluación Exhaustiva: Validación empírica extensa en diversos conjuntos de datos (UK Biobank, MIMIC-Symile, MIMIC-HAIM, MOSEI) con hasta 15 modalidades y 100.000 muestras.

Resultados Experimentales

Los autores evaluaron sus métodos en cuatro conjuntos de datos, centrándose en tareas de clasificación binaria.

• Rendimiento: La estrategia de Divergencia KL basada en Imputación superó consistentemente a todas las líneas base no oráculo (incluidas las basadas en incertidumbre y la selección aleatoria) en la mayoría de los conjuntos de datos y métricas.
• Comparación con Heurísticas: Aunque las heurísticas "Verdaderas" (conocimiento oráculo) proporcionaron límites superiores, la estrategia de Divergencia KL basada en imputación a menudo se acercó o, en algunos casos específicos (por ejemplo, MOSEI), superó el rendimiento de las heurísticas correspondientes de límite superior agnósticas a las etiquetas.
• Escalabilidad: El método demostró escalabilidad en el conjunto de datos de UK Biobank (aprox. 100k muestras, 15 modalidades), guiando con éxito la adquisición de datos de proteómica para la predicción de Lupus Eritematoso Sistémico (SLE).
• Estudios de Ablación: Decisiones arquitectónicas clave, como la normalización de capas, el suavizado de etiquetas y el desacoplamiento del módulo generativo del clasificador durante el entrenamiento, se encontraron esenciales para la estabilidad y el rendimiento.
• Eficiencia: Mientras que los DDPMs ofrecieron un rendimiento sólido, los VAEs Condicionales Beta proporcionaron una alternativa de inferencia más rápida con un compromiso en el rendimiento.

Significado y Afirmaciones

El artículo afirma que CAMA proporciona un enfoque efectivo para optimizar la adquisición de modalidades en entornos con recursos limitados, particularmente donde una única modalidad costosa debe asignarse a una gran cohorte.

• Relevancia en el Mundo Real: Los autores destacan el proyecto de proteómica de UK Biobank como un ejemplo principal, donde un presupuesto fijo requirió una selección estratégica de pacientes para pruebas costosas. Su método ofrece un marco basado en datos para tales decisiones.
• Eficiencia de Recursos: Al priorizar muestras donde la adquisición de una modalidad faltente produce la mayor ganancia global (en lugar de solo la reducción de incertidumbre local), el método maximiza la utilidad de recursos limitados.
• Limitaciones: Los autores reconocen que su trabajo actual se centra en una única modalidad especificada y costos fijos, excluyendo el problema más complejo de seleccionar conjuntamente tanto la modalidad como la muestra o manejar costos heterogéneos. También señalan que su evaluación utiliza patrones de ausencia sintéticos (excepto en UKB) y aún no incluye un análisis de equidad dedicado.

En conclusión, el trabajo establece que las funciones de adquisición basadas en imputación, específicamente aquellas que aprovechan la Divergencia KL esperada, pueden guiar eficazmente la asignación de recursos a nivel de cohorte, cerrando la brecha entre las estrategias de adquisición teóricas y las aplicaciones prácticas de aprendizaje multimodal con restricciones presupuestarias.