Resumen Técnico: CADS – Sistema de Decisión Adaptativo Conformal para Clasificación de Imágenes Eficiente en Costos

1. Declaración del Problema

La adopción generalizada de modelos de IA de alta capacidad se ve obstaculizada por una estrategia de despliegue de "talla única" que ignora la heterogeneidad inherente de la complejidad de las muestras. En dominios como la imagen médica, los recursos computacionales a menudo se desperdician en casos rutinarios "fáciles" al aplicar modelos monolíticos y pesados de manera indiscriminada. Este enfoque crea una crisis dual:

• Ambiental: La huella de carbono del entrenamiento y despliegue de modelos masivos se está volviendo insostenible.
• Operacional: La innovación rápida conduce al "envejecimiento de los modelos de IA", donde los modelos son reemplazados frecuentemente en lugar de reutilizarse eficientemente.

Los marcos dinámicos existentes, como los mecanismos de salida anticipada o las cascadas de confianza, a menudo dependen de desencadenantes heurísticos (por ejemplo, probabilidad máxima de softmax) que carecen de garantías estadísticas formales y son propensos a una mala calibración, particularmente bajo cambios de distribución. Existe una necesidad crítica de un marco que enrute dinámicamente las muestras basándose en la complejidad en tiempo real, mientras proporciona una cuantificación de la incertidumbre matemáticamente rigurosa para equilibrar la compensación entre costo y precisión.

2. Metodología: El Marco CADS

El Sistema de Decisión Adaptativo Conformal (CADS) es un algoritmo secuencial de múltiples modelos diseñado para tratar el despliegue de modelos como un problema de asignación de recursos. Enruta las muestras a través de una cascada de modelos que van desde modelos ligeros "Exploradores" hasta arquitecturas de alta capacidad "Oráculos".

2.1 Innovaciones Principales

CADS se basa en tres mecanismos principales:

1. Predicción Conformal para Cuantificación de Incertidumbre: En lugar de depender de etiquetas suaves o umbrales de confianza arbitrarios, CADS construye un conjunto de predicción $C(x)$ utilizando Conjuntos de Predicción Adaptativos (APS). El tamaño de este conjunto sirve como un proxy riguroso para la dificultad:

   • Singleton ($|C(x)|=1$): Alta certeza.
   • Binario ($|C(x)|=2$): Incertidumbre moderada.
   • Difícil ($|C(x)| \ge 3$): Alta incertidumbre.
     Esto permite que el sistema active la consulta de expertos solo cuando sea estadísticamente necesario.

2. Análisis de Complementariedad: El sistema precalcula patrones de fallo entre expertos en un conjunto de calibración. Cuantifica qué tan bien un experto $B$ puede corregir los errores de otro $A$, tanto globalmente como específicamente para confusiones de pares de clases. Esto permite la selección dinámica del experto más competente para resolver incertidumbres específicas.

3. Ensemble Ponderado de Dos Niveles: Las predicciones finales se agregan utilizando un esquema de ponderación híbrido:

   • Peso Global ($w_{global}$): Basado en la precisión general del experto.
   • Peso Local ($w_{local}$): Basado en la competencia específica del experto en la clase sospechada.
     La probabilidad final del ensemble es una combinación lineal de estos pesos.

2.2 Lógica de Salida Adaptativa

El proceso de inferencia se detiene cuando se cumple un umbral de confianza predefinido. El umbral $\alpha_{final}$ se ajusta dinámicamente basándose en:

• Impulso de Consenso: Si un alto porcentaje de expertos consultados están de acuerdo, la confianza requerida se reduce.
• Dificultad de la Clase: El umbral se refina basándose en la dificultad histórica de la clase de consenso.
  La cascada termina si la confianza del ensemble supera $\alpha_{final}$, los dos expertos más recientes están de acuerdo y se ha consultado un número mínimo de expertos.

2.3 Optimización

Los hiperparámetros (incluida la tasa de no cobertura conformal $\zeta$, los umbrales de confianza y los exponentes de ponderación) se optimizan utilizando optimización bayesiana (Estimador Parzen Estructurado en Árbol) para maximizar la precisión mientras se adhiere estrictamente a una restricción de presupuesto computacional ($B$ en GFLOPs).

3. Configuración Experimental

• Modelos: Un grupo de expertos se categorizó en tres niveles:
  • Exploradores: Modelos ligeros (por ejemplo, MobileNetV3, EfficientNet-Lite0) para una evaluación rápida de la complejidad.
  • Especialistas: Modelos de nivel medio (por ejemplo, MobileViT, ConvNeXt V2 Atto) para mayor precisión.
  • Oráculos: Modelos pesados (por ejemplo, Swin V2, DINOv2 ViT-Base) para casos de alta incertidumbre.
• Conjuntos de Datos:
  • PathMNIST: Una referencia de histología médica (9 clases) para probar la eficiencia de costos en tareas rutinarias.
  • CIFAR-100: Un entorno de alta entropía con 100 clases para probar la precisión de enrutamiento en espacios de etiquetas complejos.

4. Resultados Clave

La evaluación en ambos conjuntos de datos demostró que CADS supera consistentemente a expertos individuales y a las líneas base de ensemble convencionales a una fracción del costo computacional.

• PathMNIST: CADS logró la precisión objetivo utilizando aproximadamente 12 veces menos computación que los enfoques acumulativos estándar. El sistema utilizó predominantemente modelos Exploradores y Especialistas, reservando los Oráculos solo para casos de alta incertidumbre.
• CIFAR-100: CADS superó la precisión del experto individual de mejor rendimiento (89.66% vs. 88.77%), demostrando que el enrutamiento adaptativo mitiga eficazmente los sesgos de los modelos individuales.
• Estudios de Ablación:
  • Enrutamiento Conformal: El enrutamiento basado en APS superó las medidas de incertidumbre estándar (Softmax Máximo, Entropía, Margen) en precisión.
  • Necesidad de Componentes: Eliminar la lógica de salida conformal hizo que el sistema fuera computacionalmente inviable bajo presupuestos estrictos. Agregar enrutamiento de complementariedad y ponderación híbrida aumentó aún más la precisión de 84.36% a 88.26%.
  • Estrategia de Ponderación: La ponderación híbrida 0.6/0.4 superó significativamente al promedio uniforme, particularmente en presupuestos bajos.

5. Significado y Afirmaciones

El artículo afirma que CADS representa un paso significativo hacia un despliegue de IA sostenible y eficiente. Sus contribuciones principales son:

• Rigor Matemático: Al reemplazar los desencadenantes heurísticos con predicción conformal, CADS proporciona garantías estadísticas formales para la cuantificación de la incertidumbre, lo cual es esencial para decisiones de alto riesgo como el diagnóstico médico.
• Eficiencia de Recursos: Reduce drásticamente la huella económica y ambiental de la IA al enrutar con precisión las muestras basándose en la complejidad en tiempo real, evitando el desperdicio de inferencia de modelos pesados en casos rutinarios.
• Superioridad Colaborativa: El sistema demuestra que un ensemble colaborativo puede superar incluso al experto individual más fuerte aprovechando inteligentemente la complementariedad de los modelos.

Los autores posicionan a CADS no meramente como una técnica de optimización, sino como una metodología fundamental para cambiar de arquitecturas monolíticas a sistemas adaptativos de múltiples expertos que equilibran la fiabilidad diagnóstica con la sostenibilidad computacional.