💻 computer science

Beyond Heatmaps: Unsupervised Concept-Graph Reasoning for Interpretable Visual Explanation

Este artículo presenta el Modelo de Cuello de Botella de Conceptos basado en Grafos (G-CBM), un marco no supervisado que descubre y fundamenta conceptos mediante la Factorización de Matrices No Negativas, los representa como nodos en un grafo por imagen para el razonamiento con Redes de Atención de Grafos, y logra una interpretabilidad y un rendimiento predictivo superiores en evaluaciones de imágenes médicas sin requerir vocabularios predefinidos o anotaciones externas.

Autores originales: Md Mohasin Hossain (German Research Center for Artificial Intelligence, Saarland University, Saarbrücken, Germany), Anar Amirli (BEGO GmbH & Co. KG, Bremen, Germany), Robert Leist (German Research Cen

Publicado 2026-07-03

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Md Mohasin Hossain (German Research Center for Artificial Intelligence, Saarland University, Saarbrücken, Germany), Anar Amirli (BEGO GmbH & Co. KG, Bremen, Germany), Robert Leist (German Research Center for Artificial Intelligence), Md Abdul Kadir (German Research Center for Artificial Intelligence, Oldenburg University, Oldenburg, Germany), Daniel Sonntag (German Research Center for Artificial Intelligence, Oldenburg University, Oldenburg, Germany)

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás intentando enseñar a una computadora a reconocer la imagen de un melanoma (un tipo de cáncer de piel) frente a un lunar inofensivo.

El problema con los métodos actuales
La mayoría de los modelos de IA actuales son como "cajas negras". Miran una foto y dicen: "¡Eso es cáncer!", pero no pueden explicar realmente por qué.

Método antiguo (Mapas de calor): Si les preguntas cómo explican su decisión, te dan un "mapa de calor" rojo y borroso sobre la imagen. Es como señalar a una multitud entera y decir: "La respuesta está por ahí en algún lugar", sin saber específicamente quién es el culpable.
Modelos de "conceptos" actuales: Los modelos más nuevos intentan ser más inteligentes. Dicen: "Veo una mancha oscura y un borde irregular". Pero tienen dos grandes defectos:
1. Necesitan que un humano escriba una larga lista de reglas (como "buscar manchas oscuras") de antemores, lo cual es costoso y lento.
2. Tratan toda la imagen como un gran bloque. Pueden decir: "Hay una mancha oscura", pero no saben dónde está o si hay cinco manchas oscuras dispersas por ahí. Pierden los detalles espaciales.

La nueva solución: G-CBM
Los autores proponen un nuevo sistema llamado G-CBM (Modelo de Cuello de Botella de Conceptos basado en Grafos). Piensa en esto como una agencia de detectives que resuelve el caso paso a paso, en lugar de simplemente adivinar.

Así es como funciona, usando analogías simples:

1. El "Descubrimiento No Supervisado" (La libreta del detective)

Normalmente, un detective necesita que un jefe le proporcione una lista de sospechosos. G-CBM es diferente. Observa miles de fotos y descubre las pistas por su cuenta.

¿Cómo? Utiliza un truco matemático llamado NMF (Factorización de Matrices No Negativas). Imagina que tienes una bolsa gigante de piezas de LEGO de muchos juegos diferentes. En lugar de que te digan "esto es una rueda" o "esto es una ventana", la IA clasifica las piezas por forma y color. Descubre que ciertas formas (como "forma de rueda" o "forma de rayas") aparecen juntas con frecuencia.
El resultado: Construye una Biblioteca de Conceptos de patrones visuales reutilizables (como "red de pigmento", "límite de la lesión" o "mancha oscura") sin que nadie le haya dicho nunca qué significan esas palabras.

2. El "Grafo de Conceptos" (La reunión de equipo)

Una vez que la IA encuentra estos patrones, no se limita a contarlos. Construye un mapa (un grafo) para cada imagen individual.

Los Nodos: Cada patrón descubierto (por ejemplo, "mancha oscura") es una persona en una mesa de reuniones.
Las Conexiones: La IA utiliza una Red de Atención de Grafos (GAT). Imagina que la persona "Mancha Oscura" habla con la persona "Borde Irregular". Discuten: "Oye, veo una mancha oscura justo al lado de un borde irregular. ¡Esa combinación es sospechosa!".
Por qué esto importa: Esto permite a la IA comprender las relaciones. Sabe que una mancha oscura en medio de un círculo suave es diferente de una mancha oscura en un borde dentado. Modela estas relaciones complejas, algo que la matemática simple (clasificadores lineales) no puede hacer.

3. El "Filtro" (El portero/bouncer)

A veces, la IA ve una pequeña mancha borrosa que parece casi una pista, pero que probablemente sea solo ruido.

G-CBM tiene un filtro (umbral $\tau$ ). Piensa en esto como un portero en un club. Si un concepto (pista) no es lo suficientemente fuerte, el portero dice: "No eres lo suficientemente importante como para entrar en el proceso de decisión".
El beneficio: Esto obliga a la IA a concentrarse solo en las pistas más fuertes y seguras. En las pruebas, esto de hecho hizo que la IA fuera más precisa porque dejó de distraerse con detalles débidos y confusos.

4. La Explicación Final (Las tres respuestas)

Cuando G-CBM emite un diagnóstico, no solo da una puntuación. Proporciona tres respuestas claras, como un buen informe de detective:

¿Qué? (Selección de conceptos): "Estoy utilizando las pistas: 'patrón de pigmento' y 'límite de la lesión'".
¿Dónde? (Localización de conceptos): Dibuja un cuadro alrededor del lugar exacto en la foto donde encontró el "patrón de pigmento". ¡No más mapas de calor borrosos!
¿Cuánto? (Importancia): Da una puntuación de porcentaje: "El 'patrón de pigmento' contribuyó un 60% a mi decisión, mientras que el 'límite' contribuyó un 40%".

Los Resultados

El artículo probó esto en cuatro conjuntos de datos diferentes (incluyendo imágenes de cáncer de piel y objetos generales como ambulancias).

Mejor Precisión: G-CBM fue en realidad mejor prediciendo la respuesta correcta que los modelos de IA estándar (mejorando la precisión en un 3.7% en promedio).
Eficiencia: Al usar el filtro del "portero", la IA a menudo solo necesitó 2 o 3 pistas de 10 posibles para lograr un diagnóstico perfecto.
Confianza: Cuando los investigadores intentaron "eliminar" las pistas más importantes, la confianza de la IA cayó significamente. Esto demuestra que la IA realmente estaba mirando las cosas correctas, no solo adivinando.

En Resumen
G-CBM es una IA más inteligente y transparente. En lugar de adivinar basándose en una imagen borrosa, descubre sus propias pistas visuales, analiza cómo se relacionan esas pistas entre sí, ignora el ruido débil y te muestra exactamente dónde encontró la evidencia. Hace todo esto sin necesidad de que un humano escriba primero un manual para ella.

Resumen Técnico: Más allá de los mapas de calor: Razonamiento de grafos de conceptos no supervisado para la explicación visual interpretable

Planteamiento del problema

Los modelos de aprendizaje profundo en visión por computadora, aunque altamente precisos, sufren de procesos de toma de decisiones opacos que dificultan su despliegue en dominios críticos para la seguridad, como el diagnóstico médico. Los enfoques de interpretabilidad existentes enfrentan limitaciones significativas:

Métodos de saliencia post-hoc (p. ej., Grad-CAM): Proporcionan mapas de calor a nivel de píxel que indican dónde atiende el modelo, pero fallan al identificar qué conceptos visuales impulsan la predicción. A menudo carecen de fiabilidad y fallan en las pruebas de validación (sanity checks).
Métodos de conceptos post-hoc: Identifican conceptos visuales, pero no los integran en el proceso de predicción, fallando al modelar las dependencias entre conceptos.
Modelos de Cuello de Botella de Conceptos (CBMs): Integran la interpretabilidad en el proceso de predicción, pero típicamente dependen de vocabularios de conceptos predefinidos y costosos o de anotaciones supervisadas. Además, los CBMs estándar reducen los conceptos a puntuaciones únicas a nivel de imagen, descartando la recurrencia espacial (dónde aparecen los conceptos) y fallando al modelar dependencias no lineales entre conceptos mediante clasificadores lineales. También carecen de un anclaje de conceptos explícito en el espacio de entrada.

Metodología: Modelo de Cuello de Botella de Conceptos basado en Grafos (G-CBM)

Los autores proponen G-CBM, un marco intrínsecamente interpretable que realiza la clasificación y la explicación simultáneamente sin requerir anotaciones de conceptos manuales. El marco opera en dos etapas:

Etapa I: Descubrimiento de la base de conceptos no supervisado

Extracción de características: Las imágenes de entrenamiento se dividen en parches (regiones) y se pasan a través de una red de base congelada (p. ej., ResNet-50) para extraer características a nivel de región.
Descomposición NMF: Se aplica la Factorización de Matrices No Negativas (NMF) a la matriz de activación de estos parches. La NMF descubre un conjunto de bases de conceptos reutilizables y no negativas ( $C$ ) que capturan patrones visuales recurrentes (p. ej., "rueda", "franja", "patrón de pigmento").
Selección de conceptos: El número de conceptos ( $r$ ) se selecciona basándose en una métrica de puntuación que equilibra la cobertura de clases y el poder discriminativo. Estas bases se congelan y sirven como los nodos del grafo de conceptos.

Etapa II: Predicción y explicación basadas en grafos de conceptos

Proyección y filtrado: Para una nueva imagen de entrada, las características a nivel de región se proyectan sobre las bases de conceptos congeladas utilizando Mínimos Cuadrados No Negativos (NNLS). Un umbral ajustable ( $\tau$ ) filtra las características débiles a nivel de región, suprimiendo el ruido y controlando la selectividad de la explicación.
Construcción del grafo: Se construye un grafo de conceptos por cada imagen donde:
- Nodos: Representan las bases de conceptos descubiertas. Las características de los nodos se inicializan agregando las características a nivel de región de los parches que coinciden con el concepto, ponderadas por sus puntuaciones de activación.
- Aristas: Representan las relaciones entre todos los nodos de conceptos.
Red de Atención de Grafos (GAT): Una GAT procesa el grafo para modelar las dependencias inter-conceptuales no lineales. A diferencia de los clasificadores lineales, la GAT permite que cada nodo de concepto atienda a otros, capturando interacciones complejas.
Predicción: El grafo se agrupa (pooling) y se pasa a través de una cabeza de clasificación para producir la predicción final.

Salidas de interpretabilidad

G-CBM proporciona tres señales interpretativas distintas:

Selección de conceptos (Qué): Identifica qué nodos de conceptos tienen evidencia umbralizada positiva, indicando qué conceptos influyeron en la predicción.
Anclaje de conceptos (Dónde): Localiza los conceptos asignando puntuaciones de anclaje a los parches de la imagen basadas en su activación de los conceptos seleccionados, visualizados mediante cuadros delimitadores (bounding boxes).
Puntuaciones de importancia (Cuánto): Calcula las sensibilidades basadas en gradientes de la probabilidad de la clase predicha con respecto a cada característica del nodo de concepto para cuantificar la contribución.

Contribuciones clave

Marco G-CBM: Un marco de clasificación de imágenes intrínsecamente interpretable que realiza la clasificación y la explicación de forma conjunta. Combina el descubrimiento de conceptos no supervisado (vía NMF) con el razonamiento relacional basado en grafos (vía GAT) para producir selección de conceptos, anclaje y puntuaciones de importancia en un flujo de trabajo unificado.
Representación de grafo de conceptos por imagen: Introduce una representación de grafo donde los nodos agregan características a nivel de región, preservando la recurrencia espacial, y las aristas aprendidas mediante atención de grafos capturan dependencias inter-conceptuales no lineales.
Filtrado de conceptos ajustable: Propone un umbral ( $\tau$ ) que suprime las características débiles a nivel de región antes de la agregación. Esto permite un control explícito sobre la selectividad de la explicación y mejora el anclaje de los conceptos sin eliminar los nodos del grafo.
Validación empírica: Valida el enfoque a través de cuatro conjuntos de datos (ImageNet, HAM10000, PH2, Derm7pt), demostrando un rendimiento competitivo frente a métodos supervisados sin requerir anotaciones manuales.

Resultados experimentales

Rendimiento: G-CBM logra una mejora promedio relativa del AUC del 3.7% sobre una línea base de ResNet-50 en los cuatro conjuntos de datos. En HAM10000, supera a la línea base de CNN más fuerte (0.923 vs. 0.912). En PH2, alcanza un AUC de 0.960 utilizando solo 2 de los 10 conceptos disponibles en promedio.
Comparación con métodos supervisados: En los benchmarks de dermoscopia (Derm7pt, PH2), G-CBM es competitivo con los enfoques supervisados (p. ej., PCBM, CBE, MICA) que requieren anotaciones de conceptos externas, a pesar de que G-CBM no requiere tales anotaciones.
Fidelidad: Los análisis de eliminación/inserción con controles de ablación aleatorios confirman que la importancia de los conceptos clasificada por gradiente refleja fielmente las predicciones del modelo. El ranking de "Más Relevante Primero" supera significativamente a los baselines aleatorios en estas pruebas de perturbación.
Selectividad: El umbral de filtrado de conceptos permite que el modelo alcance su rendimiento máximo con un subconjunto disperso de conceptos (p. ej., 3.8 de 9 conceptos en HAM10000), demostrando que la evidencia de conceptos de alta confianza es suficiente para una predicción precisa.

Significado y afirmaciones

El artículo afirma que G-CBM aborda las limitaciones de los métodos existentes al proporcionar un marco que responde a qué conceptos están presentes, dónde aparecen y cuánto contribuyen, todo dentro del proceso de predicción.

Descubrimiento no supervisado: Elimina la necesidad de costosas anotaciones de conceptos supervisadas o la dependencia de modelos fundacionales opacos (LLMs/CLIP) para la generación de conceptos.
Razonamiento no lineal: Al utilizar una GAT, modela las dependencias no lineales entre conceptos, algo que los CBM lineales no pueden hacer.
Anclaje espacial: Ancla explícitamente los conceptos en regiones de la imagen, preservando la recurrencia espacial en lugar de colapsarlos en puntuaciones únicas a nivel de imagen.
Interpretabilidad vs. Precisión: Los resultados sugieren que los clasificadores visuales pueden razonar a través de conceptos localizados y reutilizables sin sacrificar el rendimiento predictivo, ofreciendo un camino viable para la IA interpretable en dominios críticos para la seguridad.