Resumen Técnico: GLARE – Una Interfaz de Lenguaje Natural para la Consulta de Explicaciones Globales

1. Planteamiento del Problema

Los modelos de visión profunda, aunque exitosos en dominios de alto riesgo, siguen siendo opacos. Si bien la IA explicable (XAI) ofrece explicaciones locales (por ejemplo, mapas de prominencia para instancias individuales) y explicaciones globales (por ejemplo, reglas agregadas o prototipos que resumen el comportamiento del modelo en un conjunto de datos), existe una brecha crítica de usabilidad. Las explicaciones globales actuales suelen ser artefactos monolíticos y estáticos que contienen miles de reglas lógicas o prototipos. Presentar este "volcado de explicaciones" al usuario induce una sobrecarga cognitiva, ocultando las percepciones en lugar de revelarlas.

Los usuarios normalmente no necesitan un resumen estático; participan en un proceso iterativo y dirigido por consultas para probar hipótesis específicas (por ejemplo, "¿El modelo depende de la nieve de fondo para clasificar lobos?"). Las herramientas existentes obligan a los usuarios a filtrar y agregar manualmente las explicaciones locales para responder a tales preguntas, lo que crea una fricción que limita la utilidad práctica de los conocimientos globales. Existe la necesidad de una interfaz que permita a los usuarios interrogar las explicaciones globales mediante lenguaje natural sin exponerlos a representaciones de bajo nivel ni requerir experiencia en programación.

2. Metodología

Los autores proponen GLARE (Global Language-based Analysis and Retrieval of Explanations), un sistema interactivo que trata las explicaciones globales no como documentos estáticos, sino como una base de datos consultable.

Arquitectura del Sistema

El sistema sigue un flujo de trabajo de parseo-validación-ejecución:

1. Entrada: Los usuarios plantean preguntas en lenguaje natural sobre el comportamiento agregado del modelo (por ejemplo, "¿Qué porcentaje de imágenes de dormitorios contiene tanto cama como pared?").
2. Parseo Semántico (LLM): Un Gran Modelo de Lenguaje (LLM) ajustado actúa como un analizador semántico. Traduce la consulta de lenguaje natural del usuario en una consulta SQL estructurada.
   • El LLM selecciona de una taxonomía predefinida de 24 plantillas de consulta que cubren tareas como recuentos de frecuencia, combinaciones booleanas, coocurrencia y análisis contrafáctico.
   • Extrae parámetros (nombres de clases, nombres de objetos, umbrales) para instanciar la plantilla.
3. Ejecución: El SQL generado se valida para asegurar su seguridad y corrección, y luego se ejecuta contra una base de datos relacional que contiene los datos de la explicación global.
   • La base de datos se construye agregando Explicaciones Suficientes Mínimas (MSX) Locales en una estructura de Forma Normal Disyuntiva (DNF) global.
   • Aunque los experimentos utilizan explicaciones generadas por un método específico (Vasu et al. [20]), la interfaz está diseñada para funcionar con cualquier método de explicación basada en conceptos que produzca formas simbólicas.
4. Salida: El sistema devuelve:
   • Un resumen en lenguaje natural aumentado con estadísticas relevantes.
   • Explicaciones locales de apoyo (imágenes de evidencia).
   • Visualizaciones alineadas con la intención de la consulta (por ejemplo, mapas de segmentación que resaltan los objetos relevantes).

Estrategia de Entrenamiento

Para asegurar que el LLM aprenda la estructura de la consulta de explicaciones en lugar de memorizar entidades específicas de un conjunto de datos, los autores emplean un enfoque de ajuste fino especializado:

• Datos Sintéticos: Se generan 50,000 pares de entrenamiento muestreando combinaciones aleatorias de objetos y clases de escenas del vocabulario de ADE20K y aplicando variaciones de lenguaje natural (sinónimos, plantillas de fraseo).
• Enmascaramiento de Pérdida SQL-Fence: Durante el ajuste fino (usando LoRA en modelos Gemma 2 y Qwen 2.5), la pérdida de entrenamiento se enmascara para enfocarse exclusivamente en los tokens entre los marcadores SQL_START y SQL_END. Esto obliga al modelo a aprender la álgebra relacional del lenguaje de consulta, permitiendo la transferencia zero-shot a nuevos conjuntos de datos con diferentes vocabularios.

3. Contribuciones Clave

El artículo describe tres contribuciones principales:

1. Interfaz de Lenguaje Natural para Explicaciones Globales: La introducción de GLARE, que transforma las explicaciones globales en bases de datos consultables, permitiendo a los usuarios interrogar el comportamiento del modelo mediante lenguaje natural.
2. Representación Intermedia Basada en SQL: La definición de un esquema SQL estructurado para agregar, filtrar y contrastar explicaciones locales, cerrando la brecha entre la intención del lenguaje natural y la agregación lógica formal.
3. Interpretación de Consultas Robusta mediante Ajuste Fino Sintético: La demostración de que el ajuste fino con enmascaramiento de pérdida SQL-fence produce una interpretación de consultas robusta. Este enfoque permite la transferencia zero-shot entre conjuntos de datos (por ejemplo, de ADE20K a Pascal VOC) sin necesidad de reentrenamiento, ya que el modelo aprende patrones de razonamiento generalizados en lugar de mapeos de entidades específicas del conjunto de datos.

4. Resultados Experimentales

El sistema fue evaluado sobre explicaciones globales derivadas del conjunto de datos de segmentación de escenas ADE20K, con una evaluación cruzada en Pascal VOC.

Precisión Dentro de la Distribución (In-Distribution)

• Rendimiento: Los modelos ajustados (específicamente Gemma 2 9B y 27B) lograron una precisión de coincidencia de resultados >95% en consultas no utilizadas durante el entrenamiento sobre el conjunto de datos.
• Integridad Estructural: Estos modelos lograron puntuaciones casi perfectas en detección de cercas (fence detection), parseo de SQL y tasas de ejecución (100% en muchos casos).
• Comparación con Línea Base: Los modelos base (no entrenados) lograron una precisión cercana a cero, confirmando que el rendimiento es producto del flujo de trabajo de ajuste fino específico y no de un conocimiento previo de SQL. Una línea base de Regex sin aprendizaje alcanzó un 74.4% de precisión, significativamente inferior a la de los modelos ajustados.

Robustez ante Perturbaciones

El sistema demostró una fuerte resiliencia al ruido lingüístico:

• Errores Ortográficos: El modelo ajustado mantuvo una tasa de coincidencia del 79.6% frente al 48.7% de la línea base de Regex, mostrando una ventaja de 31 puntos porcentuales.
• Sustitución de Sinónimos: El modelo exhibió un 100% de robustez ante sinónimos, superando a la línea base de Regex por 17 puntos porcentuales.
• Consistencia: Las paráfrasis semánticamente equivalentes produjeron resultados SQL idénticos el 94.1% de las veces.
• Sanidad: Todos los resultados cumplieron con las restricciones del dominio (por ejemplo, sin conteos negativos o porcentajes fuera del rango [0, 100]).

Generalización y Transferencia

• Fraseo Fuera de la Distribución (OOD): El modelo manejó bien el fraseo novedoso de las plantillas entrenadas (45.1% de coincidencia exacta), aunque tuvo dificultades con doble negaciones complejas o consultas altamente informales.
• Constructos SQL Novedosos: El modelo mostró generalización compositiva, ensamblando fragmentos de SQL familiares en nuevas estructuras (por ejemplo, chained_filter con un 100% de coincidencia), pero falló en sintaxis completamente inéditas (por ejemplo, window_function con un 0% de coincidencia).
• Transferencia entre Conjuntos de Datos: Un modelo entrenado exclusivamente con metadatos de ADE20K logró una precisión de ~90% al ser probado en una base de datos de Pascal VOC con un vocabulario de objetos completamente disjunto. Esto confirma que el modelo aprendió la estructura relacional del esquema en lugar de los nombres de las entidades.

Análisis de Escala del Modelo

• Umbral de Capacidad: Se requiere una capacidad mínima del modelo. Qwen 2.5 0B falló en aprender la tarea incluso tras el ajuste fino, mientras que los modelos de 7B+ funcionaron de manera robusta.
• Saturación: Dentro de la familia Gemma 2, el rendimiento se saturó entre los modelos de 2B, 9B y 27B parámetros para tareas dentro de la distribución, lo que sugiere que el flujo de trabajo sintético es efectivo incluso para modelos más pequeños, siempre que sean suficientemente grandes.

5. Significado y Reivindicaciones

El artículo sostiene que GLARE ofrece un camino práctico y fiable hacia una XAI centrada en el humano. Al pasar de la inspección pasiva de artefactos estáticos a un diálogo activo dirigido por consultas, el sistema hace que las explicaciones globales sean accesibles para no expertos.

Los autores enfatizan que su enfoque:

• Fundamenta la Flexibilidad en la Corrección Formal: Al utilizar LLMs como analizadores con restricciones lógicas que mapean a plantillas SQL verificables, el sistema evita las alucinaciones comunes en la generación directa de explicaciones mediante LLM.
• Permite la Transferencia Zero-Shot: La estrategia de entrenamiento "SQL-fence" permite que el sistema se generalice a nuevos dominios y vocabularios sin reentrenamiento, siempre que se disponga de una nueva lista de nombres de entidades.
• Reduce la Carga Cognitiva: Permite a los usuarios realizar preguntas dirigidas sin necesidad de comprender la complejidad subyacente de miles de reglas lógicas.

El artículo concluye que, si bien la taxonomía actual de plantillas es extensible pero no exhaustiva, la capacidad demostrada para transferir entre conjuntos de datos y manejar variaciones lingüísticas sugiere que la consulta mediada por LLM es una solución viable para escalar el análisis de explicaciones globales.