Knowledge Graphs and Explainable AI as Complementary Resources for Urban Mining

Resumen Técnico: Los Grafos de Conocimiento y la IA Explicable como Recursos Complementarios para la Minería Urbana

Planteamiento del Problema
La minería urbana, específicamente la evaluación de pre-demolición (PDA) del inventario de edificios existentes, depende de un proceso de auditoría regulado donde auditores cualificados deben inventariar componentes y determinar su destino (reutilización, reciclaje o eliminación). Si bien la Inteligencia Artificial (IA) puede apoyar a estos auditores, la restricción principal para escalar la minería urbana no es la precisión de predicción de los modelos técnicos, sino la defendibilidad de las decisiones que estos apoyan. Las decisiones deben ser legibles en el vocabulario regulatorio, plausibles bajo las restricciones del dominio, trazables en la documentación y contestables.

Las técnicas actuales de IA Explicable (XAI) (p. ej., atribución de características, contrafactuales) operan sobre el espacio de entrada de modelos de caja negra, produciendo salidas que a menudo carecen de alineación con las categorías regulatorias o las restricciones físicas del dominio. Por el contrario, los Grafos de Conocimiento (KG) proporcionan conocimiento estructurado del dominio pero carecen de capacidad de respuesta ante instancias específicas del modelo. La literatura existente ha taxonomizado la integración de KG y XAI, pero permanece estructuralmente subespecificada; carece de un relato teórico de por qué integraciones específicas producen artefactos que ninguno de los dos recursos puede proporcionar por sí solo.

Metodología y Lente Teórica
El artículo adopta una interpretación de complementariedad teórica fundamentada en la tradición de recursos de los Sistemas de Información (IS). En esta visión, dos recursos son complementarios cuando la contribución marginal de uno aumenta con el nivel del otro. Los autores argumentan que la integración de KG y XAI es estructural más que agregativa: el objeto conjunto posee propiedades (legibilidad, plausibilidad, procedencia, contestabilidad) que los objetos unilaterales carecen.

El marco opera sobre la "superficie explicativa" de los predictores de caja negra. Define un grafo de estado de propiedades $\Sigma(x)$ para una instancia $x$, que consiste en tuplas $(e, p, v, r)$ que representan entidades, propiedades, valores y anotaciones de fiabilidad. La metodología propone cuatro modos de integración consolidados, cada uno definido por una operación tipada sobre artefactos de XAI y estructuras de sustrato de KG:

1. Elevación (Lifting): Mapea las atribuciones de XAI (p. ej., valores SHAP) a instancias de KG. Utiliza una función de fundamentación $\gamma$ para mapear características de entrada a instancias tipadas (p. ej., una región saliente a un product:DoorLeaf) y agrega masas de saliencia a lo largo de una jerarquía mereológica.
   • Propiedad de Defendibilidad: Legibilidad (las explicaciones existen en el vocabulario regulatorio con el nivel de granularidad requerido).
2. Restricción (Constraining): Filtra los candidatos contrafactuales de XAI a través de un predicado de plausibilidad basado en axiomas de compatibilidad del KG. Asegura que las intervenciones propuestas (p. ej., cambiar un material) satisfagan las dependencias de definición y las restricciones estructurales (p. ej., la topología de un compartimento de incendio).
   • Propiedad de Defendibilidad: Plausibilidad (los contrafactuales corresponden a intervenciones admisibles para decisiones de auditoría reales).
3. Tipificación (Typing): Construye anotaciones de fiabilidad para las aserciones de propiedades basadas en cadenas de evidencia (confianza del modelo, cadenas de inferencia, datos de calibración). Aplica una tipología de fiabilidad (p. ej., Asumido, Confirmado, Eliminado) a aserciones específicas.
   • Propiedad de Defendibilidad: Procedencia (Sourcing) (diferenciar la respuesta del auditor basada en la evidencia que sustenta cada propiedad).
4. Revisión (Revising): Un operador bidireccional donde las acciones del auditor (aceptar, contestar o añadir reclamos) actualizan el grafo de estado de propiedades y generan rastros de procedencia (usando PROV-O). Las acciones entre instancias alimentan un repositorio de evidencia para la revisión de la ontología.
   • Propiedad de Defendibilidad: Contestabilidad (la decisión de auditoría es un artefacto inspeccionable, revisable y con un historial consultable).

Contribuciones Principales
El artículo realiza tres contribuciones principales:

1. Interpretación Teórica: Proporciona un relato de complementariedad teórica para la integración de KG–XAI en procesos expertos que requieren rendición de cuentas, yendo más allá de las taxonomías descriptivas hacia un análisis estructural de cómo las parejas técnicas se convierten en artefactos de auditoría.
2. Modos Consolidados: Formaliza cuatro modos de integración específicos (Elevación, Restricción, Tipificación, Revisión), vinculando cada uno con una propiedad de defendibilidad distinta requerida para el cumplimiento regulatorio.
3. Marco Ilustrativo: Demuestra el marco utilizando un ejemplo de una puerta cortafuegos dentro del contexto del stack de Datos de Edificios Vinculados (LBD) de la W3C y el Índice de Minería Urbana.

Resultos y Ejemplo Ilustrativo
El artículo no presenta resultados experimentales empíricos, sino que ofrece un ejemplo práctico de una evaluación de una puerta cortafuegos para ilustrar los modos:

• Elevación traduce la saliencia del modelo (sello, hoja, herrajes) en una descripción estructurada de los componentes de la puerta, permitiendo al auditor copiar la explicación directamente en los campos de la auditoría.
• Restricción filtra los contrafactuales; por ejemplo, rechaza la sugerencia de cambiar el material del núcleo por una sustancia que no sea resistente al fuego porque la puerta está en un muro de compartimentación de incendios (una restricción codificada en el KG), pero acepta un cambio de bisagras pegadas a atornilladas como una intervención válida.
• Tipificación asigna puntuaciones de fiabilidad (p. ej., Asumido con una confianza de 0.68) a la clase de resistencia al fuego, lo que incita al auditor a realizar una inspección aclaratoria específica en lugar de una refotografía genérica.
• Revisión permite al auditor contestar la clasificación tras la inspección (encontrando que la puerta es de control de humo, no resistente al fuego). Esto actualiza el estado de la propiedad, registra la procedencia del cambio y marca la ontología para una posible refinación.

Los autores señalan que eliminar cualquier modo degrada el perfil de defendibilidad: eliminar la Elevación deja solo mapas de calor; eliminar la Restricción permite sustituciones regulatoriamente prohibidas; eliminar la Tipificación deja puntuaciones de confianza sin procedencia; y eliminar la Revisión resulta en inventarios estáticos sin rastros de procedencia.

Significancia y Reivindicaciones
El artículo se posiciona como un trabajo posicional más que empírico. Su significancia radica en ofrecer un vocabulario estructural para integrar KG y XAI en la IA de dominios expertos donde un humano cualificado sigue siendo responsable.

Los autores sostienen que los hallazgos cautelares respecto a la XAI en dominios expertos (p. ej., explicaciones que no logran mejorar la precisión) pueden explicarse estructuralmente por la falta de un sustrato que desbloquee las propiedades de defendibilidad. Al construir despliegues de IA que inherentemente apoyan la legibilidad, la plausibilidad, la procedencia y la contestabilidad, el marco pretende cumplir con las demandas de regímenes regulatorios como la Ley de IA de la UE y estándares sectoriales (p. ej., DIN SPEC 91484).

El artículo reconoce explícitamente sus limitaciones: el marco no resuelve la gobernanza de la ontología (la autoridad para las revisiones debe provenir de organismos institucionales externos) y no se extiende a modelos inherentemente interpretables sin modificaciones. El trabajo futuro se identifica como la operacionalización del marco en casos de estudio de PDA para evaluar su impacto en la capacidad de los auditores para documentar, contestar y revisar las evaluaciones apoyadas por IA.