RuleConEx: an intrinsically interpretable neural network unifying logical rules and counterfactual explanations for data access control

Resumen Técnico: RuleConEx

Planteamiento del Problema

Los modelos de control de acceso basados en aprendizaje profundo (DLBAC), como los propuestos por Nobi et al., ofrecen una alta precisión en la predicción de decisiones de acceso, pero sufren de una opacidad completa. Esta falta de interpretabilidad crea una barrera legal y operativa significativa, particularmente con respecto al cumplimiento de regulaciones como el RGPD (Artículo 22), que exige la capacidad de explicar las decisiones automatizadas.

Las soluciones existentes para la explicabilidad en este dominio son insuficientes:

• Métodos post-hoc (por ejemplo, SHAP, LIME) proporcionan aproximaciones locales que no son fieles al mecanismo de decisión real y pueden ser manipuladas.
• Modelos de auto-explicación separados abordan solo un aspecto de la explicabilidad. HyperLogic genera reglas IF-THEN globales, pero no ofrece contrafácticos accionables para usuarios denegados. HyConEx genera contrafácticos locales, pero no proporciona reglas auditables globales para los administradores.
• Limitaciones actuales: Ninguna arquitectura existente unifica intrínsecamente reglas simbólicas globales y contrafácticos locales accionables dentro de un único paso hacia adelante (forward pass), ni garantizan que los contrafácticos sean tuplas categóricas válidas por construcción.

Metodología

Los autores proponen RuleConEx (Rule-based Counterfactual eXplainer), una red neuronal intrínsecamente interpretable que unifica reglas lógicas y explicaciones contrafácticas.

Arquitectura

RuleConEx se construye alrededor de una hiperred compartida que parametriza dos ramas distintas, fusionando sus salidas en una única decisión:

1. Hiperred compartida: Un tronco TabResNet que genera los parámetros para las ramas. Es consultada por:
   • Una consulta global (vector aprendido + ruido Gaussiano) para parametrizar la rama de reglas, asegurando un conjunto de reglas único y consistente para todas las solicitudes.
   • Una consulta local (codificación latente de la instancia de entrada) para parametrizar la rama contrafáctica.
2. Rama de Reglas (Global): Una red DR-Net (Differentiable Rule Network) binarizada con $K=48$ neuronas de regla. Produce un conjunto de reglas IF-THEN decodificadas directamente de los pesos de la red. Las reglas utilizan un vocabulario específico de literales relacionales (por ejemplo, $user\_attr_i = resource\_attr_j$) y negaciones, alineándose con el lenguaje de políticas ABAC de Xu y Stoller.
3. Rama Contrafáctica (Local): Un clasificador lineal local parametrizado por la hiperred. Genera contrafácticos computando la ganancia de modificar atributos categóricos para alcanzar una clase objetivo. Crucialmente, impone la validez por construcción, asegurando que la salida sea una tupla categórica válida y respetando una máscara de atributos inmutables (por ejemplo, atributos del recurso).
4. Fusión: Los logits de ambas ramas se combinan mediante una suma ponderada con pesos aprendidos y normalizados por softmax ($\alpha_r$ y $\alpha_h$) para producir la decisión de acceso final.

Entrenamiento y Función de Pérdida

El modelo se entrena conjuntamente para minimizar una función de pérdida compuesta:
$$\mathcal{L} = \mathcal{L}_{CE} + \lambda_r \mathcal{L}_{rule} + \lambda_h \mathcal{L}_{loc} + \lambda_{cf} \mathcal{L}_{cf} + \lambda_{sp} \mathcal{L}_{sparsity} + \lambda_{len} \mathcal{L}_{length} + \lambda_{ent} \mathcal{L}_{entropy}$$
Componentes clave incluyen:

• Pérdida Contrafáctica ($\lambda_{cf}$): Alienta al modelo a clasificar las tuplas modificadas (contrafácticos) en la clase objetivo.
• Restricciones de Regla: Penaliza la longitud de la regla (máximo 8 literales) y fomenta el voto de clase única (entropía).
• Medición de Fidelidad: A diferencia de otros trabajos que asumen la fidelidad, RuleConEx mide el acuerdo estricto y ponderado entre las reglas decodificadas y la decisión fusionada final.

Principales Contribuciones

1. Arquitectura Unificada: RuleConEx es el primer modelo que produce una decisión de acceso, reglas IF-THEN globales y contrafácticos locales en un único paso hacia adelante.
2. Validez y Fidelidad Intrínsecas:
   • Las reglas son exactas: La función computada por la rama de reglas es totalmente decodificable, y su fidelidad es medida en lugar de asumida.
   • Los contrafácticos son tuplas categóricas válidas por construcción, manejando atributos discretos sin necesidad de proyección post-hoc.
3. Literales Relacionales: El modelo incorpora explícitamente restricciones relacionales (igualdad entre atributos de usuario y recurso) en el espacio de entrada y en el vocabulario de reglas. Los autores demuestran que, sin ellas, los modelos simbólicos (como los árboles de decisión) fallan al capturar la estructura de la política de manera efectiva.
4. Compensación Ajustable (Tunable Trade-off): El artículo identifica un único coeficiente, $\lambda_{cf}$ (el peso de la pérdida contrafáctica), como mecanismo de control. El barrido de este coeficiente permite un cambio continuo entre:
   • Explicabilidad orientada al usuario: Contrafácticos más cortos (menos cambios de atributos).
   • Explicabilidad orientada al auditor: Mayor consistencia entre reglas y contrafácticos (más contrafácticos justificados por una regla global).
   • Esta compensación se logra sin diferencias estadísticamente detectables en la precisión.

Resultados Experimentales

El modelo fue evaluado en 11 conjuntos de datos de referencia de DLBAC (3 conjuntos de datos reales de Amazon y 8 conjuntos de datos sintéticos) utilizando 5 semillas aleatorias.

• Precisión: RuleConEx alcanzó una precisión media del 92.1%. Esto es estadísticamente indistinguible de HyConEx, Random Forests y Linear SVMs, y solo 0.6 puntos porcentuales inferior al baseline de MLP opaco.
• Calidad de las Reglas:
  • Las reglas cubren el 80% de las solicitudes en promedio.
  • La fidelidad estricta (acuerdo entre las reglas y la decisión final) es de 0.80.
  • Las reglas son concisas (longitud media de ~4.5 literales) y principalmente relacionales.
• Calidad de los Contrafácticos:
  • El 96% de los contrafácticos son tuplas categóricas válidas.
  • Modifican un promedio de 2 atributos.
  • La tasa de éxito de inversión (flip success rate) es del 100%.
• Consistencia: La consistencia entre reglas y contrafácticos (fracción de contrafácticos válidos justificados por una regla de clase objetivo) oscila entre 0.18 (configuración por defecto) y 0.43 (cuando se relaja $\lambda_{cf}$). Esto es significativamente mayor que la consistencia lograda al yuxtaponer los modelos HyperLogic y HyConEx entrenados por separado (0.22).
• Estudios de Ablación:
  • La hiperred compartida por sí misma es neutral; los beneficios provienen del entrenamiento conjunto.
  • El ruido Gaussiano en la consulta global es superfluo.
  • Los literales relacionales son críticos; su eliminación provoca una caída significativa en la precisión y cobertura de las reglas.

Significado y Reivindicaciones

El artículo afirma que su principal contribución no es una ganancia en la precisión predictiva, sino la unificación de dos formas complementarias de explicabilidad dentro de un único modelo ajustable.

• Control Explícito: RuleConEx proporciona un mecanismo de ajuste explícito ($\lambda_{cf}$) para equilibrar las necesidades del usuario denegado (que necesita un camino corto y accionable hacia el acceso) y del auditor (que necesita reglas globales y consistentes). Dos modelos yuxtapuestos no pueden ofrecer esta compensación continua.
• Implicaciones de Seguridad: Los autores argumentan que exponer tanto las reglas como los contrafácticos crea una nueva superficie de ataque. Proponen un modelo de separación de privilegios:
  • Los auditores reciben las reglas globales y los logits de las ramas.
  • Los solicitantes reciben únicamente la decisión y un único contrafáctico restringido (limitado a atributos mutables) tras una denegación.
  • Esto limita la filtración de información sobre el límite de la política en comparación con sistemas que devuelven conjuntos completos de contrafácticos para todas las clases.

Los autores concluyen que, si bien el modelo logra una alta precisión e interpretabilidad, la consistencia entre las reglas y los contrafácticos es una propiedad ajustable en lugar de una garantía estructural, y que se requiere trabajo futuro para cuantificar la filtración de políticas y validar la utilidad de estas explicaciones con auditores humanos.