💻 ciência da computação

RuleConEx: an intrinsically interpretable neural network unifying logical rules and counterfactual explanations for data access control

O RuleConEx é uma rede neural intrinsecamente interpretável que unifica decisões de acesso, regras SE-ENTÃO conformes ao ABAC e explicações contrafatuais válidas dentro de um único passo de propagação (forward pass), alcançando precisão comparável a modelos de estado da arte enquanto oferece um equilíbrio ajustável entre explicabilidade orientada ao usuário e orientada ao auditor.

Autores originais: Benoît Martin Azanguezet Quimatio, Erick Tsafack Nteudem, Paul Valery Nguezet

Publicado 2026-10-23

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Benoît Martin Azanguezet Quimatio, Erick Tsafack Nteudem, Paul Valery Nguezet

Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

No mundo digital, o controle de acesso é o porteiro. Ele decide quem pode entrar em um edifício, quem pode abrir um arquivo ou quem pode movimentar dinheiro entre contas. Durante décadas, essas decisões eram tomadas por administradores escrevendo listas explícitas de regras, como "gerentes do departamento financeiro podem aprovar faturas". Essas listas eram fáceis de ler e verificar, mas eram rígidas; se o ambiente mudasse, as regras tinham que ser reescritas manualmente, um processo lento e propenso a erros. Recentemente, cientistas recorreram ao aprendizado profundo (deep learning), um tipo de sistema computacional que aprende padrões a partir de vastas quantidades de dados históricos para tomar essas decisões automaticamente. Esses sistemas são incrivelmente precisos, muitas vezes superando as regras escritas por humanos, mas sofrem de uma falha crítica: são opacos. Eles tomam decisões através de cálculos internos complexos que nenhum humano consegue rastrear facilmente, tornando impossível explicar por que uma pessoa específica teve o acesso negado. Essa falta de transparência não é apenas um incômodo técnico; é um obstáculo jurídico. Regulamentações como o Regulamento Geral de Proteção de Dados exigem que as organizações expliquem decisões automatizadas que afetam indivíduos, uma demanda que sistemas opacos não conseguem atender.

Pesquisadores da Universidade de Dschang, em Camarões, desenvolveram um novo sistema chamado RuleConEx para resolver este problema específico. O objetivo deles era construir um sistema de controle de acesso inteligente que fosse altamente preciso e totalmente transparente, capaz de explicar seu próprio raciocínio de duas maneiras distintas que atendem a diferentes necessidades humanas. Eles queriam um sistema que pudesse dizer a um auditor as regras gerais que segue, enquanto simultaneamente dizia a um usuário com acesso negado exatamente qual pequena mudança ele poderia fazer para obter acesso. Para alcançar isso, a equipe criou uma rede neural que não apenas adivinha uma resposta, mas gera dois tipos de explicações no exato momento em que toma uma decisão. Uma explicação assume a forma de declarações "se-então" claras e lógicas que descrevem a política geral, semelhante às listas de regras tradicionais do passado. A outra é uma explicação "contrafactual", que responde à pergunta: "O que teria que ser diferente para eu ser permitido entrar?", sugerindo mudanças específicas e válidas nos atributos do usuário.

Os pesquisadores testaram este novo sistema em onze conjuntos de dados diferentes representando vários cenários de controle de acesso, incluindo dados do mundo real da Amazon e dados sintéticos projetados para imitar estruturas organizacionais complexas. Eles compararam o RuleConEx contra vários outros métodos, incluindo os melhores modelos de aprendizado profundo existentes e ferramentas tradicionais de aprendizado de máquina. Os resultados mostraram que o RuleConEx alcançou um alto nível de precisão, desempenhando-se tão bem quanto os sistemas opacos mais avançados e sendo apenas ligeiramente menos preciso do que um modelo de aprendizado profundo padrão que não oferece explicações. Mais importante ainda, o sistema gerou com sucesso as explicações duplas para as quais foi projetado. As regras lógicas que produziu cobriram cerca de 80 por cento das solicitações de acesso e foram consideradas fiéis às decisões reais do sistema, o que significa que as regras realmente refletiam como o sistema estava pensando. As explicações contrafactuais também foram altamente eficazes; em 96 por cento dos casos, as mudanças sugeridas eram válidas e resultariam de fato na concessão de acesso, tipicamente exigindo que o usuário alterasse apenas dois atributos.

Uma descoberta fundamental neste trabalho foi como os pesquisadores gerenciaram a tensão entre esses dois tipos de explicações. Normalmente, um sistema que fornece sugestões muito curtas e simples a um usuário pode produzir regras que são muito amplas para um auditor, ou vice-versa. A equipe descobriu que poderia ajustar o sistema com uma única configuração para deslocar esse equilíbrio. Ao ajustar essa configuração, eles poderiam priorizar dar ao usuário um caminho muito curto e fácil de alcançar para o acesso, ou poderiam priorizar dar ao auditor um conjunto de regras que correspondesse perfeitamente à situação específica do usuário. Eles demonstraram que podiam mover esse equilíbrio continuamente sem perder qualquer precisão geral do sistema. Isso significa que o sistema não está preso a um compromisso fixo; os administradores podem escolher o nível de detalhe e o tipo de explicação que melhor se adapta à situação, seja respondendo a um usuário frustrado ou conduzindo uma auditoria formal.

O estudo também revelou que a maneira como o sistema "vê" os dados é crucial. Os pesquisadores descobriram que, para que essas regras fossem legíveis e precisas, o sistema precisava entender as relações entre o usuário e o recurso, como se eles pertencem ao mesmo departamento, em vez de apenas olhar para suas características individuais isoladamente. Sem essa capacidade de ver conexões, as regras tornavam-se longas, confusas e imprecisas. Além disso, a equipe abordou uma preocupação de segurança crítica: se um sistema explica suas decisões, um agente mal-intencionado poderia usar essas explicações para descobrir como hackear o sistema? Eles argumentaram que, embora este seja um risco, o design deles limita o dano. O sistema revela apenas a mudança específica necessária para uma solicitação negada, em vez de expor todo o livro de regras, e restringe as sugestões a atributos que o usuário pode realmente alterar, evitando o vazamento de informações sensíveis sobre os próprios recursos.

Em última análise, este trabalho representa um passo significativo para tornar a inteligência artificial poderosa confiável em ambientes de alto risco. Ele prova que um sistema não precisa ser uma caixa preta para ser preciso. Ao unificar regras lógicas e sugestões acionáveis em um único modelo treinável, os pesquisadores criaram uma ferramenta que satisfaz a necessidade legal de transparência enquanto mantém o desempenho do aprendizado profundo moderno. O sistema oferece uma maneira prática de auditar decisões automatizadas e de ajudar os usuários a entender por que o acesso lhes foi negado, preenchendo a lacuna entre a complexidade do aprendizado de máquina e a necessidade humana de clareza. As descobertas sugerem que, com o design correto, podemos ter sistemas inteligentes que não são apenas espertos, mas também honestos sobre como pensam.

Resumo Técnico: RuleConEx

Declaração do Problema

Modelos de controle de acesso baseados em aprendizagem profunda (DLBAC), como os propostos por Nobi et al., oferecem alta precisão na previsão de decisões de acesso, mas sofrem de opacidade completa. Essa falta de interpretabilidade cria uma barreira legal e operacional significativa, particularmente em relação à conformidade com regulamentações como o GDPR (Artigo 22), que exige a capacidade de explicar decisões automatizadas.

Soluções existentes para explicabilidade neste domínio são insuficientes:

Métodos post-hoc (ex: SHAP, LIME) fornecem aproximações locais que não são fiéis ao mecanismo de decisão real e podem ser manipuladas.
Modelos de autoexplicação separados abordam apenas um aspecto da explicabilidade. O HyperLogic gera regras IF-THEN globais, mas não oferece contrafatuais acionáveis para usuários negados. O HyConEx gera contrafatuais locais, mas não fornece regras de auditoria globais para administradores.
Limitações atuais: Nenhuma arquitetura existente une intrinsecamente regras simbólicas globais e contrafatuais locais acionáveis dentro de um único passo de propagação (forward pass), nem garantem que os contrafatuais sejam tuplas categóricas válidas por construção.

Metodologia

Os autores propõem o RuleConEx (Rule-based Counterfactual eXplainer), uma rede neural intrinsecamente interpretável que unifica regras lógicas e explicações contrafatuais.

Arquitetura

O RuleConEx é construído em torno de uma hiperrede compartilhada que parametriza dois ramos distintos, fundindo suas saídas em uma única decisão:

Hiperrede Compartilhada: Um tronco TabResNet que gera parâmetros para os ramos, consultado por:
- Uma consulta global (vetor aprendido + ruído Gaussiano) para parametrizar o ramo de regras, garantindo um conjunto de regras único e consistente para todas as requisições.
- Uma consulta local (codificação latente da instância de entrada) para parametrizar o ramo contrafatual.
Ramo de Regras (Global): Uma rede DR-Net (Differentiable Rule Network) binarizada com $K=48$ neurônios de regra. Ela produz um conjunto de regras IF-THEN decodificadas diretamente dos pesos da rede. As regras utilizam um vocabulário específico de literais relacionais (ex: $user\_attr_i = resource\_attr_j$ ) e negações, alinhando-se com a linguagem de política ABAC de Xu e Stoller.
Ramo Contrafatual (Local): Um classificador linear local parametrizado pela hiperrede. Ele gera contrafatuais computando o ganho da modificação de atributos categóricos para atingir uma classe alvo. Crucialmente, ele impõe a validade por construção, garantindo que a saída seja uma tupla categórica válida e respeitando uma máscara de atributos imutáveis (ex: atributos de recurso).
Fusão: Os logits de ambos os ramos são combinados via uma soma ponderada com pesos aprendidos e normalizados por softmax ( $\alpha_r$ e $\alpha_h$ ) para produzir a decisão de acesso final.

Treinamento e Função de Perda

O modelo é treinado conjuntamente para minimizar uma função de perda composta:
$\mathcal{L} = \mathcal{L}_{CE} + \lambda_r \mathcal{L}_{rule} + \lambda_h \mathcal{L}_{loc} + \lambda_{cf} \mathcal{L}_{cf} + \lambda_{sp} \mathcal{L}_{sparsity} + \lambda_{len} \mathcal{L}_{length} + \lambda_{ent} \mathcal{L}_{entropy}$
Componentes principais incluem:

Perda Contrafatual ( $\lambda_{cf}$ ): Incentiva o modelo a classificar tuplas modificadas (contrafatuais) na classe alvo.
Restrições de Regra: Penaliza o comprimento da regra (máximo de 8 literais) e incentiva a votação de classe única (entropia).
Medição de Fidelidade: Ao contrário de trabalhos anteriores que assumem a fidelidade, o RuleConEx mede o acordo estrito e ponderado entre as regras decodificadas e a decisão fundida final.

Principais Contribuições

Arquitetura Unificada: O RuleConEx é o primeiro modelo a produzir uma decisão de acesso, regras IF-THEN globais e contrafatuais locais em um único forward pass.
Validade e Fidelidade Intrínsecas:
- As regras são exatas: a função computada pelo ramo de regras é totalmente decodificável, e sua fidelidade é medida em vez de assumida.
- Os contrafatuais são tuplas categóricas válidas por construção, lidando com atributos discretos sem projeção post-hoc.
Literais Relacionais: O modelo incorpora explicitamente restrições relacionais (igualdade entre atributos de usuário e recurso) no espaço de entrada e no vocabulário de regras. Os autores demonstram que, sem estes, modelos simbólicos (como árvores de decisão) falham em capturar efetivamente a estrutura da política.
Trade-off Ajustável: O artigo identifica um único coeficiente, $\lambda_{cf}$ $λ_{c f}$ (o peso da perda contrafatual), como um mecanismo de controle. A variação deste coeficiente permite uma mudança contínua entre:
- Explicabilidade orientada ao usuário: Contrafatuais mais curtos (menos mudanças de atributos).
- Explicabilidade orientada ao auditor: Maior consistência entre regras e contrafatuais (mais contrafatuais justificados por uma regra global).
- Este trade-off é alcançado sem diferenças estatisticamente detectáveis na precisão.

Resultados Experimentais

O modelo foi avaliado em 11 conjuntos de dados de benchmark DLBAC (3 conjuntos de dados reais da Amazon e 8 conjuntos sintéticos) usando 5 sementes aleatórias.

Acurácia: O RuleConEx alcançou uma acurácia média de 92,1%. Isso é estatisticamente indistinguível do HyConEx, Random Forests e Linear SVMs, e apenas 0,6 pontos percentuais inferior ao baseline MLP opaco.
Qualidade das Regras:
- As regras cobrem 80% das requisições em média.
- A fidelidade estrita (acordo entre regras e decisão final) é 0,80.
- As regras são concisas (comprimento médio de ~4,5 literais) e primariamente relacionais.
Qualidade dos Contrafatuais:
- 96% dos contrafatuais são tuplas categóricas válidas.
- Eles modificam em média 2 atributos.
- A taxa de sucesso de inversão (flip success rate) é de 100%.
Consistência: A consistência entre regras e contrafatuais (fração de contrafatuais válidos justificados por uma regra de classe alvo) varia de 0,18 (configuração padrão) a 0,43 (quando $\lambda_{cf}$ é relaxado). Isso é significativamente maior do que a consistência alcançada pela justaposição dos modelos HyperLogic e HyConEx treinados separadamente (0,22).
Estudos de Ablação:
- A hiperrede compartilhada em si é neutra; os benefícios vêm do treinamento conjunto.
- O ruído Gaussiano na consulta global é supérfluo.
- Literais relacionais são críticos; removê-los causa uma queda significativa na acurácia e cobertura das regras.

Significância e Alegações

O artigo afirma que sua principal contribuição não é um ganho em precisão preditiva, mas a unificação de duas formas complementares de explicabilidade dentro de um único modelo ajustável.

Controle Explícito: O RuleConEx fornece um mecanismo de ajuste explícito ( $\lambda_{cf}$ ) para equilibrar as necessidades do usuário negado (que precisa de um caminho curto e acionável para o acesso) e do auditor (que precisa de regras globais e consistentes). Dois modelos justapostos não podem oferecer este trade-off contínuo.
Implicações de Segurança: Os autores argumentam que expor tanto regras quanto contrafatuais cria uma nova superfície de ataque. Eles propõem um modelo de separação de privilégios:
- Auditores recebem as regras globais e os logits dos ramos.
- Requerentes recebem apenas a decisão e um único contrafatual restrito (limitado a atributos mutáveis) após uma negação.
- Isso limita o vazamento de informações sobre a fronteira da política em comparação com sistemas que retornam conjuntos completos de contrafatuais para todas as classes.

Os autores concluem que, embora o modelo alcance alta acurácia e interpretabilidade, a consistência entre regras e contrafatuais é uma propriedade ajustável em vez de uma garantia estrutural, e que trabalhos futuros são necessários para quantificar o vazamento de política e validar a utilidade dessas explicações com auditores humanos.