Resumo Técnico: Governança da Superfície de Explicação em NIDS Habilitado por XAI sob Restrições de Recursos

1. Declaração do Problema

A pesquisa atual em IA Explicável (XAI) para Sistemas de Detecção de Intrusão de Rede (NIDS) foca predominantemente na interpretabilidade semântica — tornar as decisões do modelo transparentes para os analistas. No entanto, esta literatura trata amplamente as explicações como artefatos passivos de confiança anexados aos outputs de detecção, ignorando sua realidade operacional como saídas de serviço que consomem recursos. Em ambientes com restrição de recursos (ex: edge, IoT e gateways empresariais), gerar explicações consome CPU, memória e recursos de aceleradores, introduz atrasos de enfileiramento e cria uma "dívida de explicação" (um backlog de alertas não explicados ou de baixa fidelidade).

Além disso, a própria interface de explicação apresenta uma vulnerabilidade de segurança. Adversários podem manipular o tráfego para gatilhar uma "inflação de demanda de explicação", gerando um alto volume de alertas limítrofes que forçam o sistema a consumir computação excessiva, atrasar alertas críticos ou esgotar orçamentos de exposição de informação. Os frameworks existentes carecem de um mecanismo para governar quando, como e com qual fidelidade uma explicação deve ser gerada ao enfrentar capacidade finita, tráfego de rajadas e pressão adversarial. O problema central é a ausência de uma camada de controle que equilibre o QoS de pacotes, a interpretabilidade do operador, a dívida de explicação e a exposição de vazamento de informação.

2. Metodologia: XAI-Gate

O artigo introduz o XAI-Gate, um framework de governança de serviço online agnóstico ao detector que se posiciona entre o detector de intrusão e o mecanismo de entrega de explicação. Ele não requer o retreinamento do IDS ou do explicador subjacente. Em vez disso, ele gerencia a "superfície de explicação" selecionando dinamicamente entre um conjunto de sete ações de explicação baseadas no estado do sistema em tempo real.

2.1 Modelo de Sistema e Estado

O sistema é modelado como um problema de controle estocástico restrito (Processo de Decisão de Markov). O estado $S_t$ no slot de tempo $t$ inclui:

• Pressão da Fila de Pacotes ($Q_t$): Carga atual na fila de serviço de pacotes.
• Dívida de Explicação ($E_t$): Um backlog ponderado pelo risco de alertas que exigem explicação.
• Orçamento de Exposição ($L_t$): O vazamento de informação permitido restante.
• Crença de Offload ($b_{rt}$): Tempo de Ida e Volta (RTT) estimado para offload para fog/cloud.
• Estado de Suspeita ($H_t$): Uma pontuação indicando potencial inflação de demanda de explicação adversarial.

2.2 Espaço de Ação

Para cada alerta, o XAI-Gate seleciona uma ação do conjunto $\mathcal{A} = \{0, C, D, F, O, A, R\}$:

1. Suprimir (0): Sem explicação; evita liberações de baixo valor ou inseguras.
2. Grossa (C): Revela apenas os principais grupos de características; limita o detalhamento sob suspeita média.
3. Atrasar (D): Retém a explicação em uma fila até que os recursos se recuperem.
4. Local Completa (F): Libera atribuição local total (ex: SHAP/LIME) para detalhamento máximo.
5. Offload (O): Envia dados de alerta sanitizados para um explicador gerenciado em nuvem/fog.
6. Apenas Auditoria (A): Registra metadados para fins forenses sem liberação imediata.
7. Redigir (R): Mascara atributos sensíveis sob alta suspeita ou pressão de exposição.

2.3 Política de Decisão

A política $\pi$ mapeia o estado do sistema e as características do alerta (score $s$, custo estimado $c$) para uma ação. A seleção é impulsionada por uma pontuação de ação $\Psi_t(a; i)$, que equilibra:

• Utilidade: Valor de segurança e utilidade para o operador da explicação.
• Custos: Custo de computação local, penalidade de exposição, incremento de dívida e RTT de offload.
• Restrições: Limites rígidos no orçamento cumulativo de exposição e capacidade de computação local.

A política inclui um "guarda de teto de exposição rígido" que rebaixa ou atrasa explicações se admitir um conjunto completo de alertas de alto risco ultrapassar o orçamento de exposição restante. O método é implementado via um substituto online inspirado em MDP restrito e controle drift-plus-penalty, garantindo estabilidade sem exigir uma lei de transição conhecida.

3. Principais Contribuições

1. Formulação de Gestão da Superfície de Explicação: O artigo reformula a defesa habilitada por XAI como um problema de gestão de serviço onde as explicações são saídas de capacidade finita, sensíveis ao atraso e adversariamente acionáveis. Define o estado gerenciado, o espaço de ação e os modelos de ameaça para inflação de demanda de explicação.
2. Política de Controle Online XAI-Gate: Uma política agnóstica ao detector que seleciona dinamicamente a fidelidade da explicação e o modo de entrega com base na pressão de pacotes, dívida, incerteza de offload e suspeita. Ela impõe tetos rígidos de exposição sem exigir novo treinamento do IDS.
3. Análise Formal de Fronteira de Serviço: Os autores derivam condições de dominância e proposições de viabilidade (ex: quando explicações locais completas são dominadas por ações mais baratas, ou quando o offload torna-se preferível) que tornam a lógica de controle inspecionável em vez de puramente heurística.
4. XAI-SurfaceBench: Um benchmark de teste de estresse rigoroso ancorado nos datasets KDDCup99, UNSW-NB15 e TON IoT. Avalia o desempenho através de nove regimes de tráfego/incerteza (incluindo tráfego de rajadas, não-markoviano e inflação de demanda adversarial) sem exigir novo treinamento do detector, focando no comportamento da fronteira de serviço.

4. Resultados Experimentais

A avaliação foi conduzida usando 20 sementes aleatórias em vários regimes de estresse. Principais descobertas incluem:

• Inflação de Demanda Adversarial: No regime adversarial padrão, o XAI-Gate alcançou uma cobertura de explicação de alto risco de 0,800 enquanto manteve zero violações do orçamento de exposição. Em contraste, políticas de limiar convencionais alcançaram uma cobertura ligeiramente superior (~0,884), mas violaram o orçamento de exposição em 28% dos slots e consumiram 39% mais orçamento de exposição.
• Redução de Dívida: Comparado às políticas de limiar, o XAI-Gate reduziu a dívida média de explicação em 57,3% (de ~3660 para ~1561).
• Fronteira de Serviço: O XAI-Gate não maximiza universalmente a cobertura. Em vez disso, ele desloca a fronteira operacional, trocando uma pequena quantidade de cobertura imediata de alto risco (aprox. 8,4 pontos percentuais) por exposição limitada e dívida significativamente menor.
• Robustez: Sob severa inflação de demanda (multiplicador de ataque 2.0), o sistema entra em um estado de "Negação de Explicação" (DoE) onde a cobertura cai e ocorrem descartes de pacotes, confirmando que a capacidade finita é um limite físico que nenhuma política pode contornar. No entanto, o XAI-Gate manteve consistentemente zero violações de exposição nos regimes factíveis onde as linhas de base falharam.
• Estudos de Ablação: Remover mecanismos específicos (consciência de dívida, orçamento de exposição ou controle de fidelidade) degradou o desempenho, confirmando que a gestão conjunta dessas variáveis é essencial para os ganhos observados.
• Âncoras de Dados Reais: Os resultados permaneceram consistentes quando calibrados usando UNSW-NB15 (incluindo uma execução com desduplicação) e datasets TON IoT, reforçando que as descobertas não são artefatos de distribuições de score sintéticas.

5. Significância e Alegações

O artigo posiciona modestamente sua contribuição não como um novo detector, um novo explicador ou uma melhoria universal de precisão, mas como uma camada de gestão de serviço para defesa de rede habilitada por XAI.

• Mudança Operacional: A principal significância é a mudança de tratar explicações como artefatos estáticos de interpretabilidade para tratá-las como saídas de serviço dinâmicas e com restrição de recursos que requerem controle de admissão e seleção de fidelidade.
• Viabilidade Limitada: O trabalho demonstra que é possível governar a geração de explicações para evitar vazamento de informação e degradação de serviço sem retreinar os modelos de IA subjacentes.
• Gestão de Trade-offs: As descobertas mostram que, em ambientes restritos, a estratégia ideal não é "sempre explicar" ou "explicar baseado em um limiar estático", mas sim uma política consciente do estado que equilibra QoS de pacotes, contexto do operador e exposição de segurança.
• Limitações: Os autores declaram explicitamente que o XAI-Gate não pode melhorar a precisão de detecção (ROC) do IDS subjacente. Além disso, a avaliação depende de filas simuladas e tempo de proxy; latência de hardware absoluta e dinâmicas de confiança do operador humano requerem validação adicional através de hardware-in-the-loop e estudos de usuário. O sistema é projetado para configurações restritas; em ambientes com recursos abundantes ou sem preocupações de exposição, políticas mais simples podem ser suficientes.

Em resumo, o XAI-Gate fornece um framework reproduzível para controlar a "superfície de explicação", garantindo que os benefícios operacionais da XAI em NIDS não ocorram às custas da estabilidade do sistema, exaustão de recursos ou exposição de segurança.