Resumo Técnico: Compatibilidade Retroativa em Explicações Baseadas em Árvores e o Algoritmo CART Aprimorado

1. Definição do Problema

No ciclo de vida operacional de sistemas de aprendizado de máquina, atualizações de modelos são necessárias para manter o desempenho à medida que as distribuições de dados mudam. No entanto, as atualizações padrão de modelos frequentemente alteram o comportamento do modelo significamente, o que pode interromper a tomada de decisão subsequente e erodir a confiança do usuário. Este problema é particularmente crítico em domínios sensíveis ao risco (ex: saúde, finanças) onde a IA Explicável (XAI) é empregada.

Embora a pesquisa existente sobre compatibilidade retroativa (quantificando a estabilidade do comportamento do modelo através de atualizações) tenha se concentrado na consistência de predição ou nas contribuições de características baseadas em SHAP, essas abordagens falham em abordar explicações baseadas em árvores. Árvores de decisão fornecem transparência por meio de regras de "se-então-senão" derivadas de intervalos de características. Quando uma árvore de decisão é retreinada em novos dados, os pontos de divisão (splits) e os subespaços de características resultantes (explicações) podem mudar drasticamente, mesmo que a precisão preditiva melhore. Essa falta de compatibilidade retroativa em explicações pode confundir usuários que dependem de regras lógicas consistentes para suporte à decisão. Os métodos atuais não conseguem otimizar efetivamente para a estabilidade dessas explicações estruturadas em árvores.

2. Metodologia

2.1 Métrica Proposta: BCLTX

O autor propõe a Perda de Compatibilidade Retroativa em Explicações Baseadas em Árvores (BCLTX), uma métrica de perda projetada para quantificar a divergência entre as explicações de uma árvore de decisão antiga ($T_1$) e uma nova árvore de decisão ($T_2$) para amostras onde o modelo antigo estava correto.

Uma explicação de árvore de decisão para uma entrada $\mathbf{x}$ é definida como uma conjunção de intervalos para características específicas, representada por vetores de limite inferior ($l$) e superior ($u$). A BCLTX mede a diferença entre $T_1$ e $T_2$ usando quatro variantes:

1. $\delta_{JAC}$ (baseada em Jaccard): Mede a diferença simétrica no conjunto de características que contribuem para a explicação (onde os limites são finitos).
2. $\delta_{JLU}$ (Jaccard Inferior/Superior): Mede separadamente a diferença simétrica nas características que contribuem para limites inferiores e limites superiores.
3. $\delta_{MAE}$ (Erro Médio Absoluto): Quantifica a diferença nos intervalos de características usando erro absoluto, normalizado pelo desvio padrão da característica e limitado pelos intervalos dos dados.
4. $\delta_{MSE}$ (Erro Quadrático Médio): Quantifica as diferenças de intervalo usando erro quadrático, similarmente normalizado.

2.2 Algoritmo: CART-BCTX

Para otimizar a BCLTX, o autor propõe o CART com Compatibilidade Retroativa em Explicações Baseadas em Árvores (CART-BCTX). Este é um algoritmo guloso e leve que estende o algoritmo CART padrão.

• Função Objetivo: O algoritmo minimiza uma função objetivo combinada:
  $$f(T_1, T_2, D_2, \lambda) = \frac{1}{|D_2|} \sum \ell(T_2(\mathbf{x}), y) + \frac{\lambda}{|D_s|} \sum \delta(T_1, T_2, \mathbf{x})$$
  Onde $\ell$ é a perda específica da tarefa (ex: perda 0-1 ou erro quadrático), $D_s$ é o conjunto de amostras corretamente preditas pelo modelo antigo $T_1$, $\delta$ é a variante escolhida de BCLTX, e $\lambda$ controla o equilíbrio entre o desempenho preditivo e a estabilidade da explicação.

• Seleção Gulosa de Divisão (Split): Durante o crescimento da árvore, o CART-BCTX mantém os limites do subespaço de características atual ($\hat{l}, \hat{u}$) para cada nó. Ao avaliar divisões candidatas, ele calcula um "ganho" tanto para a perda da tarefa ($Gain_\ell$) quanto para a perda de compatibilidade retroativa ($Gain_\delta$). A divisão que maximiza a soma ponderada desses ganhos é selecionada.

  • Para $\delta_{JAC}$ e $\delta_{JLU}$, o cálculo do ganho é constante em relação à escolha do ponto de divisão para uma determinada característica.
  • Para $\delta_{MAE}$ e $\delta_{MSE}$, o algoritmo computa eficientemente as mudanças de ganho usando árvores binárias de busca auto-balanceadas (para MAE) ou atualizações de somatório simples (para MSE) conforme as amostras são particionadas.

• Complexidade: A complexidade computacional do CART-BCTX é comparável ao CART padrão. É $O(n m d_2)$ para as variantes Jaccard, JLU e MSE (onde $n$ é o número de amostras, $m$ o número de características, $d_2$ a profundidade da árvore) e $O(n m d_2 \log n)$ para a variante MAE.

• Poda (Pruning): O autor estende a Poda de Complexidade de Custo (CCP) para lidar com a BCLTX, incorporando a função de perda combinada ao critério de poda, permitindo a remoção de subárvores que não melhoram suficientemente o equilíbrio.

3. Principais Contribuições

1. Definição de BCLTX: O artigo introduz as primeiras métricas de compatibilidade retroativa projetadas especificamente para explicações baseadas em árvores, capturando diferenças em conjuntos de características e limites de intervalos.
2. Algoritmo CART-BCTX: Um algoritmo de atualização eficiente e guloso que integra a BCLTX na estrutura padrão do CART sem sacrificar a escalabilidade.
3. Análise Teórica: Prova de que o algoritmo mantém uma complexidade computacional comparável ao CART padrão, com um aumento de, no máximo, um fator logarítmico para variantes de perda específicas.
4. Validação Empírica: Experimentos abrangentes em 10 conjuntos de dados do mundo real (5 classificação, 5 regressão) demonstrando a eficácia do algoritmo.

4. Resultados Experimentais

Experimentos foram conduzidos em 10 conjuntos de dados dos repositórios UCI e KEEL, comparando o CART-BCTX contra atualizações de CART padrão e árvores de decisão incrementais (VFDT e HAT).

• Trade-off Predição-BCLTX: O CART-BCTX alcança um trade-off favorável entre desempenho preditivo (taxa de erro/RMSE) e valores de BCLTX. À medida que o parâmetro de regularização $\lambda$ aumenta, os valores de BCLTX melhoram (indicando explicações mais estáveis), enquanto a degradação do desempenho preditivo é mínima para $\lambda$ pequenos.
• Impacto na Compatibilidade de Predição: O uso de $\delta_{MAE}$ ou $\delta_{MSE}$ melhora significativamente a Compatibilidade Retroativa de Predição (BCP), sugerindo que estabilizar as explicações também estabiliza as predições para amostras que o modelo antigo lidou corretamente.
• Tempo de Computação: O CART-BCTX opera com tempos de computação comparáveis ao CART padrão (no máximo aproximadamente 2x mais lento em cenários de pior caso), confirmando sua eficiência prática.
• Comparação com Árvores Incrementais: Quando avaliado de forma por lote (batch-wise), o CART-BCTX supera as árvores incrementais (VFDT, HAT) tanto em precisão preditiva quanto em valores de BCLTX. Embora as árvores incrementais mantenham alguma compatibilidade de predição, elas falham em preservar a estabilidade da explicação baseada em árvore a médio e longo prazo em comparação com o CART-BCTX atualizado por lote.

5. Significância e Alegações

O artigo afirma que o CART-BCTX fornece uma solução prática para atualizar árvores de decisão em ambientes onde a estabilidade da explicação é tão crítica quanto a precisão preditiva. Ao suprimir mudanças drásticas nas fronteiras de decisão e nos intervalos de características, o método apoia o implante confiável em aplicações sensíveis ao risco.

O autor enfatiza que:

• As métricas de compatibilidade retroativa existentes (focadas em SHAP ou precisão de predição) são insuficientes para árvores de decisão.
• O framework proposto permite atualizações de compatibilidade retroativa sem exigir um redesenho completo do algoritmo de aprendizado.
• Embora o trabalho atual assuma um ambiente de aprendizado por lote (batch), o conceito de compatibilidade retroativa pode ser avaliado de maneira por lote mesmo dentro de contextos de aprendizado incremental, onde árvores incrementais padrão podem falhar em preservar a consistência da explicação a longo prazo.

Limitações observadas pelo autor:

• O algoritmo é guloso; encontrar a árvore globalmente ótima sob BCLTX é computacionalmente intratável.
• A formulação atual não lida explicitamente com cenários de deriva de conceito (concept drift), onde a definição de predições "corretas" pode mudar fundamentalmente.
• A significância prática das métricas propostas requer validação adicional através de estudos de usuário em configurações de implantação realistas.