🤖 machine learning

Evidential Rule Learning for Interpretable Classification with Abstention

Este artigo apresenta o Fast Evidential Rule Learning (FERL), um método que gera modelos de regras difusas interpretáveis capazes de fornecer saídas evidentiais, estabilidade Lipschitz suave e abstenção confiável em uma única passagem determinística, ao mesmo tempo em que alcança precisão de estado da arte e desempenho robusto de detecção de fora da distribuição em diversos benchmarks.

Autores originais: Javier Fumanal-Idocin, Javier Andreu-Perez

Publicado 2026-08-07

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Javier Fumanal-Idocin, Javier Andreu-Perez

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

A Arte de Saber Quando Você Não Sabe

Imagine que você está caminhando por uma floresta densa e se depara com uma placa de sinalização. Uma placa comum aponta para uma direção com absoluta confiança: "Vá para a esquerda". Mas e se o caminho estiver com neblina ou a placa estiver rachada? Um guia verdadeiramente sábio não apenas adivinharia; ele diria: "Não tenho certeza, talvez vá para a esquerda, talvez para a direita, ou talvez eu deva apenas parar e dizer que não consigo decidir". Este é o coração de um campo crescente na ciência da computação chamado aprendizado de máquina interpretável. Por anos, os computadores têm sido ótimos em fazer previsões, mas frequentemente agem como "caixas pretas" — eles dão uma resposta sem explicar o porquê, e raramente admitem quando estão confusos.

Para corrigir isso, cientistas estão construindo modelos que são transparentes, como uma caixa de vidro clara onde você pode ver as engrenagens girando. Um conceito chave aqui é a evidência. Pense na evidência não como um único voto, mas como uma coleção de pistas. Se você tem um monte de pistas apontando para a "Esquerda", você está confiante. Se as pistas estão misturadas, você está incerto. Outra ideia vital é a abstenção: a capacidade de um modelo dizer "Eu não sei", em vez de adivinhar errado. Isso é crucial para situações da vida real, como diagnóstico médico ou carros autônomos, onde um erro confiante é muito pior do que uma pausa cautelosa. A questão que este artigo aborda é simples, mas difícil: Podemos construir um modelo de computador que seja fácil de entender, faça palpites precisos e saiba exatamente quando levantar as mãos e dizer "Preciso de mais informações"?

O "Aprendiz de Regras Evidencial Rápido" (FERL)

Conheça o FERL (Fast Evidential Rule Learning - Aprendizado de Regras Evidencial Rápido), um novo método introduzido por Javier Fumanal-Idocin e Javier Andreu-Perez. Imagine um detetive tentando resolver um mistério. Detetives da velha guarda (como árvores de decisão padrão) podem olhar para uma pista e imediatamente gritar: "É o mordomo!", mesmo que a evidência seja duvidosa. Outros detetives modernos usam redes neurais complexas e invisíveis que são ótimas em adivinhar, mas terríveis em explicar como chegaram àquela conclusão.

O FERL é como um detetive que mantém um caderno muito organizado. Ele utiliza regras difusas (fuzzy rules), que são como declarações "se-então" flexíveis. Em vez de um rígido "Se a temperatura estiver acima de 30°C", ele diz: "Se a temperatura estiver meio quente". À medida que o detetive segue um caminho através de seu caderno (uma árvore de regras), ele coleta pistas. Aqui está o truque de mágica: o FERL não apenas coleta pistas para fazer um palpite; ele coleta pistas para medir o quanto sabe.

Neste sistema, cada pista tem uma "força de ativação". Se uma pista é forte, ela adiciona muito peso a um suspeito específico (um rótulo de classe). Se uma pista é fraca ou está ausente, ela adiciona peso à "ignorância" — a ideia de que simplesmente não temos informações suficientes ainda. Quando o detetive combina todas as pistas, ele não obtém apenas uma resposta única. Ele obtém uma crença (o quão certo ele está), uma plausibilidade (o quão possível é) e um conjunto de possibilidades. Se as pistas forem muito confusas, a "ignorância" torna-se tão pesada que o detetive decide se abster e dizer: "Não consigo decidir".

O artigo argumenta contra a prática comum de "calibração pós-hoc". Isso é como pegar uma previsão terminada e confiante e tentar aplicar uma "pontuação de confiança" nela posteriormente. Os autores mostram que isso é frequentemente pouco confiável, especialmente quando o computador encontra algo novo (como um gato em um mundo onde ele só viu cães). Em vez disso, o FERL constrói a confiança e a capacidade de abstenção diretamente nas regras enquanto aprende. É como construir um carro com freios que fazem parte do motor, em vez de tentar adicioná-los depois.

O Que o FERL Descobriu

Os pesquisadores testaram o FERL em 30 conjuntos de dados diferentes (coleções de dados com números e categorias, como registros médicos ou estatísticas esportivas). Eles descobriram que o FERL não é apenas fácil de ler, mas também incrivelmente preciso.

Acurácia: A versão "profunda" do FERL alcançou uma acurácia média de 83,23% nesses 30 conjuntos de dados. Isso foi estatisticamente melhor do que quase todos os outros métodos baseados em regras que testaram, incluindo ferramentas clássicas como CART e C4.5.
Tamanho: Apesar de ser tão preciso, o FERL foi surpreendentemente pequeno. A versão "compacta" usou menos de 6 regras para obter 77,77% de acurácia, enquanto uma árvore padrão precisou de mais de 250 regras para obter uma pontuação semelhante.
O Superpoder do "Eu Não Sei": Quando os dados eram confusos ou fora do que o modelo havia visto antes (Fora da Distribuição/Out-of-Distribution), o FERL não apenas chutou errado. Ele identificou corretamente a confusão. Em testes onde tinha que detectar dados "novos" que nunca tinha visto, o FERL alcançou um AUROC de 77,7, o que é tão bom quanto os detectores mais especializados e complexos construídos apenas para essa função.
Previsões de Conjunto: Em vez de adivinhar uma única resposta, o FERL frequentemente fornece um "conjunto" de respostas prováveis (ex: "É um gato ou um cachorro"). Quando mediram o quão úteis esses conjuntos eram, o FERL pontuou 0,80 (em um nível de desconto padrão), superando outros métodos que eram ou excessivamente confiantes ou muito vagos.

O artigo também testou o FERL em dados de imagem, mas não olhando diretamente para os pixels. Em vez disso, utilizaram um sistema que primeiro descrevia a imagem usando conceitos humanos (como "tem asas" ou "é vermelho") e então usava o FERL para tomar a decisão final. Nesta configuração, o FERL podia não apenas classificar a imagem, mas também apontar quais atributos eram estranhos ou anômalos. Por exemplo, se uma foto de um pássaro tivesse "asas", mas "sem pernas", o FERL poderia sinalizar essa contradição específica.

A Conclusão

O FERL prova que você não precisa de uma caixa preta gigante e confusa para obter resultados inteligentes e confiáveis. Ao usar a lógica difusa para transformar cada regra em uma peça de evidência, o modelo aprende naturalmente a ser confiante quando deve ser, e a dizer "Eu não sei" quando a evidência é escassa. Ele é rápido, é pequeno e é honesto sobre sua própria incerteza. Os autores sugerem que esta abordagem oferece uma maneira de construir uma IA que não é apenas precisa, mas também confiável e transparente, capaz de explicar suas decisões e conhecer seus próprios limites sem a necessidade de complementos extras e complicados.

Resumo Técnico: Aprendizado de Regras Evidenciais com Abstenção (FERL)

1. Definição do Problema

Modelos de classificação interpretáveis, como árvores de decisão e listas de regras, são essenciais em domínios de alto risco onde as decisões devem ser justificadas. No entanto, os classificadores padrão baseados em árvores (ex: CART, C4.5) frequentemente sofrem de excesso de confiança, fornecendo rótulos de classe rígidos ou distribuições locais sem uma conta confiável da evidência que sustenta a decisão. Além disso, eles carecem de mecanismos para se abster de fazer previsões quando a evidência é insuficiente.

Abordagens existentes para melhorar a confiabilidade enfrentam limitações significativas:

Calibração Post-hoc: Métodos como o escalonamento de temperatura ou regressão isotônica ajustam probabilidades, mas não quantificam a evidência subjacente nem sustentam uma abstenção fundamentada. Eles frequentemente degradam sob mudanças de distribuição.
Estimativa de Incerteza: Métodos baseados em amostragem (ex: MC-dropout) exigem inferência repetida, enquanto métodos de incerteza determinísticos (DUMs) dependem frequentemente de arquiteturas neurais que exigem ajuste fino espectral e podem falhar em detectar entradas "próximas de OOD" (fora da distribuição) que sobrepõem o manifold de treinamento. Adicionalmente, esses métodos tipicamente produzem escores de incerteza escalares sem explicações simbólicas do porquê um caso é duvidoso.
Classificadores Credais: Embora existam alguns classificadores credais baseados em árvores, eles frequentemente dependem de estimativas de frequência de folha imprecisas, levando à má calibração, ou exigem ajustes complexos post-hoc.

O artigo aborda a necessidade de um modelo que seja simultaneamente interpretável (baseado em regras), evidencial (fornecendo crença, plausibilidade e ignorância) e capaz de abstenção, tudo dentro de uma única passagem determinística sem cabeças auxiliares ou conjuntos de calibração retidos.

2. Metodologia: Fast Evidential Rule Learning (FERL)

O FERL é um aprendiz de árvore de regras fuzzy que integra a teoria de Dempster–Shafer (DS) diretamente no processo de aprendizado de regras.

2.1 Construção de Árvore Fuzzy

O FERL cultiva uma árvore de classificação onde os nós internos atribuem uma característica e um conjunto fuzzy.

Divisões Fuzzy (Fuzzy Splits): Os parâmetros para divisões são aprendidos usando um procedimento de bootstrapping para garantir robustez estatística. Para árvores mais profundas, o algoritmo encontra cortes Gini-ótimos em reamostragens para determinar uma partição fuzzy definida por um limiar de mediana ( $\theta$ ) e uma medida de dispersão robusta ( $h$ ).
Suporte Limitado: Para evitar falsa confiança em dados fora da distribuição (OOD), o suporte das funções de pertinência fuzzy é suavemente limitado ao intervalo de características observado durante o treinamento. Pontos que caem fora deste intervalo têm sua força de ativação decaindo para zero, aumentando a "ignorância" do modelo.
Consciência Geométrica: Para detectar entradas próximas de OOD (novas classes que sobrepõem o manifold de treinamento), o FERL modela características não divididas em cada nó usando uma Gaussiana diagonal ponderada pela força de ativação do caminho. Isso permite a identificação de atributos anômalos específicos.

2.2 Geração de Saída Evidencial

No FERL, cada nó ativado $o$ emite uma função de massa DS no quadro de discernimento $\Theta$ :

Atribuição de Massa: A força de ativação $\phi_o(x)$ atua como um desconto de confiabilidade. O nó coloca massa $\phi_o(x) p_o(c)$ na classe $c$ e a massa residual $1 - \phi_o(x)$ em todo o quadro $\Theta$ (representando ignorância).
Combinação: Os nós ativos são combinados usando a regra de combinação de Dempster.
- Em árvores compactas, nós internos e folhas são combinados.
- Em árvores profundas, apenas as folhas são combinadas para evitar o "problema da dependência", onde a evidência correlacionada de nós aninhados reduz artificialmente a ignorância a zero.
Predição:
- Predição de Ponto: Derivada da transformada pignística da massa combinada.
  isa Predição de Conjunto (Set-Valued): Derivada via dominância de intervalo ( $Pl(c) \ge \max_{c'} Bel(c')$ ). Se o conjunto de predição cobrir todo o quadro $\Theta$ , o modelo se abstém.
- Forma Analítica: O artigo deriva uma expressão de forma fechada para a massa combinada, mostrando que a combinação repetida reduz monotonicamente a ignorância quando a evidência não é vacuidade.

2.3 Análise de Estabilidade

Os autores provam que o FERL é Lipschitz estável. As massas evidenciais não normalizadas são contínuas de Lipschitz em relação à entrada, com uma constante dependente da profundidade da árvore ( $D$ ), do número de nós combinados ( $K$ ) e da inclinação máxima das pertinências fuzzy ( $\lambda$ ). Isso garante que pequenas perturbações na entrada resultem em variações suaves nos outputs evidenciais.

3. Principais Contribuições

Aprendiz de Regras Evidencial Nativo: O FERL é o primeiro modelo que funciona como um aprendiz de regras interpretável, um classificador credal com abstenção e um detector de OOD em uma única passagem determinística. Ele computa crença, plausibilidade e abstenção diretamente de pertinências fuzzy sem cabeças auxiliares ou inferência repetida.
Caracterização de Forma Fechada: O artigo fornece um relato analítico da construção da árvore e da predição evidencial, incluindo um certificado de estabilidade local controlado por larguras de banda fuzzy e uma prova de que a combinação de nós aninhados reduz monotonicamente a ignorância.
Avaliação Empírica Abrangente:
- Dados Tabulares: Testado em 30 conjuntos de dados diversos.
- Dados de Imagem: Integrado em Modelos de Gargalo de Conceito (CBMs) no CUB e AwA2, operando em vetores de conceitos para fornecer diagnósticos de nível de atributo compreensíveis por humanos.

4. Resultados Experimentais

4.1 Classificação Tabular

Acurácia vs. Complexidade: Em 30 conjuntos de dados tabulares, o FERL-deep (200 regras) alcançou 83,2% de acurácia média, superando estatisticamente outros aprendizes de regras (ex: CART com 79,8%, NeuRules com 79,3%) e aproximando-se do desempenho de ensembles não interpretáveis como Random Forest (86,6%) e Gradient Boosting (85,6%) mais do que outros métodos interpretáveis.
Eficiência: O FERL-deep treina em 0,26s e infere em 1,5ms, sendo significativamente mais rápido que outros aprendizes de regras neurais ou evidenciais (ex: o FUCS leva 140s para treinar).
Predição de Conjunto: O FERL-deep alcançou a melhor acurácia descontada por utilidade ( $u_{65}=0,80, u_{80}=0,83$ ) entre classificadores credais, com uma alta cobertura de conjunto (0,92) e tamanhos médios de conjunto menores comparados aos baselines de conformal.
Detecção de OOD: O FERL-deep igualou detectores de OOD dedicados (77,7 AUROC vs. 77,4 para distância kNN) em tarefas de leave-one-class-out, identificando unicamente quais atributos eram anômalos.

4.2 Integração com Gargalo de Conceito (Concept Bottleneck)

Acurácia: Em configurações de CBM, o FERL-deep (com calibração por conceito) alcançou 86,28% no CUB-20 e 65,18% no CUB-200, superando o CART e a Regressão Logística restrita a conceitos.
OOD em Mundo Aberto: Em configurações de classes de detector-disjuntas, o FERL permaneceu competitivo com detectores dedicados. No AwA2, alcançou 86,2 AUROC (dentro de 2,0 pontos do kNN) e o melhor AUPR-Out (68,3) e rejeição de classe não vista (57,2%), tudo enquanto nomeava os atributos anômalos específicos.

5. Significância e Alegações

O artigo afirma que o FERL consegue preencher a lacuna entre alto desempenho de classificação e interpretabilidade rigorosa. Ao incorporar o raciocínio evidencial diretamente no aprendizado de regras fuzzy, o FERL evita as armadilhas da calibração post-hoc e o custo computacional da incerteza baseada em amostragem.

Confiabilidade: O modelo fornece um mecanismo "nativo" para abstenção e quantificação de incerteza que é robusto a mudanças de distribuição e capaz de detectar anomalias tanto geométricas quanto de nível de atributo.
Interpretabilidade: Diferente de métodos de incerteza de caixa-preta, a abstenção e a incerteza do FERL são explicadas por regras fuzzy e atributos específicos, tornando-o adequado para domínios de alto risco onde entender o porquê de um modelo estar incerto é tão importante quanto a própria predição.
Escalabilidade: O método é computacionalmente eficiente, ofereando uma alternativa viável para modelos de incerteza neurais complexos para dados tabulares e de imagem baseados em conceitos.

Os autores concluem que um único cabeçalho FERL pode fornecer regras auditáveis, abstenção evidencial e diagnósticos de novidade de nível de atributo sem a necessidade de um modelo de incerteza auxiliar.