Resumo Técnico: Recurso de Confiança Alvo Usando Máquinas tSeTlin (TRUST)

Declaração do Problema

As explicações contrafatuais (CEs) são o mecanismo padrão para fornecer recurso algorítmico em sistemas de tomada de decisão de alto risco (ex: aprovação de crédito, estratificação de risco clínico). A formulação prevalente de recurso busca a mudança mínima em um dado de entrada $x$ necessária para inverter a decisão de um modelo de negativo para positivo. Formalmente, este é um problema de otimização que minimiza a distância $d(x, x')$ sujeito à restrição de que a probabilidade prevista $M(x') \geq 0,5$.

O artigo identifica duas limitações críticas nesta moldura binária:

1. Fragilidade: Contrafatuais gerados próximos à fronteira de decisão (onde $M(x') \approx 0,5$) são frequentemente instáveis sob ruído, atualizações de modelo ou perturbações. Eles podem tecnicamente satisfazer a condição de inversão de rótulo, mas falham na prática devido a margens de confiança baixas.
2. Desalinhamento com a Tomada de Decisão: Sistemas de decisão do mundo real frequentemente empregam limiares de confiança explícitos (ex: exigir 80% de confiança para aprovação). Métodos existentes não conseguem responder diretamente a perguntas como: "Qual é a mudança mínima para alcançar aprovação com pelo menos 80% de confiança?" Eles tratam a confiança como uma propriedade post-hoc em vez de um alvo de otimização especificado pelo usuário.

Embora trabalhos anteriores tenham abordado a robustez indiretamente através de restrições de margem ou validade de vizinhança, e métodos conscientes de incerteza (como CLUE ou certificados probabilísticos) existam, nenhum permite que os usuários especifiquem um nível de confiança desejado como uma restrição primária durante a geração de recursos.

Metodologia: O Framework TRUST

Os autores propõem o TRUST (Target-confidence Recourse Using tSeTlin machines), um framework que reformula o recurso como um problema de confiança alvo.

1. Formulação do Problema

Em vez de minimizar a distância sujeito a $M(x') \geq 0,5$, o TRUST busca um contrafatual $x'$ que minimize o custo $d(x, x')$ sujeito a uma confiança alvo definida pelo usuário $\tau \in (0,5, 1)$ e uma tolerância $\epsilon$:
$$\min_{x'} d(x, x') \quad \text{sujeito a} \quad |M(x') - \tau| \leq \epsilon$$
Esta formulação generaliza as CEs padrão (recuperadas quando $\tau = 0,5$) e permite a geração explícita de opções de recurso em vários níveis de confiança, permitindo uma análise de compromisso (trade-off) fundamentada entre custo e robustez.

2. Instanciação do Modelo: Máquina Tsetlin Probabilística (PTM)

Para instanciar este framework, os autores utilizam uma Máquina Tsetlin Probabilística (PTM) pareada com Otimização Bayesiana (BO).

• Por que PTM? Ao contrário de classificadores probabilísticos de caixa-preta (ex: redes neurais calibradas) onde os escores de confiança carecem de interpretabilidade direta, a PTM decompõe as previsões em cláusulas lógicas interpretáveis pelo humano com ativações probabilísticas. Esta estrutura permite que o modelo vincule mudanças de características diretamente a mudanças na confiança da previsão.
• Por que Otimização Bayesiana? O espaço de busca para contrafatuais é não convexo e potencialmente caro de avaliar, especialmente com modelos estocásticos. A BO é empregada para buscar eficientemente o espaço de entrada, equilibrando exploração e explotação para encontrar candidatos que correspondam à confiança alvo $\tau$ enquanto minimizam a distância. Garantias teóricas sob condições de regularidade garantem otimalidade assintótica.

3. Atribuição de Nível de Cláusula

Uma contribuição distinta do framework TRUST é a capacidade de realizar atribuição de nível de cláusula. Quando múltiplos contrafatuais alcançam a mesma confiança alvo, mas diferem em custo ou estabilidade, a estrutura da PTM permite que os profissionais rastreiem essas diferenças até regras lógicas específicas.

• O framework analisa as "probabilidades de disparo" de cláusulas individuais.
• Ele identifica se um contrafatual satisfaz regras de forma robusta (profundamente dentro das fronteiras probabilísticas da regra) ou frágil (perto da borda de uma condição de regra).
• Isso fornece uma explicação mecanística de por que uma opção de recurso é mais confiável do que outra, uma capacidade ausente em explicações de nível de característica de modelos de caixa-preta.

Principais Contribuições

1. Formulação de Confiança Alvo: O artigo introduz a Eq. (2) como o primeiro objetivo de CE onde a confiança da previsão é uma restrição especificada pelo usuário, em vez de uma propriedade emergente. Isso altera o paradigma de "inversão mínima de rótulo" para "mudança mínima para um limiar de risco específico".
2. Atribuição de Nível de Cláusula: Ao aproveitar a PTM, os autores permitem uma nova camada explicativa que conecta mudanças de nível de característica a mudanças de confiança via cláusulas lógicas interpretáveis. Isso apoia a comparação de opções de recurso concorrentes baseadas na estabilidade das regras de decisão subjacentes.
3. Robustez por Design: O framework estabelece uma ligação prática entre contrafatuais conscientes de confiança e robustez. Ao visar níveis de confiança mais altos diretamente, a robustez é alcançada por construção (movendo-se mais profundamente na região da classe positiva) em vez de através de filtragem post-hoc.

Resultados Experimentais

Os autores avaliaram o TRUST em dois conjuntos de dados sintéticos (2D e 5D) e dois conjuntos de dados do mundo real (classificação binária Iris e Sobrevivência de Haberman). Eles compararam o TRUST (PTM + BO) contra basais baseados em gradiente (Wachter) e baseados em amostragem (GrowingSpheres) da biblioteca CARLA.

Principais Descobertas:

• Compromisso entre Robustez e Custo: O TRUST permite o controle explícito do trade-off. Em uma confiança alvo mais baixa ($\tau=0,50$), o TRUST produz contrafatuais com distância mínima (comparável ou melhor que os basais). Em uma confiança alvo mais alta ($\tau=0,85$), o TRUST gera contrafatuais que são significativamente mais robustos ao ruído (alcançando 100% de robustez em vários benchmarks) enquanto mantém baixo custo de recurso.
• Métricas de Desempenho: No conjunto de dados Haberman, o TRUST alcançou uma distância L2 de 0,10 com 0,92 de confiança e robustez perfeita, superando os basais que tiveram dificuldade em manter alta confiança sem sacrificar a robustez.
• Interpretabilidade: A análise qualitativa no conjunto de dados Haberman demonstrou que dois contrafatuais satisfazendo a mesma regra lógica (ex: "Linfonodos positivos $\leq 4$") poderiam ter níveis de confiabilidade vastamente diferentes. A análise de nível de cláusula do TRUST revelou que um contrafatual com linfonodos = 4 era frágil (perto da borda da regra), enquanto um com linfonodos = 2 era robusto, explicando a diferença na estabilidade da confiança de forma mecanística.

Significância e Alegações

O artigo afirma que o TRUST fornece uma fundação consciente de confiança e interpretável para o recurso algorítmico em cenários de alto risco. Sua significância reside em:

• Mudança do Objetivo de Otimização: Mover da inversão binária de rótulo para a satisfação de limiares de risco definidos pelo usuário, o que se alinha melhor às necessidades regulatórias e práticas de tomada de decisão (ex: Lei de IA da UE, GDPR).
• Explicação Mecanística: Diferente de métodos anteriores que oferecem apenas mudanças de nível de característica, o TRUST explica por que uma opção de recurso é robusta ou frágil ao expor a estabilidade das regras lógicas (cláusulas) subjacentes.
• Utilidade Prática: Permite que os tomadores de decisão escolham entre opções de recurso com base em um espectro transparente de custo-confiança-robustez, em vez de serem forçados a aceitar a opção "mais barata", que pode ser instável.

Os autores permanecem modestos quanto às limitações, observando que o framework depende de previsões probabilísticas bem calibradas, que a implementação atual (PTM) possui um custo computacional superior aos métodos baseados em gradiente, e que a validação mais ampla em benchmarks maiores é um trabalho futuro. No entanto, eles afirmam que o framework proposto aborda com sucesso a lacuna entre o recurso teórico e o suporte à decisão estável e acionável.