Enhancing Interpretability in Credit Risk Modeling: A Synergistic Approach Integrating SHAP and Counterfactual Explanations

Sempre que um banco decide se deve emprestar dinheiro, ele conta com um modelo para pesar o histórico financeiro de uma pessoa contra o risco de inadimplência. Durante décadas, esses modelos eram simples o suficiente para que um humano pudesse rastrear a lógica: se você atrasasse pagamentos, sua pontuação caía. Mas, à medida que os bancos começaram a usar sistemas de computador mais poderosos para encontrar padrões sutis em vastas quantidades de dados, a lógica tornou-se escondida dentro de uma "caixa preta". Esses sistemas avançados podiam prever o risco com grande precisão, mas não conseguiam explicar por que tomaram uma decisão específica. Isso criou um problema sério. Leis em muitos lugares agora exigem que os credores expliquem suas decisões aos candidatos e, sem uma razão clara, uma negação de crédito parece arbitrária e injusta. O desafio para os cientistas tem sido encontrar uma maneira de manter a alta precisão desses sistemas complexos enquanto abrem a caixa preta para revelar o raciocínio interno.

Duas novas ferramentas surgiram para ajudar a resolver esse enigma. A primeira é um método que atua como uma lupa, mostrando exatamente quais partes de informação — como o saldo em uma conta corrente ou a duração de um empréstimo — empurraram o modelo em direção a uma conclusão específica. A segunda ferramenta é mais parecida com um simulador de "e se". Ela pede ao computador para imaginar as menores mudanças possíveis que uma pessoa poderia fazer em seu perfil financeiro para transformar uma rejeição em uma aprovação. Embora cada ferramenta seja útil por si só, pesquisadores da Universidade Estadual do Arizona se perguntaram se combinar esses dois métodos criaria uma imagem mais clara. Eles se propuseram a testar se o uso desses dois métodos em conjunto poderia não apenas explicar por que uma decisão foi tomada, mas também fornecer um caminho prático e justo para a pessoa que foi recusada.

Para testar essa ideia, os pesquisadores usaram uma coleção de dados bem conhecida contendo mil candidaturas de crédito reais da Alemanha. Eles construíram dois tipos diferentes de modelos de previsão para ver como eles se comportavam. Um modelo utilizou uma abordagem linear direta, enquanto o outro utilizou um sistema mais complexo que constrói muitas árvores de decisão para encontrar padrões. Eles então aplicaram seu método de explicação combinada a ambos os modelos. Os resultados mostraram que o modelo complexo não teve, na verdade, um desempenho muito superior ao do simples em termos de precisão geral, mas os dois modelos cometeram tipos diferentes de erros. O modelo simples foi melhor em identificar pessoas que provavelmente ficariam inadimplentes, enquanto o modelo complexo foi melhor em evitar alarmes falsos. Mais importante ainda, o método de explicação combinada funcionou de forma notável. Ao usar a ferramenta da "lupa" para identificar primeiro os fatores mais importantes, os pesquisadores conseguiram guiar o simulador de "e se" para encontrar as melhores soluções muito mais rapidamente.

O estudo descobriu que essa abordagem combinada tornou as explicações significativamente mais eficientes. Quando os pesquisadores pediram ao computador para encontrar as mudanças mínimas necessárias para transformar uma rejeição em uma aprovação, o método antigo exigia que um candidato imaginasse mudar cerca de três coisas ao mesmo tempo. Com o novo método guiado, o candidato precisava imaginar mudar apenas cerca de duas coisas. Essa redução na complexidade torna o conselho muito mais fácil de ser compreendido e colocado em prática por um ser humano. O sistema gerou sugestões válidas com sucesso cem por cento das vezes, provando que poderia encontrar confiavelmente um caminho para um resultado diferente sem quebrar as regras do modelo.

Além de tornar o processo mais claro, os pesquisadores usaram essa estrutura para investigar a injustiça. Eles descobriram que os modelos tratavam diferentes grupos de pessoas de maneiras distintas, mesmo quando os candidatos tinham perfis financeiros semelhantes. Por exemplo, homens solteiros foram sinalizados como de alto risco com mais frequência do que homens casados ou viúvos, mesmo quando suas situações financeiras eram comparáveis. A análise mostrou que o modelo era mais rigoroso com os homens solteiros, exigindo que fizessem melhorias financeiras maiores para serem aprovados. Ao usar as ferramentas combinadas, os pesquisadores puderam localizar exatamente onde esse viés ocorria. Eles viram que a falta de uma conta corrente prejudicou as pontuações dos homens solteiros mais do que prejudicou as dos homens casados, sugerindo que o modelo havia aprendido um viés oculto dos dados históricos nos quais foi treinado.

Os pesquisadores também descobriram que os fatores mais poderosos nessas decisões não eram detalhes demográficos como idade ou gênero, mas sim realidades financeiras concretas. O status de uma conta corrente e o histórico de pagamento de crédito foram as forças dominantes que impulsionaram as decisões. Esta é uma descoberta tranquilizadora, pois sugere que os modelos estão focando na capacidade real de pagamento, em vez de características pessoais irrelevantes. No entanto, o estudo também destacou que, mesmo quando os principais fatores são justos, a maneira como o modelo os pondera ainda pode criar resultados desiguais para diferentes grupos. O método de explicação combinada foi capaz de expor essas desigualdades sutis, mostrando exatamente quanto esforço extra um grupo teve que exercer em comparação com outro para alcançar o mesmo resultado.

Em última análise, este trabalho sugere que não precisamos escolher entre um modelo inteligente e um modelo justo e compreensível. Ao tecer a capacidade de explicar o passado com a capacidade de sugerir um futuro melhor, as instituições financeiras podem construir sistemas que sejam simultaneamente precisos e transparentes. O estudo demonstra que, quando guiamos a busca por soluções usando os fatores mais importantes, podemos oferecer aos candidatos conselhos claros e acionáveis que respeitam suas circunstâncias específicas. Esta abordagem vai além de simplesmente dizer a uma pessoa que ela foi negada; ela oferece um roteiro concreto e justo de como ela pode melhorar sua posição, garantindo que a tecnologia que serve nossas vidas financeiras permaneça responsável perante as pessoas que ela afeta.