💰 quantitative finance

Could Large Language Models work as Post-hoc Explainability Tools in Credit Risk Models?

Este estudo avalia o uso de modelos de linguagem de grande escala como ferramentas de explicabilidade post-hoc para modelos de risco de crédito e conclui que, embora possam reproduzir de forma confiável classificações de importância de atributos sob prompts controlados, eles são melhor implementados como interfaces narrativas em vez de substitutos para métodos formais de atribuição devido ao alinhamento limitado na geração autônoma de explicações.

Autores originais: Wenxi Geng, Dingyuan Liu, Liya Li, Yiqing Wang

Publicado 2026-07-07

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Wenxi Geng, Dingyuan Liu, Liya Li, Yiqing Wang

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você é um oficial de crédito em um banco. Você tem um robô computadorizado super inteligente, mas misterioso (um "modelo de aprendizado de máquina") que decide quem recebe um empréstimo e quem não recebe. Esse robô é ótimo em prever quem pagará o dinheiro de volta, mas é uma "caixa preta". Ele apenas te dá um "Sim" ou "Não", mas não fala a linguagem humana. Ele apenas te fornece uma lista de números dizendo: "Este fator importou 5%, aquele outro importou 3%".

Reguladores e clientes, no entanto, não querem ver uma planilha de números. Eles querem uma história: "Negamos este empréstimo porque o solicitante possui dívidas excessivas e um histórico profissional instável."

Aí entram os Modelos de Linguagem de Grande Escala (LLMs). Pense neles como os "tradutores" ou "contadores de histórias" do mundo da IA. Eles são os que podem pegar esses números entediantes e transformá-los em um parágrafo amigável e legível.

Este artigo faz uma pergunta muito específica: Podemos confiar nesses contadores de histórias de IA para dizer a verdade sobre o porquê de o robô ter tomado sua decisão?

Os pesquisadores realizaram dois testes diferentes para descobrir, usando dados reais de empréstimos da LendingClub.

Teste 1: O Teste de "Ditado" (A IA consegue seguir ordens?)

A Configuração: Os pesquisadores deram ao contador de histórias de IA a lista exata de razões que o robô utilizou, classificadas da mais importante para a menos importante. Eles então pediram à IA: "Aqui está a lista de razões. Por favor, reescreva esta lista como uma história, mas certifique-se de manter exatamente a mesma ordem."

O Resultado: Os contadores de histórias de IA foram perfeitos.
Imagine um professor rigoroso entregando a um aluno uma lista de 24 ingredientes e dizendo: "Escreva uma receita usando estes, nesta ordem exata". A IA fez exatamente isso. Ela não trocou ingredientes, não esqueceu nenhum e não adicionou suas próprias ideias. Ela traduziu fielmente a "lista de números" do robô em uma "lista de palavras" sem alterar o sentido.

A Conclusão: Se você der os fatos à IA, ela é excelente em formatá-los em uma história legível para humanos. Ela atua como uma secretária muito confiável.

Teste 2: O Teste do "Detetive" (A IA consegue descobrir sozinha?)

A Configuração: Desta vez, os pesquisadores não deram à IA a lista de razões. Eles apenas forneceram os dados do solicitante (renda, pontuação de crédito, etc.) e a decisão do robô. Eles perguntaram à IA: "Com base nos dados desta pessoa, o que VOCÊ acha que são os principais motivos para esta decisão?"

O Resultado: Os contadores de histórias de IA tiveram dificuldades.
Imagine perguntar a um detetive para resolver um crime sem mostrar a ele o relatório policial. A IA tentou adivinhar os motivos com base no que ela sabe sobre o mundo em geral (como: "Ah, geralmente dívidas altas são ruins").

O Problema: O robô (o modelo de aprendizado de máquina) toma decisões baseadas em padrões complexos e ocultos que são diferentes da lógica humana geral. Os palpites da IA frequentemente erravam o alvo.
O Truque do "Few-Shot": Os pesquisadores tentaram ajudar a IA mostrando dois exemplos primeiro (como: "Aqui está como explicamos um empréstimo 'Sim', e aqui está como explicamos um empréstimo 'Não'"). Isso ajudou um pouco, mas a IA ainda não conseguiu combinar perfeitamente com o raciocínio real do robô, especialmente para os modelos de robô mais complexos.

A Conclusão: Quando a IA tenta agir como um detetive e descobrir os motivos por conta própria, ela frequentemente erra a história. Ela pode escolher motivos que parecem plausíveis, mas que não são os motivos reais utilizados pelo robô.

O Veredito Final: O "Tradutor" vs. O "Detetive"

O artigo conclui com uma regra clara de como usar essas ferramentas no mundo bancário:

NÃO use a IA como um Detetive: Você não pode deixar a IA adivinhar por que um empréstimo foi negado. Se o fizer, poderá dar ao cliente um motivo que soa bem, mas que é falso. Isso é perigoso para as regulamentações e para a confiança.
USE a IA como um Tradutor: Você pode usar a IA para pegar as razões oficiais e matematicamente comprovadas (calculadas pelo robô) e transformá-las em uma carta agradável e fácil de ler para o cliente.

A Metáfora:
Pense no Modelo de Aprendizado de Máquina como um Chef que cozinha um prato complexo.

O Tradutor de IA é um Crítico Gastronômico que é excelente em descrever o prato se o Chef lhe der a receita. Ele consegue escrever uma descrição de menu belíssima.
Mas, se você pedir ao Crítico Gastronômico para adivinhar a receita apenas provando a comida (sem a ajuda do Chef), ele provavelmente errará os ingredientes.

Em resumo: Os Modelos de Linguagem de Grande Escala são ótimos para transformar matemática em palavras, mas são péssimos em adivinhar a matemática em primeiro lugar. No risco de crédito, você deve sempre deixar a matemática (o robô) decidir os motivos, e deixar a IA apenas escrever a história.

Resumo Técnico: Podem os Grandes Modelos de Linguagem Atuar como Ferramentas de Explicabilidade Post-hoc em Modelos de Risco de Crédito?

1. Declaração do Problema

A rápida adoção de modelos complexos de aprendizado de máquina (ML), como XGBoost e redes neurais, no setor de crédito FinTech, melhorou a precisão preditiva, mas introduziu opacidade, gerando desafios para a conformidade regulatória (ex: ECOA, FCRA) e gestão de risco. Embora os métodos de IA explicável (XAI) post-hoc, como SHAP e LIME, forneçam atribuições numéricas de importância de características, eles frequentemente carecem da clareza semântica e da estrutura narrativa necessárias para tomadores de decisão humanos e relatórios regulatórios.

Este estudo investiga se os Grandes Modelos de Linguagem (LLMs) podem preencher essa lacuna servindo como interfaces de explicabilidade post-hoc para modelos de risco de crédito. Especificamente, aborda duas questões de pesquisa distintas:

RQ1 (LLM como Tradutor): Os LLMs conseguem preservar e reproduzir fielmente as classificações de importância de características fundamentadas no modelo quando essas classificações são explicitamente fornecidas como entrada?
RQ2 (LLM como Explicador Autônomo): Os LLMs podem inferir autonomamente classificações de importância de características que se alinhem com explicações fundamentadas no modelo (ex: SHAP ou coeficientes logísticos) sem que as classificações de referência sejam fornecidas, baseando-se apenas nos dados da instância e estratégias de prompting?

2. Metodologia

Dados e Modelos de Referência (Baseline)

Conjunto de Dados: Um conjunto de dados de empréstimos de consumo da LendingClub (2007–2011), compreendendo 39.239 candidatos a empréstimo com 24 características independentes. A variável alvo é um indicador binário de inadimplência (Default vs. Pago Integralmente).
Modelos de Referência: Dois modelos de risco de crédito foram treinados para gerar atribuições de verdade fundamental (ground-truth):
1. Regressão Logística: Fornece atribuições lineares inerentemente interpretáveis baseadas em coeficientes.
2. XGBoost: Um modelo de conjunto baseado em árvores de última geração que captura não-linearidades, com atribuições derivadas via SHAP (SHapley Additive exPlanations).
Métricas de Avaliação: O desempenho preditivo foi avaliado usando PR-AUC, F1-score médio macro e a estatística Kolmogorov–Smirnov (KS). O XGBoost superou significativamente a Regressão Logística (PR-AUC: 0,38 vs. 0,27; KS: 40,4 vs. 28,79).

Design Experimental dos LLMs

Três LLMs comerciais foram avaliados: GPT-4-turbo, Claude-Sonnet-4.5 e Gemini-2.5-Flash. Os experimentos utilizaram Aprendizado em Contexto (ICL) com temperatura fixa em 0 para garantir a reprodutibilidade.

RQ1 (Configuração de Tradutor):
- Entrada: Características da instância, probabilidade prevista e a lista classificada de referência derivada do modelo de base.
- Tarefa: O LLM deve fornecer uma lista classificada de características aderindo estritamente à ordem de referência fornecida.
- Restrição: Formato de saída JSON estrito; nenhuma informação externa ou inferência permitida.
- Métricas: Sobreposição de Top-K (Top-K Feature Overlap) e coeficiente de Kendall's $\tau$ .
RQ2 (Configuração de Explicador Autônomo):
- Entrada: Características da instância, probabilidade prevista e instruções da tarefa. Sem o fornecimento das classificações de referência.
- Estratégias: Comparação entre Zero-shot (apenas instruções) vs. Few-shot (instruções + dois exemplos demonstrativos de casos de alto/baixo risco com suas respectivas classificações de referência).
- Condições:
  1. Top-4: O LLM retorna apenas as 4 características mais importantes (simulando avisos de ação adversa).
  2. Classificação Completa (Full-Ranking): O LLM retorna uma classificação completa de todas as 24 características.
- Métricas: Sobreposição de Top-K e Kendall's $\tau$ contra as classificações de referência de verdade fundamental.

3. Principais Resultados

RQ1: LLM como Tradutor

Alta Fidelidade Estrutural: Quando as classificações de referência foram explicitamente fornecidas, os LLMs demonstraram fidelidade quase perfeita.
Métricas: Para todas as saídas com esquema válido, a Sobreposição@K foi de 1,000 e o Kendall's $\tau$ foi de 1,000 em todos os pontos de corte ( $K=5, 10, 15, 20$ ) para ambos os modelos de base e todos os três LLMs.
Robustez: De 3.000 execuções totais, observou-se apenas um caso de substituição de nome de característica (Claude-Sonnet-4.5 substituindo "Past 2 Months" por "Past 2 Years"). Não foram encontradas duplicatas de características ou JSONs malformados.
Conclusão: Os LLMs são altamente confiáveis na reformatação e reprodução de estruturas de atribuição fornecidas sob restrições estritas.

RQ2: LLM como Explicador Autônomo

Alinhamento Limitado: Sem as classificações de referência, os LLMs mostraram apenas um alinhamento parcial com as explicações fundamentadas no modelo.
Condição Top-4:
- Zero-shot: A média de Sobreposição@4 foi muito baixa (ex: 0,064–0,199 para Regressão Logística; 0,102–0,233 para XGBoost).
- Few-shot: O desempenho melhorou, mas permaneceu insuficiente para uso autônomo. Para a Regressão Logística, o GPT-4-turbo melhorou para 0,515, mas para o XGBoost, as melhorias foram marginais (máximo de 0,383).
- Observação: O prompting few-shot ajudou a recuperar estruturas lineares (Regressão Logística) melhor do que interações complexas e não lineares (XGBoost).
Condição de Classificação Completa (Full-Ranking):
- Validade de Esquema: O Gemini-2.5-Flash frequentemente falhou em gerar listas completas de 24 características sob prompts longos, produzindo saídas truncadas.
- Alinhamento: Mesmo para saídas válidas (GPT-4-turbo, Claude-Sonnet), a Sobreposição@K melhorou com o prompting few-shot (ex: a Sobreposição@5 da Regressão Logística subiu de ~0,39 para ~0,61), mas nunca atingiu a perfeição.
- Consistência de Ordenação: Os valores de Kendall's $\tau$ permaneceram modestos (na maioria < 0,4), indicando que, embora os LLMs possam identificar algumas características relevantes, eles falham em preservar a ordenação relativa correta da estrutura de atribuição completa.

4. Principais Contribuições e Alegações

Descobertas Primárias

O estudo estabelece uma distinção clara entre LLMs como interfaces narrativas versus explicadores autônomos:

Confiabilidade como Tradutores: Os LLMs podem reproduzir de forma confiável as classificações fundamentadas no modelo quando essas classificações são fornecidas como entrada. Eles funcionam efetivamente como "interfaces narrativas" que convertem atribuições quantitativas em formatos legíveis por humanos sem alterar a lógica subjacente.
Não Confiabilidade como Explicadores Autônomos: Os LLMs não conseguem inferir de forma confiável as classificações de importância de características que correspondam a modelos de risco de crédito complexos (especialmente os não lineares como o XGBoost) baseando-se apenas nos dados de entrada e prompts. Suas saídas são direcionadas por vieses de domínio geral e padrões de linguagem, em vez da estrutura específica do modelo ajustado.

Significado para a Governança de Risco de Crédito

Não é um Substituto para XAI Formal: O artigo argumenta que os LLMs não devem substituir os métodos de atribuição formais (como SHAP ou decomposição de coeficientes) na governança de risco de crédito. Explicações autônomas de LLMs podem selecionar fatores plausíveis que não refletem a lógica real de decisão do modelo aprovado, introduzindo risco de modelo.
Implantação Orientada à Governança: O caso de uso recomendado é um fluxo de trabalho híbrido: Métodos de XAI formais geram as classificações de atribuição auditáveis, e os LLMs servem como a interface para traduzir essas classificações em narrativas coerentes e informadas pelo domínio para os stakeholders.
Limitações: O estudo reconhece limitações, incluindo o uso de um único conjunto de dados, o foco no alinhamento de ranking em vez de resultados do usuário e a falta de testes de estresse por perturbação (ex: rankings embaralhados).

Conclusão

O artigo conclui que, embora os LLMs ofereçam promessa para aumentar a acessibilidade das explicações de risco de crédito, eles carecem atualmente da fidelidade necessária para servir como fontes independentes de responsabilidade explicativa. Seu papel deve ser restrito à formatação e narração de atribuições pré-computadas e auditáveis, em vez de inferi-las autonomamente.