📈 economics

Hard and Soft Label Assignment for Cost-Sensitive Semi-Supervised Reject Inference in Credit Scoring

Este artigo propõe o RI-CSCEM, uma estrutura de Expectativa-Maximização semissupervisionada sensível ao custo que atribui rótulos pseudo-fictícios rígidos ou suaves a candidatos rejeitados em pontuação de crédito, mitigando efetivamente o viés de seleção de amostra e os custos assimétricos de classificação errônea para superar as linhas de base de apenas aceitos nos dados do Lending Club.

Autores originais: Abderrahim EL AMRANI, Mounir EL ANNAS, Badreddine BENYACOUB, Mohammed EL HAJ TIRARI

Publicado 2026-06-30

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Abderrahim EL AMRANI, Mounir EL ANNAS, Badreddine BENYACOUB, Mohammed EL HAJ TIRARI

Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você é um gerente de banco tentando decidir quem recebe um empréstimo. Você tem uma grande lista de candidatos, mas só viu os resultados das pessoas que você aceitou. Você sabe quem pagou os empréstimos e quem entrou em inadimplência. Mas e quanto aos milhares de pessoas que você rejeitou? Você não tem ideia se elas teriam sido bons tomadores de empréstimo ou ruins. Você simplesmente as descartou.

Isso cria um ponto cego. Se você aprender apenas com as pessoas que aceitou, seu "score de risco" pode ser tendencioso porque você nunca testou suas regras com as pessoas para quem disse "não". Isso é chamado de Inferência de Rejeição (Reject Inference): tentar adivinhar o que teria acontecido com as pessoas que você rejeitou.

No entanto, há um segundo problema: no setor de empréstimos, errar não é igual.

Erro A: Você rejeita uma boa pessoa. Você perde um pouco de renda de juros.
Erro B: Você aceita uma pessoa ruim (um inadimplente). Ela não te paga de volta e você perde o valor inteiro do empréstimo.
O Erro B é muito mais caro. A maioria dos modelos computacionais padrão trata esses dois erros como se tivessem o mesmo custo, o que é como dizer que perder um dólar é o mesmo que perder uma casa.

A Solução: RI-CSCEM

Os autores deste artigo construíram uma nova ferramenta chamada RI-CSCEM. Pense nela como um professor inteligente e consciente dos custos, que aprende tanto com os alunos que passaram (candidatos aceitos) quanto com os alunos que foram expulsos da sala (candidatos rejeitados).

Veja como funciona, usando analogias simples:

1. O Palpite "Suave" vs. "Rígido"

Quando o modelo olha para um candidato rejeitado, ele precisa adivinhar: "Esta pessoa teria pago o empréstimo?"

O Jeito Rígido (Método Antigo): O modelo força uma escolha binária. Ele diz: "Esta pessoa é definitivamente uma boa pagadora" ou "Esta pessoa é definitivamente uma má pagadora". É como um árbitro soprando o apito e declarando uma jogada como "Seguro" ou "Fora" com 100% de certeza. O problema é que, se o árbitro estiver em dúvida, forçar uma decisão pode estragar o jogo.
O Jeito Suave (A Inovação deste Artigo): O modelo diz: "Esta pessoa tem 60% de probabilidade de ser uma boa pagadora e 40% de probabilidade de ser uma má pagadora". Ele atribui uma responsabilidade suave. Em vez de um rótulo único, ele distribui o candidato entre ambas as possibilidades.
- Analogia: Imagine um júri. Em vez de votar "Culpado" ou "Inocente", eles votam "60% Culpado, 40% Inocente". Isso preserva a nuance e a incerteza, o que ajuda o modelo a aprender melhor os padrões.

2. O Equilíbrio "Sensível ao Custo"

O modelo sabe que detectar um "mau pagador" é mais importante do que evitar um "falso alarme".

Ele usa uma escala especial. Se o modelo acha que alguém pode ser um inadimplente, ele pesa essa possibilidade muito mais do que se acha que a pessoa pode ser uma boa pagadora.
Ele também tem uma regra para manter o equilíbrio. Ele garante que o número de "maus pagadores" que ele prevê entre o grupo de rejeitados corresponda à taxa real de maus pagadores que ele viu no grupo de aceitos. Isso evita que o modelo enlouqueça e decida que todos são maus pagadores apenas para se prevenir.

3. O Ciclo de Aprendizado (O Método do "Professor")

O modelo utiliza uma técnica chamada Classificação EM (Expectation-Maximization). Imagine um professor tentando corrigir uma prova onde metade das respostas estão faltando:

Passo 1 (O Palpite): O professor faz o seu melhor palpite sobre as respostas faltantes com base no que sabe até agora.
Passo 2 (A Lição): O professor usa esses palpites para reestudar toda a turma (tanto as respostas conhecidas quanto as adivinhadas) para melhorar suas regras de correção.
Passo 3 (Repetir): O professor faz novos e melhores palpites baseados nas regras aprimoradas, e o ciclo se repete até que as regras de correção estejam perfeitas.

O Que Eles Descobriram?

Os autores testaram isso com dados reais do Lending Club (uma enorme plataforma de empréstimos online). Eles compararam sua nova ferramenta com outros 12 métodos, incluindo modelos padrão e outros truques de "inferência de rejeição".

O Resultado: Sua nova ferramenta (RI-CSCEM) teve um desempenho tão bom quanto os melhores modelos que olhavam apenas para os candidatos aceitos. Ela não se tornou magicamente sobre-humana, mas conseguiu usar com sucesso os dados "rejeitados" sem prejudicar o desempenho.
A Descoberta Chave: O método "Suave" foi o ingrediente secreto. Quando forçamos o modelo a fazer palpites "Rígidos" (definitivamente bom/ruim), o modelo ficou confuso e perdeu sua capacidade de distinguir entre bons e maus pagadores. Quando usamos palpites "Suaves" (probabilidades), a capacidade do modelo de distinguir (chamada de AUC) deu um salto significativo.
O "Porquê": O artigo explica que, como as regras de rejeição do banco eram baseadas em dados visíveis (como scores de crédito), o grupo "rejeitado" não estava secretamente cheio de gênios ocultos ou criminosos ocultos. Eles eram apenas uma mistura semelhante ao grupo aceito. Portanto, o modelo não precisava ser um mágico para adivinhar seus resultados; ele só precisava ser cuidadoso para não cometer erros caros.

A Conclusão

Este artigo introduz uma maneira mais inteligente para os bancos aprenderem com as pessoas que rejeitaram. Ao tratar os candidatos rejeitados como "talvez bons, talvez ruins" (rótulos suaves) em vez de forçar uma decisão de sim ou não, e ao pesar fortemente o custo de perder dinheiro, o modelo torna-se mais robusto. Ele não necessariamente prevê o futuro melhor do que os métodos existentes quando as regras de rejeição são justas, mas garante que o modelo não quebre ao tentar aprender com dados incompletos.

Resumo Técnico: Atribuição de Rótulos Hard e Soft para Inferência de Rejeição Semisupervisionada Sensível ao Custo em Pontuação de Crédito

1. Definição do Problema

Os modelos de pontuação de risco de crédito são tradicionalmente treinados exclusivamente com proponentes aceitos, pois apenas estes possuem resultados de reembolso registrados. Esta prática introduz um viés de seleção de amostra, fazendo com que os modelos tenham um bom desempenho na população aceita, mas um desempenho insatisfatório no conjunto mais amplo de proponentes. Além disso, as abordagens de classificação padrão frequentemente ignoram os custos assimétricos de classificação incorreta na pontuação de crédito: o custo de um Falso Negativo (aprovar um inadimplente) é significativamente maior do que o de um Falso Positivo (rejeitar um bom pagador).

Os métodos de inferência de rejeição existentes muitas vezes falham em abordar essas questões simultaneamente. Muitos assumem distribuições de classes equilibradas ou tratam erros de classificação como tendo custos iguais, levando a resultados econômicos subótimos. Adicionalmente, embora o aprendizado semisupervisionado trate os proponentes rejeitados como instâncias com rótulos ausentes, poucos frameworks fornecem garantias teóricas formais de consistência sob mecanismos de rejeição específicos (ex: Dados Ausentes ao Acaso - Missing at Random, MAR) enquanto integram objetivos sensíveis ao custo.

2. Metodologia: RI-CSCEM

O artigo propõe o RI-CSCEM (Reject Inference - Cost-Sensitive Classification Expectation-Maximisation), um framework unificado que integra a regressão logística semisupervisionada com o aprendizado sensível ao custo. O método opera em um conjunto de dados $D = D_l \cup D_u$ , onde $D_l$ contém proponentes rotulados (aceitos) e $D_u$ contém proponentes não rotulados (rejeitados).

2.1 Algoritmo Central

O algoritmo segue um procedimento de Classificação EM (CEM) com duas etapas alternadas:

E-Step (Atribuição de Rótulo):
Em vez de atribuir um único rótulo hard aos proponentes rejeitados, o método emprega um mecanismo de responsabilidade suave (soft responsibility). Para cada proponente não rotulado $j$ , um critério de diferença ponderado pelo custo é calculado:
$\text{Diff}(j) = C_{FN} \log(1 + e^{-z_j}) - C_{FP} \log(1 + e^{z_j})$
onde $z_j = \beta^\top x_j$ , e $C_{FN}, C_{FP}$ são os custos de falsos negativos e falsos positivos, respectivamente.

Este critério é mapeado para uma probabilidade de inadimplência suave $q_j \in (0, 1)$ usando uma função sigmoide calibrada por um parâmetro de temperatura $\tau$ . Crucialmente, a atribuição é restringida por uma restrição de equilíbrio: a proporção esperada de inadimplências entre o conjunto de rejeitados deve ser igual à taxa de inadimplência empírica $r$ observada no conjunto aceito ( $D_l$ ). Isso evita soluções degeneradas onde todos os rejeitados são atribuídos a uma única classe.

Uma variante de rótulo hard também é definida como um caso especial, onde os $\lfloor r \cdot m \rfloor$ proponentes rejeitados com o menor perda ponderada pelo custo recebem um rótulo hard de 1 (inadimplente), e o restante recebe 0.

M-Step (Estimativa de Parâmetros):
O modelo reajusta uma regressão logística com penalização $\ell_1$ sensível ao custo no conjunto de dados aumentado. A função objetivo $L(\beta, q)$ $L (β, q)$ combina:
1. Perda logística ponderada nos dados rotulados ( $D_l$ ).
2. Perda ponderada atribuída suavemente nos dados não rotulados ( $D_u$ ), escalonada por um hiperparâmetro $\lambda \in [0, 1]$ .
3. Uma penalidade $\ell_1$ ( $\mu \|\beta\|_1$ ) para seleção de características e esparsidade.

A contribuição dos dados não rotulados é escalonada por $\lambda$ , permitindo a interpolação entre os regimes puramente supervisionado ( $\lambda=0$ ) e totalmente semisupervisionado ( $\lambda=1$ ).

2.2 Garantias Teóricas

O artigo fornece dois resultados teóricos principais:

Descida Monótona: Para a variante de rótulo hard, as etapas alternadas E e M garantem uma função objetivo monotonicamente não crescente, assegurando a convergência.
Consistência sob MAR: Sob a suposição de Dados Ausentes ao Acaso (MAR) — onde a decisão de rejeição depende apenas das covariáveis observadas e não do resultado de inadimplência não observado — o estimador RI-CSCEM é consistente. Os autores provam que, sob MAR, o estimador baseado apenas em aceitos já é não viesado; portanto, o procedimento de inferência de rejeição não melhora assintoticamente o estimador, mas serve como uma ferramenta de diagnóstico para medir quando a inferência de rejeição agrega valor (especificamente quando o MAR não se sustenta).

3. Principais Contribuições

Framework Unificado: O RI-CSCEM unifica o aprendizado semisupervisionado e o aprendizado sensível ao custo dentro de um único framework de verossimilhança penalizada, abordando o viés de seleção de amostra e o desequilíbrio de classes simultaneamente.
Atribuição Soft vs. Hard: O artigo introduz uma atribuição de responsabilidade suave que distribui os proponentes rejeitados entre as classes com base em critérios ponderados pelo custo. Resultados empíricos mostram que isso preserva o poder de discriminação que a rotulagem pseudo-etiquetada hard destrói.
Rigor Teórico: O trabalho estabelece garantias formais de descida monótona para a variante hard e consistência sob MAR, fornecendo um cenário controlado para avaliar a necessidade da inferência de rejeição.
Benchmarking Rigoroso: O estudo utiliza um design experimental robusto envolvendo 30 sorteios estratificados e testes estatísticos (testes de Friedman e Nemenyi) contra 12 modelos concorrentes, incluindo inferência de rejeição tradicional, estratégias de reamostragem e baselines semisupervisionadas.

4. Resultados Experimentais

O método foi avaliado utilizando dados do Lending Club (aproximadamente 1,27 milhão de aplicações aceitas e 2,06 milhões de rejeitadas).

Desempenho: Em 30 sorteios estratificados, o RI-CSCEM alcançou um custo médio de classificação incorreta de 1120,3.
Comparação: Este desempenho foi estatisticamente indistinguível dos melhores baselines baseados apenas em aceitos: Regressão Logística Sensível ao Custo (1070,4) e Regressão Logística Balanceada por SMOTE (1104,7).
Estudo de Ablação:
- Ponderação Sensível ao Custo: Mudar de um modelo CEM base para a ponderação sensível ao custo (CEM+CS) reduziu significativamente o custo (de 1401,5 para 1215,6) e afastou o modelo da solução trivial de "todos não-inadimplentes".
- Responsabilidade Suave: Substituir rótulos hard por responsabilidades suaves (o RI-CSCEM completo) reduziu ainda mais o custo para 1120,3 e recuperou a discriminação, elevando o AUC de 0,589 para 0,614.
- Hard vs. Soft: A variante de rótulo hard (RI-CSCEM-hard) teve desempenho semelhante ao CEM+CS (1214,3 vs 1215,6), confirmando que a atribuição suave é o principal motor da melhoria do AUC.
Significância Estatística: O teste de Friedman rejeitou a hipótese nula de igualdade de desempenho entre todos os modelos ( $p < 10^{-3}$ ). O teste post-hoc de Nemenyi confirmou que o RI-CSCEM pertence ao mesmo grupo estatisticamente significativo dos melhores baselines baseados apenas em aceitos.

5. Significância e Alegações

O artigo alega que o RI-CSCEM fornece um baseline de diagnóstico para a literatura de pontuação de crédito. Sua principal significância reside em demonstrar que, sob um mecanismo de rejeição de Dados Ausentes ao Acaso (MAR), a inferência de rejeição agrega pouco valor sobre um modelo bem ajustado e sensível ao custo baseado apenas em aceitos. Os autores argumentam que o estimador baseado apenas em aceitos já é não viesado sob MAR, e o framework proposto confirma isso teórica e empiricamente.

O artigo conclui modestamente que o verdadeiro benefício da inferência de rejeição deve emergir em cenários de Dados Ausentes Não ao Acaso (MNAR), onde a rejeição depende de fatores não observados. O presente trabalho estabelece uma base rigorosa para tais extensões futuras ao provar a consistência sob MAR e isolar os componentes específicos (sensibilidade ao custo e atribuição suave) que melhoram o desempenho do modelo quando a inferência de rejeição é aplicada. Os autores não alegam que o RI-CSCEM supera universalmente todos os baselines em todos os regimes, mas sim que ele iguala os baselines mais fortes sob MAR, oferecendo um mecanismo robusto e teoricamente fundamentado para lidar com dados não rotulados quando o mecanismo de rejeição é ignorável.