🤖 AI

A Unified Framework for Modeling Heterogeneous Financial Data via Dual-Granularity Prompting

O artigo apresenta o FinLangNet, um novo framework que reformula a pontuação de crédito como um problema de aprendizado sequencial multiescala utilizando um mecanismo de dupla granularidade para processar dados financeiros heterogêneos, resultando em melhorias significativas de desempenho e redução de inadimplência em ambientes industriais reais.

Autores originais: Yu Lei, Zixuan Wang, Yiqing Feng, Junru Zhang, Yahui Li, Chu Liu, Tongyao Wang, Dongyang Li

Publicado 2026-04-21

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Yu Lei, Zixuan Wang, Yiqing Feng, Junru Zhang, Yahui Li, Chu Liu, Tongyao Wang, Dongyang Li

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você é um gerente de um grande banco e precisa decidir quem pode pegar um empréstimo. O problema é que os clientes são como livros com milhares de páginas: alguns têm histórico de pagamentos, outros têm dívidas, e tudo isso muda a cada dia.

Até recentemente, os bancos usavam uma "receita de bolo" antiga e rígida (chamada XGBoost) para ler esses livros. Eles tinham que manualmente marcar cada capítulo importante, o que era demorado e muitas vezes perdia detalhes importantes sobre como o cliente estava mudando.

Os autores deste artigo, do DiDi e de universidades chinesas, criaram algo novo chamado FinLangNet. Pense nele como um detetive superinteligente que não apenas lê o livro, mas entende a história inteira, desde o primeiro capítulo até o final, prevendo como o personagem vai se comportar no futuro.

Aqui está como funciona, usando analogias simples:

1. O Problema: Dados Bagunçados e Mudantes

Os dados financeiros são como uma caixa de ferramentas misturada:

Dados Estáticos: Coisas que não mudam muito (idade, profissão, endereço). São como a "capa do livro".
Dados Dinâmicos: Coisas que mudam o tempo todo (quando você pediu um empréstimo, quanto gastou ontem, quantas vezes consultou seu score). São como as "páginas do livro" que viram rápido.

Os modelos antigos olhavam apenas para a capa e algumas páginas soltas, ignorando a história completa.

2. A Solução: FinLangNet (O Detetive de Dupla Visão)

O FinLangNet usa dois "braços" para analisar o cliente, como se tivesse dois especialistas trabalhando juntos:

Braço 1: O Especialista em Perfil (Módulo Não-Sequencial)
Ele olha para os dados estáticos (capa do livro). Ele usa uma técnica chamada DeepFM para entender como as características se misturam.
- Analogia: É como saber que uma pessoa é "jovem, mora em São Paulo e é engenheiro". O modelo entende que essa combinação específica tem um certo risco, assim como um detetive sabe que certos perfis combinam de formas específicas.
Braço 2: O Especialista em História (Módulo Sequencial - SRG)
Este é o grande diferencial. Ele olha para a linha do tempo (as páginas do livro). Mas, em vez de apenas ler linha por linha, ele usa uma técnica genial chamada "Prompt Duplo" (Dual-Prompt).
- Analogia: Imagine que você está lendo um romance.
  - O Prompt de Nível de Recurso é como um marcador de página que diz: "Atenção! Este capítulo sobre gastos com cartão de crédito é muito importante para entender o personagem." Ele foca nos detalhes finos de cada tipo de dado.
  - O Prompt de Nível de Usuário é como um resumo no final do livro que diz: "No geral, este personagem é impulsivo e arriscado." Ele junta tudo para criar uma visão completa da personalidade do cliente.

3. A Grande Virada: Prever o Futuro em Vários Momentos

A maioria dos modelos diz apenas: "Este cliente vai pagar ou não pagar amanhã?".
O FinLangNet pergunta: "E daqui a 30 dias? E daqui a 90 dias? E daqui a 6 meses?".
Ele cria uma bola de cristal multi-tempo, prevendo o comportamento do cliente em diferentes momentos futuros. Isso é crucial porque um cliente pode estar bem hoje, mas começar a ter problemas daqui a dois meses.

4. O Resultado na Vida Real

Quando eles colocaram esse sistema para funcionar no mundo real (na plataforma de um grande aplicativo de transporte):

Melhoria na Detecção: O sistema conseguiu identificar muito melhor quem era um "mau pagador" antes que ele deixasse de pagar.
Dinheiro no Bolso: Eles conseguiram reduzir as dívidas ruins em quase 10%.
Comparação: Se o modelo antigo (XGBoost) fosse um carro popular, o FinLangNet é um carro de Fórmula 1: mais rápido, mais preciso e capaz de fazer curvas que o outro não consegue.

Resumo em uma Frase

O FinLangNet é um sistema de inteligência artificial que, em vez de apenas olhar para o histórico estático de um cliente, lê a "história completa" das finanças dele, usando marcadores inteligentes para entender tanto os detalhes pequenos quanto o quadro geral, prevendo com precisão se a pessoa vai pagar o empréstimo no futuro próximo ou distante.

É como trocar um analista que lê apenas o currículo de alguém por um detetive que lê a vida inteira da pessoa, entende seus hábitos e consegue prever se ela vai se comportar bem amanhã ou daqui a seis meses.

1. Problema e Contexto

A avaliação de risco de crédito na indústria financeira ainda depende fortemente de métodos estatísticos manuais, como o XGBoost, devido à sua estabilidade e interpretabilidade. No entanto, essas abordagens enfrentam limitações críticas ao lidar com dados financeiros heterogêneos:

Complexidade dos Dados: Os dados provêm de múltiplas fontes (relatórios de crédito, histórico de transações, comportamento de uso), sendo ruidosos, de alta dimensão, esparsos e com muitos valores ausentes.
Dependência Temporal: A solvência do usuário não é estática; evolui dinamicamente. Modelos estáticos (como XGBoost padrão) falham em capturar dependências temporais de longo prazo e a evolução do perfil de risco ao longo de diferentes horizontes de tempo.
Engenharia de Features: A abordagem tradicional exige extensa engenharia de features manuais, o que é demorado e requer expertise de domínio.
Falha de Modelos Profundos: Arquiteturas de aprendizado profundo existentes muitas vezes não superam consistentemente o XGBoost em cenários industriais ou focam apenas em previsões em um único ponto no tempo, ignorando a evolução futura do risco.

2. Metodologia: FinLangNet

O FinLangNet é um novo framework que reformula a pontuação de crédito como um problema de aprendizado sequencial multi-escala. O objetivo é gerar distribuições de probabilidade para comportamentos financeiros futuros em múltiplos horizontes de tempo.

A arquitetura é composta por dois módulos complementares:

A. Módulo Não-Sequencial (Features Estáticas)

Objetivo: Capturar interações complexas de alto nível em atributos estáticos (ex: perfil demográfico, renda).
Tecnologia: Utiliza DeepFM (Factorization Machine + Deep Neural Network).
- A parte FM modela interações de baixa ordem (segunda ordem).
- A parte DNN modela correlações não lineares de alta ordem.
Saída: Um embedding estático ( $O_m$ ) que define o nível de risco basal.

B. Módulo Sequencial (SRG - Sequence Representation Generator)

Objetivo: Processar dados temporais heterogêneos e esparsos de múltiplas fontes.
Pré-processamento: Discretização de sinais contínuos em tokens para lidar com esparsidade e ruído.
Mecanismo de Dual-Prompt (Inovação Chave): Inspirado em prompts de LLMs, o modelo introduz vetores aprendíveis em duas granularidades para guiar a representação:
1. Prompt de Nível de Feature ( $e_{\phi_c}$ ): Captura padrões temporais globais específicos para cada canal de dados (ex: histórico de empréstimos vs. consultas).
2. Prompt de Nível de Usuário ( $P_s$ ): Captura o perfil de risco holístico, agregando informações de todos os canais através de atenção ponderada.
Arquitetura: Um Encoder Transformer processa a sequência aumentada pelos prompts. O estado final do prompt de nível de usuário serve como a representação sequencial abrangente ( $O_{ns}$ ).

C. Predição de Risco Multi-Escala e Otimização

Fusão: Os embeddings estáticos e sequenciais são concatenados.
Multi-Task Learning: O modelo prevê a probabilidade de inadimplência em $n$ horizontes futuros diferentes (ex: 30, 60, 90 dias).
Função de Perda Híbrida Dinâmica:
- Weighted Logarithmic Loss (WLL): Penaliza mais a classe minoritária (inadimplentes).
- Mineração Dinâmica de Exemplos Difíceis: Ajusta pesos dinamicamente com base na incerteza do gradiente, focando em amostras onde o modelo tem dificuldade.

3. Principais Contribuições

Reformulação do Problema: Mudança da classificação binária estática para previsão dinâmica multi-escala, permitindo modelar a evolução da solvência.
Arquitetura Híbrida: Integração de DeepFM para dados tabulares e um módulo sequencial com Dual-Prompt para dados temporais, superando a necessidade de engenharia de features manual.
Desempenho SOTA: Alcançou resultados state-of-the-art em benchmarks públicos de séries temporais (UEA) e em dados industriais reais.
Impacto Industrial: Implementação bem-sucedida em uma plataforma financeira global, demonstrando viabilidade técnica e econômica.

4. Resultados

A. Avaliação Industrial (Dados Reais)

Dataset: Mais de 7 milhões de usuários de uma plataforma de serviços financeiros.
Comparação: Superou o XGBoost (baseline de produção), Transformers, Mamba, TimesNet e LLMs (DeepSeek, GPT-4) em zero-shot.
Métricas de Desempenho:
- Melhoria de 6,3 pontos percentuais (pp) na estatística KS (Kolmogorov-Smirnov) em relação ao XGBoost.
- Redução de 9,9% na taxa de inadimplência (bad debt rate).
Eficiência: O modelo é escalável para milhões de usuários com inferência em tempo real (<100ms), ao contrário de modelos acadêmicos pesados que exigem pré-processamento computacionalmente caro.

B. Benchmark Público (UEA)

O módulo SRG (sem o módulo não-sequencial) foi testado em 5 tarefas de classificação de séries temporais multivariadas (UEA Archive).
O modelo superou ou foi competitivo com métodos SOTA (como ShapeNet, TapNet, TStamp) em domínios diversos (médico, gestos, áudio), validando a generalização do mecanismo de Dual-Prompt.

C. Teste A/B Online

Em um teste controlado com 60% de taxa de aprovação:
- Redução da taxa de inadimplência de 9,1% para 8,2%.
- Identificação de 68% dos usuários de alto risco que o modelo XGBoost aprovaria erroneamente.
- Redução de 42% nos falsos positivos do XGBoost.

5. Significado e Conclusão

O FinLangNet representa um avanço significativo na interseção entre Inteligência Artificial Generativa/Sequencial e Risco Financeiro Industrial.

Quebra de Paradigma: Demonstra que modelos baseados em Transformers com mecanismos de prompt podem superar modelos de árvore de decisão (XGBoost) em dados tabulares complexos e temporais, desde que a arquitetura seja adaptada para a natureza dos dados financeiros (heterogeneidade e esparsidade).
Viabilidade Operacional: O trabalho prova que é possível substituir ou aprimorar sistemas legados complexos com modelos de aprendizado profundo que são não apenas mais precisos, mas também mais eficientes e adaptáveis a novos dados sem necessidade constante de reengenharia de features.
Gestão de Risco Dinâmica: Ao prever riscos em múltiplos horizontes temporais, o sistema permite uma gestão de carteira mais proativa, identificando deterioração de crédito antes que ela se torne um inadimplência real.

Em resumo, o FinLangNet oferece um framework unificado que combina a interpretabilidade necessária para o setor financeiro com o poder de modelagem temporal de ponta, resultando em ganhos financeiros tangíveis e redução de perdas por inadimplência.