FinBloom: Knowledge Grounding Large Language Model with Real-time Financial Data

O artigo apresenta o FinBloom, um modelo de linguagem de 7 bilhões de parâmetros especializado em finanças que, ao ser fine-tuned com dados de notícias e arquivos regulatórios e acoplado a um agente de contexto, permite a geração de respostas precisas e em tempo real para consultas financeiras complexas, eliminando a necessidade de os usuários fornecerem manualmente dados atualizados.

O essencial

Imagine que você tem um consultor financeiro superinteligente, um gênio que leu milhões de livros e sabe tudo sobre economia, mas tem um problema grave: ele vive no passado. Ele sabe como as coisas eram em 2020, mas não sabe o preço da ação da Apple hoje de manhã, nem se houve uma notícia ruim sobre o petróleo agora há pouco. Se você perguntar a ele "Devo comprar essa ação?", ele vai responder com base em dados antigos, o que pode custar muito caro para o seu bolso.

É exatamente para resolver esse problema que os autores deste artigo criaram o FinBloom. Vamos descomplicar como isso funciona usando algumas analogias do dia a dia.

1. O Problema: O Gênio "Desatualizado"

Os modelos de inteligência artificial atuais (como o ChatGPT) são como bibliotecários que só têm acesso a livros impressos até 2023. Eles são ótimos para escrever poemas, explicar conceitos ou resumir histórias. Mas, no mundo das finanças, onde os preços mudam a cada segundo e uma notícia de última hora pode fazer uma empresa subir ou cair, esse "bibliotecário" é inútil. Ele não tem como saber o que está acontecendo agora.

2. A Solução: O "FinBloom" e o "Agente Financeiro"

Os autores criaram um sistema com duas partes principais, que funcionam como uma equipe de trabalho:

• O Especialista (FinBloom 7B): Imagine um estudante de economia que foi forçado a ler 14 milhões de notícias financeiras e milhões de documentos oficiais de empresas (como os relatórios da SEC nos EUA). Ele se tornou um especialista no "idioma" das finanças. Ele entende termos como "lucro líquido", "margem de EBITDA" e "relação preço-lucro" muito melhor do que um modelo genérico.
• O Mensageiro Rápido (Agente Financeiro): Este é o verdadeiro herói da história. Ele é como um corredor de bolsa ou um assistente pessoal superágil. Quando você faz uma pergunta, o Agente não tenta adivinhar a resposta. Em vez disso, ele:
  1. Entende o que você quer.
  2. Corre até uma base de dados em tempo real (que tem notícias de agora e preços de ações atualizados).
  3. Pega os dados exatos que você precisa.
  4. Entrega esses dados fresquinhos para o "Especialista" (FinBloom) ler e montar a resposta.

3. A Analogia do Restaurante

Pense no sistema como um restaurante de luxo:

• O Cliente (Você): Faz um pedido: "Quero um prato com ingredientes frescos de hoje".
• O Chef (FinBloom): É um chef renomado que sabe cozinhar qualquer coisa, mas não tem ingredientes na mão. Se ele tentar cozinhar sem ingredientes, vai inventar coisas (o que chamamos de "alucinação" em IA) ou usar ingredientes velhos.
• O Garçom (Agente Financeiro): É quem vai até a horta (a base de dados em tempo real), pega os tomates, o peixe e as ervas que foram colhidos hoje, e traz para a cozinha.
• O Resultado: O Chef usa os ingredientes frescos do Garçom para criar um prato perfeito e seguro.

Sem o Garçom, o Chef tentaria cozinhar com o que tinha na geladeira antiga, e o prato ficaria ruim.

4. O Que Eles Criaram de Novo?

Para fazer esse sistema funcionar, eles não apenas "conectaram" as coisas. Eles construíram três coisas fundamentais:

1. Um "Treinamento" Específico (FinBloom 7B): Eles pegaram um modelo de IA genérico e o treinaram com uma quantidade massiva de textos financeiros reais (notícias e relatórios). Isso deu ao modelo a "intuição" financeira necessária.
2. Um "Livro de Receitas" de Perguntas (Dataset de Contexto): Eles criaram um banco de dados com 50.000 perguntas financeiras e as respostas corretas baseadas em dados reais. Isso ensinou o Agente a saber exatamente quais dados procurar para cada tipo de pergunta.
3. O Sistema de Busca Inteligente: Diferente de outros sistemas que tentam "adivinhar" o que você quer lendo textos soltos, o Agente deles cria um pedido estruturado (como um código de computador) para buscar os números exatos na base de dados, evitando erros.

5. Por Que Isso é Importante?

No mundo real, tomar decisões financeiras com dados velhos é como tentar dirigir um carro olhando apenas pelo retrovisor. Você pode ver onde esteve, mas não sabe se há um buraco na frente.

O FinBloom permite que a Inteligência Artificial:

• Veja o que está acontecendo agora: Preços, notícias e relatórios em tempo real.
• Evite alucinações: Em vez de inventar números, ela busca os números reais.
• Seja rápida: O sistema foi feito para ser ágil, essencial para quem opera na bolsa de valores.

Resumo Final

Em suma, os autores criaram um "assistente financeiro" que não apenas sabe falar a língua do dinheiro, mas também tem um telefone direto para o mercado financeiro atual. Ele não tenta adivinhar; ele busca a informação, entrega para o especialista analisar e te dá a resposta mais precisa possível baseada no que está acontecendo agora. É como ter um consultor financeiro que nunca dorme e tem acesso instantâneo a todos os dados do mundo.

Resumo técnico

Título: FinBloom: Modelo de Linguagem de Grande Escala com Fundamentação de Conhecimento e Dados Financeiros em Tempo Real

1. Problema

Os Modelos de Linguagem de Grande Escala (LLMs) gerais demonstram grande proficiência em tarefas de geração de texto e raciocínio, mas enfrentam limitações críticas em domínios dinâmicos como as finanças:

• Dados Estáticos: LLMs padrão são treinados em corpora estáticos com datas de corte conhecidas, tornando suas respostas obsoletas para decisões que dependem de notícias recentes, flutuações de preços de ativos ou dados macroeconômicos em tempo real.
• Alta Latência e Custo: Tentativas de atualizar continuamente os pesos do modelo (fine-tuning online) para acompanhar o fluxo de dados financeiros de alta velocidade são computacionalmente proibitivas e lentas.
• Limitações do RAG Tradicional: Abordagens de Geração Aumentada por Recuperação (RAG) baseadas em vetores densos (embedding) falham frequentemente com dados financeiros estruturados (tabelas, séries temporais, métricas numéricas). A conversão de tabelas em texto para busca vetorial introduz redundância, erros e perda de relações estruturais críticas, além de não garantir a precisão de células específicas necessárias para cálculos financeiros.
• Alucinações: Sem acesso a dados precisos e estruturados, os LLMs tendem a alucinar números ou fornecer estimativas incorretas quando solicitados sobre métricas específicas.

2. Metodologia

Os autores propõem uma arquitetura baseada em Agentes que desacopla a recuperação de dados da geração de resposta, utilizando um agente especializado para "fundamentar" o LLM com contexto atualizado. O sistema é composto por três módulos principais:

• Módulo de Dados (Data Module):

  • Atua como um repositório unificado para dados estruturados (tabelas, preços, demonstrações financeiras) e não estruturados (notícias).
  • Dados Estruturados: Armazenados em um banco de dados relacional (PostgreSQL) com um esquema em estrela, permitindo consultas SQL precisas por empresa, métrica e intervalo de datas.
  • Dados de Notícias: Armazenados em um índice de documentos (Elasticsearch) com vetores densos. Utiliza um modelo FinRoBERTa (RoBERTa adaptado ao domínio financeiro) para busca semântica de notícias relevantes.
  • O módulo não usa busca vetorial sobre tabelas; em vez disso, executa consultas estruturadas exatas baseadas em esquemas.

• Agente Financeiro (Financial Agent):

  • É um LLM de 7 bilhões de parâmetros (FinBloom 7B) especializado.
  • Função: Recebe a consulta do usuário em linguagem natural, interpreta a intenção, identifica as entidades (empresas), métricas financeiras e intervalos de datas necessários.
  • Saída: Gera uma "Solicitação de Dados Estruturada" (Structured Data Request) que o Módulo de Dados pode executar diretamente.
  • Treinamento: O agente é treinado em um conjunto de dados personalizado (Financial Context Dataset) para aprender a mapear consultas naturais para requisições de dados precisas e a incluir "métricas relacionadas" para enriquecer o contexto.

• LLM de Resposta (Base LLM):

  • Pode ser um modelo grande e geral (como GPT-3.5, GPT-4 ou ChatGPT).
  • Recebe a consulta original do usuário enriquecida com o contexto (dados tabulares e notícias) extraídos pelo Agente Financeiro.
  • Gera a resposta final baseada estritamente nos dados fornecidos, minimizando alucinações.

3. Principais Contribuições

O artigo apresenta três contribuições fundamentais:

1. Financial Context Dataset:

   • Um novo conjunto de dados com 50.000 consultas financeiras pareadas com o contexto necessário para resolvê-las.
   • Inclui consultas de diversos tipos (sim/não, comparativas, abertas) e cobre uma vasta gama de métricas e empresas.
   • Cada entrada contém a consulta, os dados necessários e uma "Solicitação de Dados Estruturada" formalizada, além de métricas relacionadas para redundância e robustez.

2. FinBloom 7B (Modelo de Linguagem Financeiro):

   • Um LLM de 7B parâmetros baseado no Bloom 7B, mas pré-treinado e ajustado com um corpus massivo e diversificado:
     • 14 milhões de artigos de notícias financeiras da Reuters e da Deutsche Presse-Agentur (DPA).
     • Uma amostra aleatória de 25% de 12 milhões de documentos de arquivamento da SEC (Comissão de Valores Mobiliários dos EUA).
   • O modelo foi treinado para compreender terminologia, conceitos e interdependências complexas do domínio financeiro.

3. Agente Financeiro para Geração de Contexto:

   • O FinBloom 7B é ajustado (fine-tuned) no Financial Context Dataset para atuar como o Agente Financeiro.
   • Este agente é capaz de extrair dados do módulo de dados e construir o contexto necessário para que um LLM maior (como o GPT-4) responda com precisão, eliminando a necessidade de o usuário fornecer dados manualmente.

4. Resultados e Avaliação

• Desempenho no Benchmark FinBen: O FinBloom 7B foi avaliado no benchmark FinBen (35 conjuntos de dados financeiros). O modelo demonstrou o melhor desempenho médio (F1 Score de 0,3464) entre os modelos de linguagem financeira especializados de código aberto comparados (FinMA, FinGPT, CFGPT), superando-os em tarefas de classificação de argumentos, detecção de causalidade e análise de crédito.
• Precisão na Extração de Dados: Ao ser ajustado no Financial Context Dataset, o FinBloom 7B superou significativamente o Bloom 7B genérico na tarefa de identificar dados necessários e gerar solicitações estruturadas, com pontuações BLEU e ROUGE superiores (BLEU: 0,96 vs 0,87).
• Validação de Caso de Uso (Apêndice D):
  • Cenário 1 (Com Agente): O sistema forneceu dados precisos de EBITDA e notícias para analisar a viabilidade de investimento, permitindo ao LLM gerar uma análise fundamentada.
  • Cenário 2 (Sem Agente/Com Acesso à Web): O ChatGPT com acesso à web falhou ao fornecer dados financeiros históricos precisos (ex: Reliance Industries, General Motors), fornecendo números aproximados ou incorretos e admitindo a falta de dados estruturados.
  • Conclusão: A abordagem proposta reduz a latência, elimina alucinações numéricas e garante que as decisões sejam baseadas em dados reais e atualizados.

5. Significância e Impacto

• Viabilidade para Aplicações em Tempo Real: A arquitetura proposta resolve o problema da latência e do custo de atualização de modelos, permitindo que sistemas financeiros operem com dados de alta velocidade sem re-treinar o modelo principal.
• Precisão em Dados Estruturados: Ao evitar a conversão de tabelas em texto para busca vetorial e utilizar consultas estruturadas exatas, o sistema garante a integridade dos dados numéricos, crucial para trading algorítmico e análise de investimentos.
• Escalabilidade e Modularidade: A separação entre o Agente (que entende a intenção e busca dados) e o LLM de Resposta (que gera o texto) permite atualizações independentes dos repositórios de dados sem necessidade de re-treinamento do modelo de linguagem.
• Transformação de Serviços Financeiros: O trabalho oferece um caminho para tornar serviços financeiros mais acessíveis, personalizados e baseados em dados, ajudando tanto investidores institucionais quanto varejistas a tomarem decisões informadas com base em informações em tempo real.

Em resumo, o FinBloom não é apenas um modelo de linguagem treinado em finanças, mas um sistema de agente que integra conhecimento de domínio profundo com mecanismos de recuperação de dados precisos, superando as limitações dos LLMs estáticos e das abordagens RAG tradicionais no setor financeiro.