Resumo Técnico: GraphRAG Agente para Navegação em Dados Financeiros Não Estruturados

Declaração do Problema

Registros comerciais públicos, como o Diário Oficial do Comércio Suíço (SHAB), contêm vastas quantidades de dados juridicamente vinculativos que são formalmente acessíveis, mas praticamente difíceis de utilizar. Esses conjuntos de dados combinam metadados estruturados (por exemplo, IDs de empresas, datas) com grandes volumes de texto legal não estruturado (por exemplo, avisos em texto livre descrevendo falências, mudanças de liderança e liquidações). Essa natureza híbrida cria um "paradoxo prático": embora os dados estejam abertos, o acesso analítico eficaz é limitado.

Sistemas convencionais de Geração Aumentada por Recuperação (RAG), que dependem principalmente de similaridade semântica baseada em vetores, têm dificuldades nesse domínio. Eles frequentemente falham em capturar relações estruturais explícitas, dependências temporais e conexões de entidades de múltiplos saltos. Além disso, o RAG vetorial padrão tende a destruir os links lógicos inerentes entre dados numéricos e suas explicações textuais, levando a respostas genéricas em vez de insights específicos de cada empresa. O desafio é criar um sistema capaz de análise de nível especializado que possa percorrer redes corporativas complexas, resolver identidades de entidades através de variações ortográficas e fornecer raciocínio auditável de múltiplos saltos sobre milhões de documentos.

Metodologia

Os autores propõem um framework colaborativo de GraphRAG Agente projetado especificamente para dados de registros comerciais. O sistema consiste em três componentes principais: um pipeline de ingestão de dados, um agente analítico e um painel exploratório.

1. Pipeline de Ingestão de Dados (Construção de Grafo de Conhecimento Neo4j)

O sistema processa o conjunto de dados SHAB (mais de 7 milhões de registros ao longo de 7 anos) através de um pipeline de três fases para construir um grafo de conhecimento Neo4j:

• Fase 1: Ingestão Determinística de Nós Fortes: Campos de metadados estruturados (por exemplo, UID suíço, forma jurídica, capital) são analisados para criar "nós fortes" representando entidades verificadas (Empresas, Pessoas, Eventos).
• Fase 2: Extração Baseada em LLM de Nós Fracos: Um Modelo de Linguagem Grande (gpt-4o-mini) extrai "nós fracos" (atores latentes como liquidatários, credores e fundadores) de avisos em texto livre não estruturados. Para gerenciar escala e custo, a extração é restrita a sub-rubricas de eventos de alto valor (por exemplo, falências, liquidações). O LLM é restringido a retornar JSON imposto com temperatura de 0,0.
• Fase 3: Resolução Determinística de Identidade: Para lidar com variações ortográficas (por exemplo, "John Doe" vs. "Doe, John") e entradas duplicadas, o sistema emprega um mecanismo estrito de NameHub. Os nomes são normalizados via tokenização alfabética (minúsculas, remoção de caracteres não alfanuméricos, ordenação de tokens) para gerar uma chave determinística. Uma etapa de deduplicação mescla NameHubs duplicados, e uma etapa de "absorção de nó fraco" remove nós redundantes extraídos pelo LLM se coincidirem com um nó forte verificado.
• Camada de Privacidade: Uma etapa opcional de pós-processamento usa hashing HMAC-SHA256 para ofuscar informações de identificação pessoal (PII) enquanto preserva a topologia do grafo para análise.

2. Arquitetura do Agente Analítico

O agente opera no grafo de conhecimento por meio de um fluxo de trabalho controlado e multicamadas, em vez de consultas diretas ao banco de dados:

• Roteador de Intenção Zero-Shot: Um classificador roteia consultas do usuário para uma de cinco intenções semânticas (por exemplo, search_companies, explore_network, analytics). Isso restringe dinamicamente a carga útil de ferramentas disponível para evitar "sobrecarga cognitiva" e garantir que o agente utilize as operações de banco de dados corretas.
• Loop de Reflexão Agente Limitado: O agente seleciona iterativamente ferramentas, gera argumentos JSON e as executa contra o grafo Neo4j. O loop é executado por um máximo de quatro iterações. Se uma ferramenta falhar ou retornar resultados vazios, o sistema injeta feedback determinístico, permitindo que o agente pivote (por exemplo, de busca estruturada para busca global de texto) em vez de alucinar.
• Síntese de Resposta Consciente de Estado: Uma Máquina de Estados Finita estrita (SSM) governa o fluxo de diálogo (por exemplo, Desambiguação → Dossier → Rede/Histórico → Busca Profunda). Isso garante que o agente mantenha contexto procedural, evite chamadas de ferramentas redundantes e formate respostas (por exemplo, tabelas Markdown, dossiês) consistentemente.

3. Painel Exploratório

Uma interface com humano no loop, construída com Next.js e React, permite que os usuários visualizem o grafo (redes direcionadas por força 2D), inspecionem perfis de entidades e interajam com o agente por meio de uma interface de chat. Crucialmente, o painel expõe rastros de execução, permitindo que os usuários verifiquem os passos de raciocínio do agente, chamadas de ferramentas e recuperação de dados brutos em tempo real.

Principais Contribuições

1. Arquitetura Inovadora: Um sistema GraphRAG modular e ponta a ponta que integra ingestão estruturada determinística com extração não estruturada baseada em LLM, preenchendo a lacuna entre dados brutos de registro e análise especializada.
2. Framework de Avaliação: Um protocolo de avaliação multicamada que aborda uma lacuna na literatura sobre avaliação de sistemas agentes. O framework mede:
   • Nível 1: Precisão na resolução de entidades (deduplicação determinística).
   • Nível 2: Trajetória do agente (precisão na seleção de ferramentas, taxas de fallback, passos de raciocínio).
   • Nível 3: Qualidade da resposta (correção, relevância, recuperação de informações) usando LLM como Juiz.
   • Nível 4: Robustez conversacional (sucesso por turno, continuidade de contexto).
3. Design Preservador de Privacidade: A integração de uma camada de abstração criptográfica que permite que o framework seja implantado em ambientes sensíveis (por exemplo, bancos, saúde) mantendo a utilidade analítica.
4. Código Aberto: Reprodutibilidade total com código e dados disponíveis para coleta de dados, construção de grafos, implementação de agente e o painel.

Resultados

O sistema foi avaliado contra uma linha de base padrão de RAG vetorial agente usando o conjunto de dados SHAB.

• Resolução de Entidades: A camada de deduplicação determinística alcançou 97,15% de precisão na mesclagem de variantes ortográficas.
• Trajetória do Agente: O agente demonstrou alta Precisão na Seleção de Ferramentas (88%), priorizando corretamente consultas de grafos estruturadas sobre buscas de texto não estruturadas. Ele alcançou uma Taxa de Sucesso de Consulta de 100% com uma média de 1,7 passos de raciocínio por consulta.
• Qualidade da Resposta: O GraphRAG Agente superou significativamente a linha de base vetorial em todas as métricas de qualidade:
  • Correção: 0,828 (GraphRAG) vs. 0,143 (Linha de Base) no benchmark curado manualmente.
  • Recuperação de Informações: 0,837 vs. 0,118.
  • Relevância da Resposta: 0,887 vs. 0,246.
• Desempenho Conversacional: Em cenários de múltiplos turnos, o sistema GraphRAG mostrou Precisão de Continuidade de Contexto Superior (0,683 vs. 0,433) e Taxa de Sucesso por Turno (0,750 vs. 0,333), demonstrando sua capacidade de manter threads analíticas e resolver co-referências efetivamente.
• Compromisso de Latência: A linha de base vetorial foi mais rápida (aprox. 4,3s vs. 12,5s) devido ao processo de raciocínio de múltiplos passos do sistema GraphRAG, mas os autores argumentam que essa latência é necessária para a precisão e auditabilidade exigidas na análise financeira.

Significado e Alegações

O artigo afirma que a arquitetura proposta resolve efetivamente o "paradoxo prático" de dados de registros públicos, transformando registros formalmente acessíveis, mas fragmentados, em um recurso navegável, auditável e analiticamente poderoso.

Os autores enfatizam que sua contribuição não se limita ao contexto suíço, mas oferece um framework generalizável para qualquer gazeta comercial ou sistema de registro público onde informações legais e corporativas estão dispersas entre formatos estruturados e não estruturados. Eles afirmam que a combinação de raciocínio agente controlado, recuperação baseada em grafos e interfaces transparentes é essencial para construir IA confiável em domínios financeiros e regulatórios de alto risco. O trabalho destaca que, enquanto o RAG vetorial padrão falha na agregação global e no raciocínio de múltiplos saltos, a abordagem GraphRAG permite investigações complexas de nível especializado, mantendo a estrita auditabilidade exigida para conformidade.

O artigo conclui modestamente, reconhecendo limitações como a incapacidade de calcular a recuperação do corpus completo devido à escala do conjunto de dados e a dependência de juízes baseados em LLM para avaliação, que podem ser sensíveis à formatação. No entanto, ele postula que o sistema fornece uma base robusta para trabalhos futuros em análises de interesse público e conformidade do setor privado.