SQUiD: Synthesizing Relational Databases from Unstructured Text

O artigo apresenta o SQUiD, um novo framework neurosimbólico que utiliza modelos de linguagem grandes para sintetizar automaticamente esquemas e dados de bancos de dados relacionais a partir de textos não estruturados, superando consistentemente as abordagens existentes.

O essencial

Imagine que você tem uma pilha enorme de diários de viagem, cartas antigas e relatos de aventuras escritos à mão. Essas histórias são cheias de informações valiosas: nomes de pessoas, datas, lugares visitados, preços de hotéis e detalhes sobre quem foi com quem.

O problema é que computadores são como bibliotecários muito rígidos: eles não conseguem "ler" essas histórias de forma organizada. Eles precisam que os dados estejam em tabelas (como planilhas do Excel), com linhas e colunas bem definidas, para poderem fazer perguntas como "Quantas pessoas foram para Roma em junho?" ou "Quem gastou mais dinheiro?".

Aqui entra o SQUiD (o nome do sistema apresentado no artigo). Pense no SQUiD como um arquiteto de dados mágico que consegue pegar essa bagunça de textos e transformá-la em um banco de dados relacional perfeito e pronto para uso.

Aqui está como ele funciona, usando uma analogia de construção de uma cidade:

1. O Desafio (A Cidade sem Mapa)

Antes do SQUiD, tentar transformar texto em banco de dados era como tentar construir uma cidade inteira apenas olhando para um monte de fotos soltas. Se você pedisse para um robô (uma Inteligência Artificial comum) fazer isso, ele provavelmente:

• Inventaria endereços que não existem (alucinações).
• Esqueceria de colocar o nome de algumas casas (valores faltando).
• Criaria ruas que não se conectam (erros de sintaxe SQL).
• Não saberia que a "Rua A" e a "Avenida B" são a mesma coisa.

2. A Solução SQUiD (O Arquiteto Neurosimbólico)

O SQUiD não tenta adivinhar tudo de uma vez. Ele é um "arquiteto neurosimbólico", o que significa que ele combina a criatividade de uma IA (que entende linguagem humana) com a rigorosa lógica de um matemático (que segue regras estritas de banco de dados).

Ele divide a construção da cidade em 4 etapas claras:

Etapa 1: Desenhar o Mapa (Geração do Esquema)

Antes de colocar os tijolos, o SQUiD olha para os textos e desenha o mapa da cidade.

• Ele decide: "Preciso de um bairro para 'Viajantes', um para 'Destinos' e outro para 'Viagens'".
• Ele define as regras: "Cada viajante precisa de um ID único" (Chave Primária) e "A viagem deve estar ligada ao ID do viajante" (Chave Estrangeira).
• Analogia: É como definir onde ficam as escolas, hospitais e casas antes de começar a construir, garantindo que tudo tenha um lugar lógico.

Etapa 2: Caça ao Tesouro (Identificação de Valores)

Agora que temos o mapa, o SQUiD vai ler os textos para encontrar os "tesouros" (os dados).

• Ele usa duas ferramentas: uma que lê o texto palavra por palavra (ferramentas simbólicas) e outra que entende o contexto (a IA).
• Ele cria "triplas" (pequenos pacotes de informação): (Quem? -> Sophia), (Onde? -> Roma), (Quando? -> 10 de Junho).
• Ele é muito cuidadoso para não repetir informações e para garantir que "Sophia" na primeira história seja a mesma "Sophia" na segunda.

Etapa 3: Encher as Casas (Povoamento das Tabelas)

Com os dados em mãos, ele começa a preencher as tabelas (as casas da cidade).

• Ele pega os pacotes de informação e os coloca nas caixas corretas do mapa.
• O Truque Mágico: Em vez de pedir para a IA escrever tudo de uma vez (o que causa erros), ele usa um "assistente" que escreve uma linha de cada vez, garantindo que a formatação esteja perfeita. É como se ele montasse um quebra-cabeça peça por peça, verificando se cada peça encaixa antes de colocar a próxima.

Etapa 4: A Chave de Ligação (Materialização do Banco de Dados)

Finalmente, o SQUiD transforma tudo isso em código SQL (a linguagem que os bancos de dados entendem).

• Ele não pede para a IA "inventar" o código SQL, o que é arriscado. Em vez disso, ele pega os dados organizados e os traduz automaticamente para comandos de criação de tabelas e inserção de dados.
• O resultado é um banco de dados real, que você pode abrir e fazer perguntas complexas.

Por que isso é revolucionário?

O artigo mostra que o SQUiD é muito melhor do que tentar pedir para uma IA fazer tudo de uma vez ("Aqui está o texto, faça um banco de dados").

• Precisão: Ele erra muito menos.
• Conexão: Ele entende que "Roma" em uma frase é a mesma cidade em outra, e conecta os dados corretamente.
• Versatilidade: Funciona bem com textos sobre turismo, finanças, saúde ou qualquer outro assunto.

Resumo em uma frase

O SQUiD é como um tradutor super-inteligente que pega histórias bagunçadas escritas à mão e as transforma em uma biblioteca organizada, onde cada livro tem seu lugar exato e você pode encontrar qualquer informação em segundos, sem precisar ler tudo de novo.

O código e os dados desse projeto estão disponíveis publicamente, permitindo que qualquer pessoa use essa tecnologia para organizar seus próprios textos em bancos de dados úteis.

Resumo técnico

Resumo Técnico: SQUiD

1. O Problema: A Lacuna entre Texto Não Estruturado e Bancos de Dados Relacionais

Bancos de dados relacionais são a espinha dorsal da gestão de dados moderna, mas a vasta maioria dos dados do mundo real existe em formatos não estruturados (documentos de texto, artigos, relatórios médicos, etc.). Embora existam trabalhos anteriores focados em:

• Text-to-Table: Gerar tabelas planas a partir de texto.
• Text-to-SQL: Gerar consultas SQL para um banco de dados já existente.

Não havia uma solução robusta para a tarefa de Text2R (Text-to-Relational Database): sintetizar um banco de dados relacional completo (esquema + dados) a partir do zero, apenas com base em texto não estruturado.
As abordagens ingênuas, como solicitar diretamente a um Modelo de Linguagem Grande (LLM) para gerar o banco de dados, falham frequentemente devido a:

• Erros de Sintaxe SQL: Geração de comandos inválidos.
• Violação de Integridade: Falta de chaves primárias/estrangeiras ou relações inconsistentes entre tabelas.
• Alucinações e Valores Ausentes: Dados inventados ou omitidos.
• Inconsistência Semântica: Entidades representadas de formas diferentes em tabelas relacionadas.

2. Metodologia: O Framework Neurosimbólico SQUiD

O SQUiD (SQL on Unstructured Data) propõe um framework neurosimbólico que decompõe a tarefa complexa de Text2R em quatro estágios modulares, utilizando técnicas especializadas para cada etapa, combinando a flexibilidade dos LLMs com a precisão de ferramentas simbólicas.

Estágio 1: Geração de Esquema (Schema Generation)

• Objetivo: Inferir a estrutura do banco de dados (tabelas, colunas, tipos de dados, chaves primárias e estrangeiras) a partir do texto.
• Técnica: Utiliza LLMs com prompts cuidadosamente desenhados que incorporam as melhores práticas de design de bancos de dados (normalização 3NF, restrições de integridade).
• Inovação: O uso de Chain-of-Thought (CoT) para decompor o raciocínio (identificação de entidades -> definição de tabelas -> atribuição de chaves) garante que o esquema gerado seja sintaticamente válido e semanticamente correto, evitando a geração de tabelas desconexas.

Estágio 2: Identificação de Valores (Value Identification)

• Objetivo: Extrair valores específicos do texto que correspondem às colunas do esquema gerado.
• Técnica Híbrida (Neurosimbólica):
  • Tripletos Simbólicos: Uso de ferramentas determinísticas (como Stanford CoreNLP) para extrair triplas (sujeito, relação, objeto).
  • Tripletos Alinhados ao Esquema: Uso de LLMs para extrair triplas no formato (tabela, coluna, valor).
  • Deduplicação e Agrupamento: Os triplatos são processados para remover redundâncias e agrupados por instância de entidade (ex: diferenciar "Sophia" de "James") usando identificadores únicos (superkeys) baseados em parágrafos do texto.

Estágio 3: Preenchimento de Tabelas (Table Population)

• Objetivo: Construir tuplas (linhas de dados) alinhadas ao esquema, garantindo integridade referencial.
• Técnica: Em vez de gerar toda a estrutura de uma vez (o que causa erros de formatação), o SQUiD utiliza uma abordagem de ensemble:
  1. Gera tuplas separadamente a partir de três fontes de entrada: (a) apenas texto, (b) texto + triplatos simbólicos, (c) texto + triplatos alinhados ao esquema.
  2. Combina os resultados dessas três fontes para maximizar a cobertura de valores e a precisão.
  3. Utiliza tool use (uso de ferramentas) no LLM para gerar registros estruturados um por um, mantendo a consistência com o formato esperado.

Estágio 4: Materialização do Banco de Dados (Database Materialization)

• Objetivo: Converter os dados estruturados em comandos SQL executáveis.
• Técnica: Otimização programática. Em vez de pedir ao LLM para escrever o SQL (o que é propenso a erros de sintaxe), o sistema parseia programaticamente a saída estruturada do estágio anterior e gera automaticamente os comandos CREATE TABLE e INSERT INTO. Isso garante 100% de correção sintática e permite a execução imediata no SQLite.

3. Contribuições Principais

1. Definição da Tarefa Text2R: Estabelece formalmente o problema de sintetizar bancos de dados relacionais completos a partir de texto, diferenciando-se de tarefas anteriores como Text-to-SQL (que assume um esquema pré-existente).
2. Framework SQUiD: Propõe uma arquitetura neurosimbólica de quatro estágios que supera as limitações de prompts diretos, combinando extração simbólica robusta com a compreensão semântica dos LLMs.
3. Benchmark e Métricas Automatizadas:
   • Criou um pipeline para gerar datasets de avaliação (baseados em BIRD e Kaggle) convertendo bancos de dados reais em texto.
   • Introduziu um conjunto de métricas novas para avaliar tanto a qualidade do Esquema (Cobertura de Entidades, Chaves Primárias e Estrangeiras) quanto dos Tuplas (Taxa de Sucesso na Construção, Integridade Referencial, Cobertura de Tuplas e Valores, Consistência de Colunas).
4. Desempenho Superior: Demonstrou empiricamente que a abordagem modular supera significativamente as abordagens de zero-shot prompting direto.

4. Resultados Experimentais

Os experimentos foram conduzidos em diversos domínios (Turismo, Educação, Finanças, Saúde Mental, etc.) utilizando modelos de ponta (GPT-4O, Claude 3.7, DeepSeek, Llama-3, Qwen).

• Validade Sintática (Esquema): O SQUiD com Chain-of-Thought alcançou cobertura de Chaves Primárias (PKC) e Chaves Estrangeiras (FKC) de 100% na maioria dos casos, enquanto abordagens diretas falharam frequentemente em gerar esquemas válidos.
• Taxa de Sucesso na Construção (DBR): O SQUiD alcançou 100% de taxa de sucesso em gerar bancos de dados executáveis em todos os modelos testados (exceto uma leve queda no DeepSeek em casos difíceis). Em contraste, a linha de base (prompting direto) teve taxas de sucesso tão baixas quanto 9.7% (GPT-4O) e 58.2% (Claude).
• Integridade Referencial (RRIR): O SQUiD mostrou melhorias drásticas na integridade referencial após joins entre tabelas. Por exemplo, o GPT-4O teve uma melhoria de 46.59x nos exemplos fáceis em comparação com a linha de base.
• Cobertura de Dados: O framework superou consistentemente as linhas de base em cobertura de tuplas (TC) e valores (VC). Notavelmente, modelos menores (8B parâmetros) sob o SQUiD superaram modelos maiores (como GPT-4 e Claude) usando apenas prompting direto, evidenciando a eficácia da decomposição da tarefa.

5. Significado e Impacto

O trabalho SQUiD representa um avanço significativo na interseção entre Processamento de Linguagem Natural (PLN) e Sistemas de Gerenciamento de Bancos de Dados (SGBD).

• Automação de Dados: Permite transformar grandes volumes de documentos textuais em bancos de dados consultáveis e estruturados automaticamente, facilitando análises que antes eram impossíveis.
• Robustez: Demonstra que a combinação de técnicas simbólicas (regras, parsing) com LLMs é superior ao uso puro de modelos generativos para tarefas que exigem alta precisão estrutural e sintática.
• Reprodutibilidade: O código e os datasets foram tornados públicos, estabelecendo um novo padrão para avaliação de tarefas de síntese de bancos de dados.

Em resumo, o SQUiD resolve o desafio de "traduzir" o caos do texto não estruturado para a ordem rigorosa dos bancos de dados relacionais, oferecendo uma solução prática e escalável para a gestão de dados moderna.