Resumo Técnico: Incorporação de Design de Aprendizado Profundo em Consultas de Banco de Dados

Declaração do Problema

A integração de aprendizado profundo (DL) e bancos de dados relacionais tem sido tradicionalmente impedida por uma sobrecarga de engenharia de "ida e volta". Abordagens convencionais exigem a tradução de dados relacionais em representações de grafos (onde registros se tornam nós e chaves estrangeiras se tornam arestas) e, em seguida, a exportação desses dados para frameworks externos de aprendizado de máquina (por exemplo, PyTorch Geometric, DGL) para treinar Redes Neurais de Grafos (GNNs). Esse processo força os desenvolvedores a trabalhar em paradigmas distintos: usando linguagens de consulta declarativas para gerenciamento de dados e código imperativo para design de modelos. Além disso, os frameworks existentes de ML dentro do banco de dados frequentemente conectam esses domínios integrando tipos de tensores e operadores de álgebra linear diretamente no mecanismo de consulta, exigindo que os usuários mantenham explicitamente a conexão entre dados lógicos e representações vetoriais. Os autores argumentam que essa separação é artificial e que especificar uma rede neural sobre dados relacionais deve ser tão natural quanto consultar os dados em si.

Metodologia: Álgebra Neuro-Relacional (NRA) e RelaNN

O artigo propõe o RelaNN, um sistema de prova de conceito que integra aprendizado profundo diretamente em consultas de banco de dados, estendendo o modelo relacional. A metodologia central baseia-se na Álgebra Neuro-Relacional (NRA), um framework formal que associa cada tupla de banco de dados a uma incorporação vetorial aprendível.

1. Modelo de Dados Neuro-Relacional (NRM)

O modelo de dados estende o modelo relacional clássico definindo uma relação incorporada $(r, \eta)$, onde $r$ é a relação de conteúdo padrão e $\eta$ é uma anotação que mapeia cada tupla para uma incorporação em $\mathbb{R}^d$. Isso permite que o sistema opere simultaneamente no domínio lógico (conteúdo) e no domínio numérico (incorporações).

2. Operadores Neuro-Relacionais

A NRA estende a álgebra relacional padrão com operadores que manipulam tanto conteúdo quanto incorporações:

• Junção ($\bowtie$): Realiza uma junção natural padrão no conteúdo. Para incorporações, concatena as incorporações das tuplas contribuintes das relações de entrada.
• União Projetada ($\cup_{\alpha, A}$): Um operador unificado que combina projeção e união. Projeta tuplas em uma sequência de atributos comum e agrega as incorporações de tuplas com conteúdo idêntico usando um agregador de multiconjunto $\alpha$ (por exemplo, soma, média, máximo). Isso lida com a agregação de incorporações necessária quando múltiplas tuplas de entrada mapeiam para a mesma tupla de saída.
• Transformação ($T_\tau$): Aplica uma transformação diferenciável $\tau$ (por exemplo, uma rede feed-forward, ReLU ou camada linear) às incorporações de uma relação. Este é o mecanismo principal para introduzir parâmetros aprendíveis.
• Seleção, Diferença, Renomeação: Esses operadores passam as incorporações sem alterações, semelhante à álgebra clássica.

3. A Linguagem RelaNN

O RelaNN é uma linguagem declarativa construída sobre a NRA. Programas consistem em declarações de regras que definem como derivar novas relações incorporadas:

• Regras de Junção: Combinam relações via junções, aplicam uma transformação às incorporações concatenadas e agregam via uma união projetada.
• Regras de União: Unificam relações com esquemas idênticos, filtram e transformam incorporações.
• Declarações de Ajuste: Uma construção de linguagem (?fit) que minimiza uma função de perda definida sobre uma relação de saída, atualizando a atribuição global de parâmetros (incluindo tanto incorporações de tuplas quanto pesos de transformação).
• Declarações de Previsão: Avaliam o programa com parâmetros atuais para materializar resultados.
• Extensões: A linguagem suporta apelidos para compartilhamento de parâmetros, definições de função para reutilização de código, codificação/decodificação para mover dados entre colunas de conteúdo e incorporações, e modelos para gerar regras repetitivas (por exemplo, para atenção multi-cabeça).

4. Pipeline de Implementação

O RelaNN compila um programa em um Grafo de Termos (um DAG de operadores NRA). Quando executado, esse grafo é traduzido em um Plano Físico que roda sobre SQL, cuDF e PyTorch:

• Carregamento de Dados: Consultas SQL buscam conteúdo do banco de dados.
• Junção/Seleção: Implementadas via operações de DataFrame cuDF (merge, index_select) que emitem tensores de índice de linha.
• Manipulação de Incorporações: Operações PyTorch (por exemplo, torch.index_select, scatter_add) buscam e agregam incorporações com base nos índices de conteúdo, mantendo a diferenciabilidade total para treinamento ponta a ponta.
• Transformação: Camadas personalizadas nn.Module são aplicadas diretamente via PyTorch.

Contribuições Principais

1. Framework Formal (NRA): A introdução da Álgebra Neuro-Relacional, que unifica o processamento de consultas relacionais e o design de modelos neurais, estendendo o modelo relacional com incorporações de tuplas aprendíveis.
2. Sistema Declarativo (RelaNN): Um sistema de código aberto que permite aos usuários implementar arquiteturas de aprendizado de grafos de última geração usando construções familiares semelhantes a SQL/Datalog.
3. Expressividade: Capacidade demonstrada de expressar arquiteturas complexas, incluindo Redes Neurais de Convolução em Grafos (GCN), GCN Relacional (R-GCN), Transformadores de Grafos Heterogêneos (HGT), Redes Neurais de Hipergrafos (HyGNN) e Redes de Homomorfismo Profundo (DHN) com significativamente menos linhas de código do que bases imperativas.
4. Desempenho: Uma implementação de prova de conceito que alcança precisão preditiva competitiva e desempenho de tempo de execução em comparação com bibliotecas especializadas como PyTorch Geometric.

Resultados Experimentais

Os autores avaliaram o RelaNN contra implementações de referência (PyTorch, PyG) em cinco arquiteturas em múltiplos conjuntos de dados (Cora, DBLP, AIFB, CSL, EXP, DrugBank, etc.).

• Concisão de Código: Programas RelaNN foram aproximadamente 4x mais curtos do que implementações de base. Por exemplo, uma implementação de Rede de Homomorfismo Profundo (DHN) exigiu 76 linhas em RelaNN versus 259 linhas na base.
• Precisão: O RelaNN reproduziu a precisão de referência para GCN e HGT. Para outros modelos (R-GCN, HyGNN, DHN), os resultados estavam dentro de um desvio padrão das bases ou corresponderam exatamente a elas (por exemplo, 100% de precisão no conjunto de dados CSL para DHN).
• Tempo de Execução:
  • Para GCN e HGT, o tempo de execução do RelaNN estava dentro de um fator de 2 da base.
  • Para DHN, o RelaNN foi 2x a 14x mais rápido do que a base, atribuído à eficiência da compilação declarativa e à evitação de código de tensor personalizado complexo.
  • Para R-GCN no conjunto de dados AIFB, o RelaNN foi aproximadamente 30x mais lento do que a base altamente otimizada torch-rgcn. Os autores atribuem isso à implementação atual ser uma prova de conceito não otimizada e à natureza especializada da base.

Significado e Alegações

O artigo afirma que o RelaNN fornece uma base declarativa para aprendizado profundo relacional, demonstrando que é possível projetar e treinar redes neurais de última geração diretamente sobre bancos de dados relacionais sem representações intermediárias de grafos.

• Simplicidade: O sistema torna a implementação de arquiteturas complexas tão simples quanto escrever uma consulta, removendo a sobrecarga de engenharia de tradução de dados e construção de grafos.
• Integração: Ao tratar incorporações como cidadãos de primeira classe dentro do modelo relacional, a abordagem funde naturalmente o raciocínio lógico com o raciocínio numérico.
• Potencial Futuro: Embora a implementação atual seja um protótipo, os autores argumentam que ela representa um "caminho concreto" para tornar o aprendizado profundo sobre bancos de dados tão acessível quanto a consulta padrão. Eles identificam trabalho futuro na escalabilidade para conjuntos de dados maiores que a memória da GPU (via amostragem e streaming) e na otimização da execução de consultas (empurrando transformações, fundindo kernels) para fechar a lacuna de desempenho com bibliotecas especializadas.

Os autores afirmam explicitamente que seu trabalho não pretende substituir sistemas empresariais, mas sim demonstrar a viabilidade e a simplicidade de uma abordagem unificada, abrindo caminho para otimizações futuras e a possível implementação de modelos fundamentais relacionais.