Resumen Técnico: Incorporación del Diseño de Aprendizaje Profundo en Consultas de Base de Datos

Declaración del Problema

La integración del aprendizaje profundo (DL) y las bases de datos relacionales ha sido tradicionalmente obstaculizada por una sobrecarga de ingeniería de "viaje de ida y vuelta". Los enfoques convencionales requieren traducir datos relacionales a representaciones de grafos (donde los registros se convierten en nodos y las claves foráneas en aristas) y luego exportar estos datos a marcos de aprendizaje automático externos (por ejemplo, PyTorch Geometric, DGL) para entrenar Redes Neuronales de Grafos (GNN). Este proceso obliga a los desarrolladores a trabajar a través de paradigmas dispares: utilizar lenguajes de consulta declarativos para la gestión de datos y código imperativo para el diseño de modelos. Además, los marcos existentes de ML dentro de la base de datos a menudo conectan estos dominios integrando tipos de tensor y operadores de álgebra lineal directamente en el motor de consultas, lo que requiere que los usuarios mantengan explícitamente la conexión entre los datos lógicos y las representaciones vectoriales. Los autores argumentan que esta separación es artificial y que especificar una red neuronal sobre datos relacionales debería ser tan natural como consultar los datos mismos.

Metodología: Álgebra Neuro-Relacional (NRA) y RelaNN

El artículo propone RelaNN, un sistema de concepto de prueba que integra el aprendizaje profundo directamente en las consultas de base de datos mediante la extensión del modelo relacional. La metodología central se basa en el Álgebra Neuro-Relacional (NRA), un marco formal que asocia cada tupla de base de datos con una incrustación vectorial aprendible.

1. Modelo de Datos Neuro-Relacional (NRM)

El modelo de datos extiende el modelo relacional clásico definiendo una relación incrustada $(r, \eta)$, donde $r$ es la relación de contenido estándar y $\eta$ es una anotación que mapea cada tupla a una incrustación en $\mathbb{R}^d$. Esto permite que el sistema opere simultáneamente en el dominio lógico (contenido) y en el dominio numérico (incrustaciones).

2. Operadores Neuro-Relacionales

NRA extiende el álgebra relacional estándar con operadores que manipulan tanto el contenido como las incrustaciones:

• Unión ($\bowtie$): Realiza una unión natural estándar sobre el contenido. Para las incrustaciones, concatena las incrustaciones de las tuplas contribuyentes de las relaciones de entrada.
• Unión Proyectada ($\cup_{\alpha, A}$): Un operador unificado que combina proyección y unión. Proyecta las tuplas sobre una secuencia de atributos común y agrega las incrustaciones de las tuplas con contenido idéntico utilizando un agregador de multiconjunto $\alpha$ (por ejemplo, suma, media, máximo). Esto maneja la agregación de incrustaciones requerida cuando múltiples tuplas de entrada se mapean a la misma tupla de salida.
• Transformación ($T_\tau$): Aplica una transformación diferenciable $\tau$ (por ejemplo, una red de alimentación directa, ReLU o una capa lineal) a las incrustaciones de una relación. Este es el mecanismo principal para introducir parámetros aprendibles.
• Selección, Diferencia, Renombrado: Estos operadores pasan las incrustaciones sin cambios, similar al álgebra clásica.

3. El Lenguaje RelaNN

RelaNN es un lenguaje declarativo construido sobre NRA. Los programas consisten en declaraciones de reglas que definen cómo derivar nuevas relaciones incrustadas:

• Reglas de Unión: Combinan relaciones mediante uniones, aplican una transformación a las incrustaciones concatenadas y agregan mediante una unión proyectada.
• Reglas de Unión: Unifican relaciones con esquemas idénticos, filtran y transforman incrustaciones.
• Instrucciones de Ajuste: Una construcción del lenguaje (?fit) que minimiza una función de pérdida definida sobre una relación de salida, actualizando la asignación global de parámetros (incluyendo tanto las incrustaciones de tuplas como los pesos de transformación).
• Instrucciones de Predicción: Evalúan el programa con los parámetros actuales para materializar resultados.
• Extensiones: El lenguaje admite alias para el intercambio de parámetros, definiciones de funciones para la reutilización de código, codificación/decodificación para mover datos entre columnas de contenido e incrustaciones, y plantillas para generar reglas repetitivas (por ejemplo, para la atención de múltiples cabezas).

4. Pipeline de Implementación

RelaNN compila un programa en un Grafo de Términos (un DAG de operadores NRA). Cuando se ejecuta, este grafo se traduce en un Plan Físico que se ejecuta a través de SQL, cuDF y PyTorch:

• Carga de Datos: Las consultas SQL recuperan el contenido de la base de datos.
• Unión/Selección: Se implementan mediante operaciones de DataFrame de cuDF (merge, index_select) que emiten tensores de índice de fila.
• Manipulación de Incrustaciones: Las operaciones de PyTorch (por ejemplo, torch.index_select, scatter_add) recuperan y agregan incrustaciones basadas en los índices de contenido, manteniendo la diferenciabilidad completa para el entrenamiento de extremo a extremo.
• Transformación: Capas personalizadas nn.Module se aplican directamente mediante PyTorch.

Contribuciones Clave

1. Marco Formal (NRA): La introducción del Álgebra Neuro-Relacional, que unifica el procesamiento de consultas relacionales y el diseño de modelos neuronales extendiendo el modelo relacional con incrustaciones de tuplas aprendibles.
2. Sistema Declarativo (RelaNN): Un sistema de código abierto que permite a los usuarios implementar arquitecturas de aprendizaje de grafos de última generación utilizando construcciones familiares similares a SQL/Datalog.
3. Expresividad: Capacidad demostrada para expresar arquitecturas complejas, incluidas Redes de Convolución de Grafos (GCN), GCN Relacional (R-GCN), Transformadores de Grafos Heterogéneos (HGT), Redes Neuronales de Hipergrafos (HyGNN) y Redes de Homomorfismo Profundo (DHN) con significativamente menos líneas de código que las bases de referencia imperativas.
4. Rendimiento: Una implementación de concepto de prueba que logra una precisión predictiva y un rendimiento de tiempo de ejecución competitivos en comparación con bibliotecas especializadas como PyTorch Geometric.

Resultados Experimentales

Los autores evaluaron RelaNN frente a implementaciones de referencia (PyTorch, PyG) en cinco arquitecturas a través de múltiples conjuntos de datos (Cora, DBLP, AIFB, CSL, EXP, DrugBank, etc.).

• Concisión del Código: Los programas de RelaNN fueron aproximadamente 4 veces más cortos que las implementaciones de referencia. Por ejemplo, una implementación de Red de Homomorfismo Profundo (DHN) requirió 76 líneas en RelaNN frente a 259 líneas en la referencia.
• Precisión: RelaNN reprodujo la precisión de referencia para GCN y HGT. Para otros modelos (R-GCN, HyGNN, DHN), los resultados estuvieron dentro de una desviación estándar de las referencias o coincidieron exactamente (por ejemplo, 100% de precisión en el conjunto de datos CSL para DHN).
• Tiempo de Ejecución:
  • Para GCN y HGT, el tiempo de ejecución de RelaNN estuvo dentro de un factor de 2 de la referencia.
  • Para DHN, RelaNN fue de 2 a 14 veces más rápido que la referencia, atribuido a la eficiencia de la compilación declarativa y la evitación de código de tensores personalizado complejo.
  • Para R-GCN en el conjunto de datos AIFB, RelaNN fue aproximadamente 30 veces más lento que la referencia altamente optimizada torch-rgcn. Los autores atribuyen esto a que la implementación actual es un concepto de prueba no optimizado y a la naturaleza especializada de la referencia.

Significado y Afirmaciones

El artículo afirma que RelaNN proporciona una base declarativa para el aprendizaje profundo relacional, demostrando que es posible diseñar y entrenar redes neuronales de última generación directamente sobre bases de datos relacionales sin representaciones de grafos intermedias.

• Simplicidad: El sistema hace que la implementación de arquitecturas complejas sea tan simple como escribir una consulta, eliminando la sobrecarga de ingeniería de la traducción de datos y la construcción de grafos.
• Integración: Al tratar las incrustaciones como ciudadanos de primera clase dentro del modelo relacional, el enfoque fusiona naturalmente el razonamiento lógico con el razonamiento numérico.
• Potencial Futuro: Si bien la implementación actual es un prototipo, los autores argumentan que representa un "camino concreto" hacia hacer el aprendizaje profundo sobre bases de datos tan accesible como la consulta estándar. Identifican trabajo futuro en la escalabilidad a conjuntos de datos más grandes que la memoria de la GPU (mediante muestreo y transmisión) y en la optimización de la ejecución de consultas (empujando transformaciones hacia abajo, fusionando núcleos) para cerrar la brecha de rendimiento con bibliotecas especializadas.

Los autores declaran explícitamente que su trabajo no afirma reemplazar los sistemas empresariales, sino demostrar la viabilidad y simplicidad de un enfoque unificado, allanando el camino para futuras optimizaciones y la implementación potencial de modelos fundamentales relacionales.