🤖 machine learning

Incorporating Deep Learning Design in Database Queries

Ce papier propose RelaNN, une approche novatrice qui intègre l'apprentissage profond directement dans les requêtes de base de données en associant des tuples à des embeddings vectoriels apprenables, éliminant ainsi la surcharge d'ingénierie des frameworks d'apprentissage automatique externes et permettant la mise en œuvre déclarative de modèles complexes d'apprentissage de graphes avec des performances compétitives.

Auteurs originaux : Yuval Lev Lubarsky, Dean Light, Boaz Berger, Shunit Agmon, Benny Kimelfeld

Publié 2026-05-26

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Yuval Lev Lubarsky, Dean Light, Boaz Berger, Shunit Agmon, Benny Kimelfeld

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous possédiez une immense bibliothèque d'informations organisée (une base de données) où les livres sont rangés dans des sections spécifiques, et que vous souhaitiez enseigner à un robot (IA) à comprendre les histoires qu'ils contiennent.

Actuellement, la méthode standard pour y parvenir ressemble à une course de relais maladroite. Vous devez :

Sortir tous les livres de la bibliothèque.
Réécrire manuellement ces livres en une gigantesque et désordonnée carte de connexions (un graphe).
Nourrir cette carte au robot.
Attendre que le robot apprenne.
Prendre les réponses du robot, les retranscrire en format livre, et les remettre sur les étagères.

Ce processus est lent, nécessite beaucoup de travail supplémentaire et est sujet aux erreurs.

La Grande Idée de l'Article : "RelaNN"
Les auteurs de cet article proposent un nouveau système appelé RelaNN. Au lieu de déplacer les données hors de la bibliothèque, ils souhaitent enseigner à la bibliothèque elle-même comment penser comme un robot.

Pensez-y ainsi :

L'Ancienne Méthode : Vous sortez une fiche de bibliothèque (un enregistrement de base de données), vous dessinez son portrait, et vous envoyez ce portrait à un artiste.
La Nouvelle Méthode (RelaNN) : Vous attribuez à chaque fiche de bibliothèque une « étiquette intelligente » (un embedding). Cette étiquette est un code spécial qui contient une signification secrète. Lorsque vous posez une question à la bibliothèque (une requête), celle-ci ne se contente pas de lire le texte ; elle examine les étiquettes intelligentes, les combine, et déduit la réponse à l'intérieur même de la bibliothèque.

Comment Cela Fonctionne (Les Métaphores)

1. L'« Étiquette Intelligente » (Embedding)
Autrefois, un enregistrement de base de données n'était qu'une liste de faits (par exemple, « Conducteur : Lewis, Équipe : Mercedes »). Dans RelaNN, chaque enregistrement se voit attribuer une « étiquette intelligente » cachée et invisible. Cette étiquette est une liste de nombres que le système apprend à ajuster.

Analogie : Imaginez que chaque livre de la bibliothèque possède une bande magnétique cachée. La bibliothèque ne lit pas seulement le titre ; elle « sent » la bande magnétique pour comprendre comment le livre se rapporte aux autres.

2. La « Requête Magique » (Le Langage)
Les auteurs ont créé un nouveau langage qui ressemble à une requête de base de données standard (SQL), mais avec des superpouvoirs.

Analogie : Normalement, si vous demandez à un bibliothécaire : « Trouvez tous les livres de l'Auteur X », il vous remet simplement les livres. Avec RelaNN, vous pouvez demander : « Trouvez tous les livres de l'Auteur X, mais combinez leurs bandes magnétiques cachées pour voir lesquels sont les plus similaires à l'Auteur Y ». Le bibliothécaire effectue les calculs complexes pendant qu'il récupère les livres.

3. La « Chaîne de Montage » (Compilation)
Le système prend votre requête simple et la transforme en une chaîne de montage à grande vitesse qui s'exécute sur des puces informatiques puissantes (GPU).

Analogie : Vous écrivez une recette simple (« Mélangez les ingrédients A et B »). Le système construit automatiquement la cuisine, embauche les chefs et installe les fours pour cuisiner parfaitement, sans que vous ayez besoin de savoir comment construire une cuisine.

Ce Qu'ils Ont Réellement Construit et Testé

Les auteurs ont construit un prototype fonctionnel appelé RelaNN et l'ont testé pour voir s'il pouvait accomplir les mêmes tâches que les méthodes complexes et désordonnées de la « course de relais », mais avec moins d'effort.

Simplicité : Ils ont démontré qu'ils pouvaient construire des modèles d'IA complexes (comme ceux utilisés pour prédire les notes de films ou les interactions médicamenteuses) en utilisant seulement quelques lignes de code.
- Résultat : Un modèle d'IA complexe qui nécessite habituellement 200 lignes de code a été écrit en seulement 20 à 40 lignes grâce à leur système. C'est comme écrire un haïku au lieu d'un roman pour obtenir le même résultat.
Précision : Les modèles qu'ils ont construits étaient tout aussi intelligents que les modèles traditionnels. Ils ont obtenu les mêmes réponses correctes.
Vitesse :
- Pour certaines tâches, c'était à peu près aussi rapide que l'ancienne méthode.
- Pour des tâches très complexes (spécifiquement les « Réseaux d'Homomorphismes Profonds »), c'était 14 fois plus rapide car il n'avait pas à effectuer la danse maladroite de « sortir les données, les remettre dedans ».
- Note : Pour un type spécifique de tâche, c'était actuellement plus lent (environ 30 fois) car leur prototype n'est pas encore entièrement poli, mais les auteurs admettent qu'il s'agit d'une première version.

La Conclusion

L'article affirme que RelaNN prouve que vous n'avez pas besoin de quitter votre base de données pour réaliser une IA avancée. En attribuant aux enregistrements de base de données des « étiquettes intelligentes » et en vous permettant d'écrire des requêtes qui manipulent ces étiquettes, vous pouvez construire des modèles d'IA de pointe en utilisant les mêmes outils simples que ceux utilisés pour demander une liste de noms.

Cela transforme la base de données d'un simple placard de stockage passif en un partenaire actif et pensant, rendant le processus de « formation » de l'IA pour comprendre les relations aussi simple que l'écriture d'une question.

Résumé technique : Intégration de la conception d'apprentissage profond dans les requêtes de base de données

Énoncé du problème

L'intégration de l'apprentissage profond (DL) et des bases de données relationnelles a traditionnellement été entravée par une surcharge d'ingénierie de type « aller-retour ». Les approches conventionnelles nécessitent de traduire les données relationnelles en représentations de graphes (où les enregistrements deviennent des nœuds et les clés étrangères deviennent des arêtes), puis d'exporter ces données vers des frameworks d'apprentissage automatique externes (par exemple, PyTorch Geometric, DGL) pour entraîner des réseaux de neurones graphiques (GNN). Ce processus force les développeurs à travailler à travers des paradigmes disparates : utiliser des langages de requête déclaratifs pour la gestion des données et du code impératif pour la conception du modèle. De plus, les frameworks d'apprentissage automatique existants intégrés aux bases de données comblent souvent ces domaines en intégrant des types de tenseurs et des opérateurs d'algèbre linéaire directement dans le moteur de requête, obligeant les utilisateurs à maintenir explicitement la connexion entre les données logiques et les représentations vectorielles. Les auteurs soutiennent que cette séparation est artificielle et que la spécification d'un réseau de neurones sur des données relationnelles devrait être aussi naturelle que l'interrogation des données elles-mêmes.

Méthodologie : Algèbre neuro-relationnelle (NRA) et RelaNN

L'article propose RelaNN, un système de preuve de concept qui intègre l'apprentissage profond directement dans les requêtes de base de données en étendant le modèle relationnel. La méthodologie centrale repose sur l'Algèbre neuro-relationnelle (NRA), un cadre formel qui associe chaque tuple de base de données à un vecteur d'incorporation (embedding) apprenable.

1. Modèle de données neuro-relationnel (NRM)

Le modèle de données étend le modèle relationnel classique en définissant une relation incorporée $(r, \eta)$ , où $r$ est la relation de contenu standard et $\eta$ est une annotation mappant chaque tuple vers une incorporation dans $\mathbb{R}^d$ . Cela permet au système d'opérer simultanément sur le domaine logique (contenu) et le domaine numérique (incorporations).

2. Opérateurs neuro-relationnels

La NRA étend l'algèbre relationnelle standard avec des opérateurs qui manipulent à la fois le contenu et les incorporations :

Jointure ( $\bowtie$ ) : Effectue une jointure naturelle standard sur le contenu. Pour les incorporations, elle concatène les incorporations des tuples contributifs des relations d'entrée.
Union projetée ( $\cup_{\alpha, A}$ ) : Un opérateur unifié combinant la projection et l'union. Il projette les tuples sur une séquence d'attributs commune et agrège les incorporations des tuples ayant un contenu identique à l'aide d'un agrégateur de multi-ensembles $\alpha$ (par exemple, somme, moyenne, maximum). Cela gère l'agrégation des incorporations requise lorsque plusieurs tuples d'entrée correspondent au même tuple de sortie.
Transformation ( $T_\tau$ ) : Applique une transformation différentiable $\tau$ (par exemple, un réseau feed-forward, ReLU, ou une couche linéaire) aux incorporations d'une relation. C'est le mécanisme principal pour introduire des paramètres apprenables.
Sélection, Différence, Renommage : Ces opérateurs transmettent les incorporations inchangées, de manière similaire à l'algèbre classique.

3. Le langage RelaNN

RelaNN est un langage déclaratif construit sur la NRA. Les programmes se composent d'instructions de règles définissant comment dériver de nouvelles relations incorporées :

Règles de jointure : Combinent des relations via des jointures, appliquent une transformation aux incorporations concaténées, et agrègent via une union projetée.
Règles d'union : Unifient des relations ayant des schémas identiques, filtrent et transforment les incorporations.
Instructions Fit : Une construction de langage (?fit) qui minimise une fonction de perte définie sur une relation de sortie, mettant à jour l'affectation globale des paramètres (incluant à la fois les incorporations de tuples et les poids de transformation).
Instructions Predict : Évaluent le programme avec les paramètres actuels pour matérialiser les résultats.
Extensions : Le langage prend en charge les alias pour le partage de paramètres, les définitions de fonctions pour la réutilisation de code, le codage/décodage pour déplacer des données entre les colonnes de contenu et les incorporations, et les modèles pour générer des règles répétitives (par exemple, pour l'attention multi-têtes).

4. Pipeline d'implémentation

RelaNN compile un programme en un Graphe de termes (un DAG d'opérateurs NRA). Lors de l'exécution, ce graphe est traduit en un Plan physique qui s'exécute via SQL, cuDF et PyTorch :

Chargement des données : Les requêtes SQL récupèrent le contenu depuis la base de données.
Jointure/Sélection : Implémentées via des opérations de DataFrame cuDF (merge, index_select) qui émettent des tenseurs d'index de ligne.
Manipulation des incorporations : Les opérations PyTorch (par exemple, torch.index_select, scatter_add) récupèrent et agrègent les incorporations basées sur les index de contenu, maintenant une différentiabilité complète pour un entraînement de bout en bout.
Transformation : Des couches personnalisées nn.Module sont appliquées directement via PyTorch.

Contributions clés

Cadre formel (NRA) : L'introduction de l'Algèbre neuro-relationnelle, qui unifie le traitement des requêtes relationnelles et la conception de modèles neuronaux en étendant le modèle relationnel avec des incorporations de tuples apprenables.
Système déclaratif (RelaNN) : Un système open-source permettant aux utilisateurs d'implémenter des architectures d'apprentissage de graphes de pointe en utilisant des constructions familières de type SQL/Datalog.
Expressivité : Capacité démontrée à exprimer des architectures complexes incluant les réseaux de convolution graphique (GCN), les GCN relationnels (R-GCN), les transformateurs de graphes hétérogènes (HGT), les réseaux de neurones d'hypergraphes (HyGNN) et les réseaux d'homomorphisme profonds (DHN) avec significativement moins de lignes de code que les bases de référence impératives.
Performance : Une implémentation de preuve de concept qui atteint une précision prédictive et des performances d'exécution compétitives par rapport à des bibliothèques spécialisées comme PyTorch Geometric.

Résultats expérimentaux

Les auteurs ont évalué RelaNN par rapport à des implémentations de référence (PyTorch, PyG) sur cinq architectures à travers plusieurs jeux de données (Cora, DBLP, AIFB, CSL, EXP, DrugBank, etc.).

Concision du code : Les programmes RelaNN étaient environ 4 fois plus courts que les implémentations de base. Par exemple, une implémentation d'un réseau d'homomorphisme profond (DHN) nécessitait 76 lignes en RelaNN contre 259 lignes dans la base de référence.
Précision : RelaNN a reproduit la précision de référence pour GCN et HGT. Pour les autres modèles (R-GCN, HyGNN, DHN), les résultats étaient à moins d'un écart-type des bases de référence ou les correspondaient exactement (par exemple, 100 % de précision sur le jeu de données CSL pour DHN).
Temps d'exécution :
- Pour GCN et HGT, le temps d'exécution de RelaNN était dans un facteur de 2 par rapport à la base de référence.
- Pour DHN, RelaNN était 2 à 14 fois plus rapide que la base de référence, attribué à l'efficacité de la compilation déclarative et à l'évitement de code de tenseur personnalisé complexe.
- Pour R-GCN sur le jeu de données AIFB, RelaNN était environ 30 fois plus lent que la base de référence hautement optimisée torch-rgcn. Les auteurs attribuent cela au fait que l'implémentation actuelle est une preuve de concept non optimisée et à la nature spécialisée de la base de référence.

Signification et revendications

L'article revendique que RelaNN fournit une fondation déclarative pour l'apprentissage profond relationnel, démontrant qu'il est possible de concevoir et d'entraîner des réseaux de neurones de pointe directement sur des bases de données relationnelles sans représentations de graphes intermédiaires.

Simplicité : Le système rend l'implémentation d'architectures complexes aussi simple que l'écriture d'une requête, éliminant la surcharge d'ingénierie de la traduction des données et de la construction de graphes.
Intégration : En traitant les incorporations comme des citoyens de première classe au sein du modèle relationnel, l'approche fusionne naturellement le raisonnement logique avec le raisonnement numérique.
Potentiel futur : Bien que l'implémentation actuelle soit un prototype, les auteurs soutiennent qu'elle représente une « voie concrète » pour rendre l'apprentissage profond sur bases de données aussi accessible que l'interrogation standard. Ils identifient des travaux futurs pour passer à l'échelle sur des jeux de données plus grands que la mémoire GPU (via l'échantillonnage et le flux) et optimiser l'exécution des requêtes (pousser les transformations vers le bas, fusionner les noyaux) afin de combler l'écart de performance avec les bibliothèques spécialisées.

Les auteurs déclarent explicitement que leur travail ne prétend pas remplacer les systèmes d'entreprise mais plutôt démontrer la faisabilité et la simplicité d'une approche unifiée, ouvrant la voie à des optimisations futures et à la mise en œuvre potentielle de modèles de fondation relationnels.