🤖 machine learning

Incorporating Deep Learning Design in Database Queries

Dieser Artikel stellt RelaNN vor, einen neuartigen Ansatz, der Deep Learning direkt in Datenbankabfragen integriert, indem Tupel mit lernbaren Vektor-Embeddings verknüpft werden, wodurch der Engineering-Aufwand externer ML-Frameworks entfällt und die deklarativen Implementierung komplexer Graph-Learning-Modelle mit wettbewerbsfähiger Leistung ermöglicht wird.

Ursprüngliche Autoren: Yuval Lev Lubarsky, Dean Light, Boaz Berger, Shunit Agmon, Benny Kimelfeld

Veröffentlicht 2026-05-26

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Yuval Lev Lubarsky, Dean Light, Boaz Berger, Shunit Agmon, Benny Kimelfeld

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich eine riesige, organisierte Informationsbibliothek (eine Datenbank) vor, in der Bücher in bestimmten Abschnitten gelagert sind, und Sie möchten einem Roboter (KI) beibringen, die Geschichten darin zu verstehen.

Derzeit ist der Standardweg dafür wie ein ungeschickter Staffellauf. Sie müssen:

Alle Bücher aus der Bibliothek holen.
Sie manuell in eine riesige, unübersichtliche Karte von Verbindungen (einen Graphen) umschreiben.
Diese Karte dem Roboter zuführen.
Darauf warten, dass der Roboter lernt.
Die Antworten des Roboters zurück in Buchformat übersetzen und wieder in die Regale stellen.

Dieser Prozess ist langsam, erfordert viel zusätzlichen Aufwand und ist fehleranfällig.

Die große Idee des Papiers: „RelaNN"
Die Autoren dieses Papiers schlagen ein neues System namens RelaNN vor. Anstatt die Daten aus der Bibliothek zu bewegen, wollen sie der Bibliothek selbst beibringen, wie ein Roboter zu denken.

Stellen Sie es sich so vor:

Der alte Weg: Sie nehmen eine Bibliothekskarte (ein Datenbankdatensatz) heraus, zeichnen ein Bild davon und senden das Bild an einen Künstler.
Der neue Weg (RelaNN): Sie geben jeder Bibliothekskarte ein „intelligentes Etikett" (ein Embedding). Dieses Etikett ist ein spezieller Code, der eine geheime Bedeutung trägt. Wenn Sie der Bibliothek eine Frage stellen (eine Abfrage), schaut die Bibliothek nicht nur auf den Text; sie betrachtet die intelligenten Etiketten, kombiniert sie und findet die Antwort innerhalb der Bibliothek.

Wie es funktioniert (Die Metaphern)

1. Das „intelligente Etikett" (Embedding)
In den alten Tagen war ein Datenbankdatensatz nur eine Liste von Fakten (z. B. „Fahrer: Lewis, Team: Mercedes"). In RelaNN erhält jeder Datensatz ein verstecktes, unsichtbares „intelligentes Etikett", das ihm angehängt wird. Dieses Etikett ist eine Liste von Zahlen, die das System lernt anzupassen.

Analogie: Stellen Sie sich vor, jedes Buch in der Bibliothek hat einen versteckten Magnetstreifen. Die Bibliothek liest nicht nur den Titel; sie fühlt den Magnetstreifen, um zu verstehen, wie das Buch mit anderen zusammenhängt.

2. Die „magische Abfrage" (Die Sprache)
Die Autoren haben eine neue Sprache entwickelt, die wie eine Standard-Datenbankabfrage (SQL) aussieht, aber mit Superkräften.

Analogie: Normalerweise, wenn Sie einen Bibliothekar fragen: „Finden Sie alle Bücher von Autor X", gibt er Ihnen einfach die Bücher. Mit RelaNN können Sie fragen: „Finden Sie alle Bücher von Autor X, aber kombinieren Sie ihre versteckten Magnetstreifen, um zu sehen, welche am ähnlichsten zu Autor Y sind." Der Bibliothekar führt die komplexe Mathematik während er die Bücher holt.

3. Das „Fließband" (Kompilierung)
Das System nimmt Ihre einfache Abfrage und verwandelt sie in eine Hochgeschwindigkeits-Fließbandanlage, die auf leistungsstarken Computerchips (GPUs) läuft.

Analogie: Sie schreiben ein einfaches Rezept („Mischen Sie Zutaten A und B"). Das System baut automatisch die Küche, stellt die Köche ein und richtet die Öfen ein, um es perfekt zu kochen, ohne dass Sie wissen müssen, wie man eine Küche baut.

Was sie tatsächlich gebaut und getestet haben

Die Autoren haben einen funktionierenden Prototyp namens RelaNN gebaut und getestet, um zu sehen, ob er dieselben Aufgaben wie die komplexen, unordentlichen „Staffellauf"-Methoden erledigen kann, aber mit weniger Aufwand.

Einfachheit: Sie zeigten, dass sie komplexe KI-Modelle (wie diejenigen, die zur Vorhersage von Filmbewertungen oder Arzneimittelwechselwirkungen verwendet werden) mit nur wenigen Zeilen Code erstellen konnten.
- Ergebnis: Ein komplexes KI-Modell, das normalerweise 200 Codezeilen zum Schreiben benötigt, wurde mit ihrem System in nur 20–40 Zeilen geschrieben. Es ist wie das Schreiben eines Haikus statt eines Romans, um dasselbe Ergebnis zu erzielen.
Genauigkeit: Die von ihnen gebauten Modelle waren genauso intelligent wie die traditionellen. Sie erhielten dieselben korrekten Antworten.
Geschwindigkeit:
- Bei einigen Aufgaben war es etwa so schnell wie der alte Weg.
- Bei sehr komplexen Aufgaben (speziell „Deep Homomorphism Networks") war es 14-mal schneller, weil es nicht den ungeschickten Tanz „Daten herausholen, wieder hineinstellen" durchführen musste.
- Hinweis: Bei einer bestimmten Art von Aufgabe war es derzeit langsamer (etwa 30-mal), da ihr Prototyp noch nicht vollständig ausgereift ist, aber die Autoren geben zu, dass dies nur eine erste Version ist.

Das Fazit

Das Papier behauptet, dass RelaNN beweist, dass Sie Ihre Datenbank nicht verlassen müssen, um fortschrittliche KI zu betreiben. Indem Sie Datenbankdatensätzen „intelligente Etiketten" geben und Abfragen schreiben lassen, die diese Etiketten manipulieren, können Sie modernste KI-Modelle mit denselben einfachen Tools erstellen, die Sie verwenden, um eine Liste von Namen anzufordern.

Es verwandelt die Datenbank von einem passiven Abstellraum in einen aktiven, denkenden Partner und macht den Prozess des „Beibringens" an die KI, Beziehungen zu verstehen, so einfach wie das Schreiben einer Frage.

Technische Zusammenfassung: Einbeziehung von Deep-Learning-Design in Datenbankabfragen

Problemstellung

Die Integration von Deep Learning (DL) und relationalen Datenbanken wurde traditionell durch einen „Round-Trip"-Engineering-Aufwand behindert. Konventionelle Ansätze erfordern die Übersetzung relationaler Daten in Graphenrepräsentationen (wobei Datensätze zu Knoten und Fremdschlüssel zu Kanten werden) und den anschließenden Export dieser Daten in externe Machine-Learning-Frameworks (z. B. PyTorch Geometric, DGL), um Graph Neural Networks (GNNs) zu trainieren. Dieser Prozess zwingt Entwickler, in unterschiedlichen Paradigmen zu arbeiten: deklarative Abfragesprachen für das Datenmanagement und imperativen Code für das Modelldesign. Darüber hinaus überbrücken bestehende ML-Frameworks innerhalb der Datenbank diese Domänen oft, indem sie Tensor-Typen und lineare Algebra-Operatoren direkt in die Abfrage-Engine integrieren, was von den Benutzern erfordert, die Verbindung zwischen logischen Daten und Vektorrepräsentationen explizit aufrechtzuerhalten. Die Autoren argumentieren, dass diese Trennung künstlich ist und dass die Spezifikation eines neuronalen Netzes über relationalen Daten so natürlich sein sollte wie das Abfragen der Daten selbst.

Methodik: Neuro-relationale Algebra (NRA) und RelaNN

Die Arbeit schlägt RelaNN vor, ein Proof-of-Concept-System, das Deep Learning direkt in Datenbankabfragen integriert, indem es das relationale Modell erweitert. Die Kernmethodik basiert auf der Neuro-relationalen Algebra (NRA), einem formalen Rahmenwerk, das jedem Datenbank-Tupel eine lernbare Vektoreinbettung zuordnet.

1. Neuro-relationales Datenmodell (NRM)

Das Datenmodell erweitert das klassische relationale Modell durch die Definition einer eingebetteten Relation $(r, \eta)$ , wobei $r$ die Standard-Inhaltsrelation ist und $\eta$ eine Annotation, die jedes Tupel auf eine Einbettung in $\mathbb{R}^d$ abbildet. Dies ermöglicht dem System, gleichzeitig im logischen Bereich (Inhalt) und im numerischen Bereich (Einbettungen) zu operieren.

2. Neuro-relationale Operatoren

NRA erweitert die Standard-relationale Algebra um Operatoren, die sowohl Inhalte als auch Einbettungen manipulieren:

Join ( $\bowtie$ ): Führt einen Standard-Natural-Join auf den Inhalten durch. Für Einbettungen werden die Einbettungen der beitragenden Tupel aus den Eingangsrelationen konkateniert.
Projizierte Vereinigung ( $\cup_{\alpha, A}$ ): Ein vereinheitlichter Operator, der Projektion und Vereinigung kombiniert. Er projiziert Tupel auf eine gemeinsame Attributsequenz und aggregiert die Einbettungen von Tupeln mit identischem Inhalt unter Verwendung eines Multiset-Aggregators $\alpha$ (z. B. Summe, Mittelwert, Maximum). Dies behandelt die Aggregation von Einbettungen, die erforderlich ist, wenn mehrere Eingabetupel auf dasselbe Ausgabetupel abbilden.
Transformation ( $T_\tau$ ): Wendet eine differenzierbare Transformation $\tau$ (z. B. ein Feed-Forward-Netzwerk, ReLU oder eine lineare Schicht) auf die Einbettungen einer Relation an. Dies ist der primäre Mechanismus zur Einführung lernbarer Parameter.
Selektion, Differenz, Umbenennung: Diese Operatoren leiten Einbettungen unverändert weiter, ähnlich wie bei der klassischen Algebra.

3. Die RelaNN-Sprache

RelaNN ist eine deklarative Sprache, die auf NRA aufbaut. Programme bestehen aus Regelanweisungen, die definieren, wie neue eingebettete Relationen abgeleitet werden:

Join-Regeln: Kombinieren Relationen über Joins, wenden eine Transformation auf die konkatenierten Einbettungen an und aggregieren über eine projizierte Vereinigung.
Vereinigungsregeln: Vereinigen Relationen mit identischen Schemata, filtern und transformieren Einbettungen.
Fit-Anweisungen: Eine Sprachkonstruktion (?fit), die eine über einer Ausgaberelation definierte Verlustfunktion minimiert und die globale Parameterzuweisung aktualisiert (einschließlich sowohl Tupel-Einbettungen als auch Transformationsgewichte).
Predict-Anweisungen: Evaluieren das Programm mit aktuellen Parametern, um Ergebnisse zu materialisieren.
Erweiterungen: Die Sprache unterstützt Aliase zur Parameterfreigabe, Funktionsdefinitionen zur Code-Wiederverwendung, Kodierung/Dekodierung zum Verschieben von Daten zwischen Inhaltskolonnen und Einbettungen sowie Vorlagen zur Generierung wiederholter Regeln (z. B. für Multi-Head-Attention).

4. Implementierungspipeline

RelaNN kompiliert ein Programm in einen Term-Graphen (einen DAG von NRA-Operatoren). Bei der Ausführung wird dieser Graph in einen Physischen Plan übersetzt, der über SQL, cuDF und PyTorch läuft:

Datenladung: SQL-Abfragen holen Inhalte aus der Datenbank.
Join/Selektion: Wird über cuDF DataFrame-Operationen (merge, index_select) implementiert, die Zeilenindex-Tensoren ausgeben.
Einbettungsmanipulation: PyTorch-Operationen (z. B. torch.index_select, scatter_add) holen und aggregieren Einbettungen basierend auf den Inhaltsindizes und erhalten die volle Differenzierbarkeit für das End-to-End-Training.
Transformation: Benutzerdefinierte nn.Module-Schichten werden direkt über PyTorch angewendet.

Hauptbeiträge

Formales Rahmenwerk (NRA): Die Einführung der Neuro-relationalen Algebra, die die relationale Abfrageverarbeitung und das Design neuronaler Modelle vereinheitlicht, indem das relationale Modell um lernbare Tupel-Einbettungen erweitert wird.
Deklaratives System (RelaNN): Ein Open-Source-System, das Benutzern ermöglicht, state-of-the-art Graph-Learning-Architekturen mit vertrauten SQL/Datalog-ähnlichen Konstrukten zu implementieren.
Ausdrucksstärke: Gezeigte Fähigkeit, komplexe Architekturen einschließlich Graph Convolutional Networks (GCN), Relational GCN (R-GCN), Heterogeneous Graph Transformers (HGT), Hypergraph Neural Networks (HyGNN) und Deep Homomorphism Networks (DHN) mit deutlich weniger Codezeilen als imperative Baselines auszudrücken.
Leistung: Eine Proof-of-Concept-Implementierung, die eine wettbewerbsfähige Vorhersagegenauigkeit und Laufzeitleistung im Vergleich zu spezialisierten Bibliotheken wie PyTorch Geometric erzielt.

Experimentelle Ergebnisse

Die Autoren bewerteten RelaNN gegen Referenzimplementierungen (PyTorch, PyG) an fünf Architekturen über mehrere Datensätze hinweg (Cora, DBLP, AIFB, CSL, EXP, DrugBank usw.).

Code-Kompaktheit: RelaNN-Programme waren etwa 4-mal kürzer als Baseline-Implementierungen. Beispielsweise erforderte eine Deep Homomorphism Network (DHN)-Implementierung 76 Zeilen in RelaNN gegenüber 259 Zeilen in der Baseline.
Genauigkeit: RelaNN reproduzierte die Referenzgenauigkeit für GCN und HGT. Für andere Modelle (R-GCN, HyGNN, DHN) lagen die Ergebnisse innerhalb einer Standardabweichung der Baselines oder entsprachen ihnen exakt (z. B. 100 % Genauigkeit auf dem CSL-Datensatz für DHN).
Laufzeit:
- Für GCN und HGT lag die RelaNN-Laufzeit innerhalb eines Faktors von 2 der Baseline.
- Für DHN war RelaNN 2- bis 14-mal schneller als die Baseline, was auf die Effizienz der deklarativen Kompilierung und die Vermeidung komplexen benutzerdefinierten Tensor-Codes zurückzuführen ist.
- Für R-GCN auf dem AIFB-Datensatz war RelaNN etwa 30-mal langsamer als die hochoptimierte torch-rgcn-Baseline. Die Autoren führen dies darauf zurück, dass die aktuelle Implementierung ein unoptimiertes Proof-of-Concept ist und die Baseline spezialisiert ist.

Bedeutung und Behauptungen

Die Arbeit behauptet, dass RelaNN eine deklarative Grundlage für relationales Deep Learning bietet und zeigt, dass es möglich ist, state-of-the-art neuronale Netze direkt über relationalen Datenbanken ohne intermediäre Graphenrepräsentationen zu entwerfen und zu trainieren.

Einfachheit: Das System macht die Implementierung komplexer Architekturen so einfach wie das Schreiben einer Abfrage und beseitigt den Engineering-Aufwand für Datenübersetzung und Graphenkonstruktion.
Integration: Indem Einbettungen als Bürger ersten Ranges innerhalb des relationalen Modells behandelt werden, verschmilzt der Ansatz logisches Schlussfolgern natürlich mit numerischem Schlussfolgern.
Zukunftspotenzial: Obwohl die aktuelle Implementierung ein Prototyp ist, argumentieren die Autoren, dass sie einen „konkreten Weg" darstellt, um Deep Learning über Datenbanken so zugänglich zu machen wie das Standard-Abfragen. Sie identifizieren zukünftige Arbeiten in der Skalierung auf Datensätze, die größer als der GPU-Speicher sind (durch Sampling und Streaming), sowie in der Optimierung der Abfrageausführung (Push-Down von Transformationen, Fusion von Kernen), um die Leistungslücke zu spezialisierten Bibliotheken zu schließen.

Die Autoren stellen ausdrücklich fest, dass ihre Arbeit nicht behauptet, Unternehmenssysteme zu ersetzen, sondern vielmehr die Machbarkeit und Einfachheit eines einheitlichen Ansatzes demonstriert, den Weg für zukünftige Optimierungen und die potenzielle Implementierung relationaler Foundation-Modelle ebnet.