🤖 machine learning

DeepLog: A Software Framework for Modular Neurosymbolic AI

DeepLog ist ein modulares neurosymbolisches KI-Framework, das auf PyTorch aufbaut und diverse Logik- und Deep-Learning-Paradigmen vereint, indem es hochrangige Spezifikationen automatisch in optimierte arithmetische Schaltkreise kompiliert, wodurch die Einstiegshürde für Praktiker gesenkt und eine gemeinsame Backend-Plattform für die Entwicklung neuer Integrationsstrategien bereitgestellt wird.

Ursprüngliche Autoren: Robin Manhaeve, Stefano Colamonaco, Vincent Derkinderen, Rik Adriaensen, Lucas Van Praet, Luc De Raedt, Giuseppe Marra

Veröffentlicht 2026-05-12

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Robin Manhaeve, Stefano Colamonaco, Vincent Derkinderen, Rik Adriaensen, Lucas Van Praet, Luc De Raedt, Giuseppe Marra

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich die Welt der Künstlichen Intelligenz als eine riesige Küche vor. Derzeit arbeiten zwei sehr unterschiedliche Gruppen von Köchen in separaten Räumen:

Die Deep-Learning-Köche: Sie sind Experten im Probieren und Raten. Sie nutzen riesige, komplexe Maschinen (neuronale Netze), um ein Bild einer Katze zu betrachten und zu sagen: „Ich bin zu 90 % sicher, dass das eine Katze ist." Sie sind hervorragend im Mustererkennen, verstehen aber die Regeln eigentlich nicht wirklich.
Die Symbolisch-Logischen Köche: Sie sind Experten im Befolgen strenger Rezepte und Regeln. Sie wissen: „Wenn es Schnurrhaare hat und miaut, ist es eine Katze." Sie sind hervorragend im Schlussfolgern, aber schrecklich im Raten, wenn die Daten unordentlich oder unklar sind.

Lange Zeit versuchten diese beiden Gruppen, zusammenzuarbeiten, doch sie sprachen unterschiedliche Sprachen und nutzten unterschiedliche Werkzeuge. Das Ergebnis war eine chaotische „Alphabet-Suppe" verschiedener Frameworks, bei der jedes neue Projekt seine eigene Küche von Grund auf neu bauen musste. Es war schwierig, sie zu vergleichen, und sie passten oft nicht gut zusammen.

Hier kommt DeepLog ins Spiel: Der universelle Küchenadapter

Die Arbeit stellt DeepLog vor, das wie ein universeller Adapter oder ein „Meisterübersetzer" für diese Küche fungiert. Sein Ziel ist es, den Deep-Learning-Köchen und den symbolisch-logischen Köchen eine nahtlose Zusammenarbeit zu ermöglichen, ohne sie zu zwingen, ihre Lieblingswerkzeuge aufzugeben.

So funktioniert DeepLog, unter Verwendung einfacher Analogien:

1. Die „Plug-and-Play"-Module

Stellen Sie sich Deep-Learning-Modelle wie vorgefertigte Haushaltsgeräte vor (wie ein Toaster oder ein Mixer). In der Vergangenheit musste man, wenn man eine Logikregel zu einem Toaster hinzufügen wollte, den Toaster komplett neu bauen.

DeepLog führt DeepLogModules ein. Diese sind wie intelligente Adapter, die man an jedes Gerät anklicken kann. Sie verändern nicht, wie das Gerät funktioniert, sondern fügen ein „Etikett" hinzu, das besagt: „Dieser Ausgang ist eine Wahrscheinlichkeit" oder „Dieser Eingang muss einer bestimmten Regel folgen." Aufgrund dieser Etiketten kann das System verschiedene Geräte automatisch miteinander verbinden. Wenn Sie einen „Katzen-Detektor" in eine „Logikregel" einstecken, baut DeepLog automatisch die notwendige Verkabelung, damit sie miteinander kommunizieren können.

2. Der „universelle Übersetzer" (Die Alphabet-Suppe)

Die Arbeit erwähnt, dass es Dutzende verschiedener Wege gibt, wie Menschen versuchen, Logik und KI zu kombinieren (die „Alphabet-Suppe"). Manche verwenden unscharfe Mathematik, andere Wahrscheinlichkeiten, wieder andere strenge Wahr/Falsch-Logik.

DeepLog behandelt all diese verschiedenen Sprachen einfach als hochrangige Anweisungen. Es ist wie ein Übersetzer, der einen Chef kocht, der Französisch spricht (DeepProbLog), einen anderen, der Spanisch spricht (LTN), und einen dritten, der Deutsch spricht (NeurASP). DeepLog übersetzt alle von ihnen in denselben zugrunde liegenden „Rezept" (eine optimierte arithmetische Schaltung), den der Computer tatsächlich zubereiten kann. Das bedeutet, dass Forscher eine Logikart gegen eine andere austauschen können, indem sie einfach eine Einstellung ändern, ohne ihr gesamtes Programm neu schreiben zu müssen.

3. Die „High-Speed-Schnellspur" (GPU-Beschleunigung)

Normalerweise läuft, wenn diese beiden KI-Typen zusammenarbeiten, der „Logik"-Teil auf einem langsamen, altmodischen Prozessor (der CPU), während der „Rat"-Teil auf einer superschnellen Grafikkarte (der GPU) läuft. Das ist wie ein Ferrari (das neuronale Netz), der im Verkehr hinter einem Traktor (dem Logiklöser) stecken bleibt. Jedes Mal, wenn sie Daten hin und her übergeben müssen, muss der Ferrari anhalten, was zu einer enormen Verlangsamung führt.

DeepLog verlagert alles auf die schnelle GPU. Es verwandelt die Logikregeln in eine Hochgeschwindigkeitsschaltung, die direkt neben dem neuronalen Netz läuft. Die Arbeit zeigt, dass dies das System erheblich schneller macht – manchmal um das Hundertfache schneller – als frühere Methoden.

4. Die „Fabrik" für neue Ideen

Für die Entwickler, die diese Systeme bauen, fungiert DeepLog wie eine Lego-Fabrik. Anstatt jedes Mal, wenn sie eine neue Idee testen wollen, ein neues Haus aus rohem Lehm zu bauen, können sie vorgefertigte Steine (Primitiva) verwenden, um neue Kombinationen aus Logik und Lernen zusammenzuschnappen.

Wenn beispielsweise ein Forscher eine neue Art von „unscharfer Logik" testen möchte (bei der Dinge „ein bisschen wahr" sein können), kann er einfach den „unscharfen Logik-Stein" in seiner Fabrikeinrichtung austauschen. Der Rest des Systems bleibt gleich. Dies erleichtert das Experimentieren und den schnellen Vergleich verschiedener Ideen erheblich.

Zusammenfassung

Kurz gesagt ist DeepLog ein Software-Framework, das:

Die chaotische „Alphabet-Suppe" verschiedener KI-Logiksysteme in eine Standardsprache vereinheitlicht.
Die Verbindung zwischen neuronalen Netzen und Logikregeln automatisiert, sodass Entwickler keinen unordentlichen „Kleber-Code" schreiben müssen.
Die Geschwindigkeit erhöht, indem alles auf leistungsstarken GPUs statt auf langsamen CPUs ausgeführt wird.
Das Leben sowohl für die Nutzer dieser Tools (indem sie Logik in Standard-KI-Workflows einstecken können) als auch für die Entwickler neuer Tools (indem sie eine gemeinsame, hochleistungsfähige Grundlage erhalten) erleichtert.

Die Arbeit behauptet, dies ermögliche es Forschern, das Rad nicht ständig neu zu erfinden, sondern sich auf die Lösung tatsächlicher Probleme zu konzentrieren, während der gesamte Prozess schneller und zuverlässiger wird.

Technisches Fazit: DeepLog – Ein Software-Framework für modulare neurosymbolische KI

Problemstellung
Die aktuelle Landschaft der Neurosymbolischen KI (NeSy) wird als „alphabet soup" (ein undurchdringliches Durcheinander) entkoppelter Paradigmen und Frameworks charakterisiert. Bestehende Systeme konzentrieren sich typischerweise auf spezifische semantische Interpretationen (z. B. fuzzy vs. probabilistisch), Integrationsstrategien (z. B. verlustbasierte Regularisierung vs. architektonische Einbettung) oder symbolische Front-Ends (z. B. Prädikatenlogik erster Stufe vs. Logikprogrammierung). Diese Unterschiede werden oft als fundamental und nicht als alternative Ausprägungen behandelt, was zu nicht interoperablen Frameworks führt. Folglich fehlt es an softwaretechnischen Werkzeugen, die paradigmübergreifend funktionieren, was einen systematischen Vergleich und kumulativen Fortschritt behindert. Darüber hinaus setzen die meisten bestehenden NeSy-Systeme monolithische Designs ein, die Standard-Workflows des maschinellen Lernens ersetzen, und ihre symbolischen Komponenten werden häufig auf der CPU implementiert. Dies erzeugt Leistungsengpässe durch Datenübertragungs- und Synchronisationsprobleme mit GPU-beschleunigten neuronalen Modulen.

Methodik
DeepLog adressiert diese Herausforderungen, indem es als operatives neurosymbolisches Framework fungiert, das Logik und Deep Learning innerhalb standardmäßiger PyTorch-Workflows vereint. Es basiert auf der DeepLog-Abstrakten Neurosymbolischen Maschine, die als semantische Zwischenrepräsentation dient und symbolische Front-End-Sprachen von Backend-Ausführungsstrategien trennt.

Die Methodik stützt sich auf drei Kernmechanismen:

Symbolisch annotierte Module: DeepLog erweitert Standard-PyTorch-Module zu DeepLogModules. Diese Module werden um symbolische Annotationen ihrer Eingaben und Ausgaben erweitert, die als SymTensors dargestellt werden (n-dimensionale Tensoren, die mit symbolischen Ausdrücken verknüpft sind). Diese Annotationen spezifizieren die semantische Rolle jedes Tensors (z. B. Boolean, Wahrscheinlichkeit, Fuzzy-Score) und ermöglichen die automatische Komposition, Validierung und Transformation heterogener Komponenten.
Modulare Komposition und Kompilierung: Das Framework behandelt Logik als komponierbare Module. Es unterstützt sequenzielle Komposition (analog zu torch.nn.Sequential) und automatische Verkabelung von gerichteten azyklischen Graphen basierend auf symbolischen Abhängigkeiten. Eine compilerartige Fabrik übersetzt automatisch hochrangige Spezifikationen (ausgedrückt in der DeepLog-Sprache) in optimierte arithmetische Schaltkreise. Dies ermöglicht es Benutzern, einfach durch Wechseln des zugrunde liegenden Logik-Trakts in der DeepLog-Bibliothek zwischen Semantiken (z. B. probabilistische vs. fuzzy-Spuren) zu wechseln.
GPU-beschleunigte Ausführung: Im Gegensatz zu vielen Systemen, die symbolisches Schließen an die CPU auslagern, implementiert DeepLog sowohl neuronale als auch symbolische Komponenten auf der GPU. Es nutzt das KLay-Paket für eine effiziente Schaltkreisauswertung und verwendet spezialisierte Schaltkreis-Backends (z. B. Sentential Decision Diagrams), um strukturelle Eigenschaften wie Determinismus und Zerlegbarkeit durchzusetzen.

Hauptbeiträge
Der Artikel stellt die Implementierung von DeepLog mit folgenden spezifischen Beiträgen vor:

Universelles Backend: Es fungiert als universelles Backend, das in der Lage ist, eine breite Palette von Systemen in der neurosymbolischen „alphabet soup" zu emulieren, und ermöglicht die Rekonstruktion verschiedener Ansätze mit minimalem Codeaufwand.
GPU-Beschleunigung aus dem Stand: Es bietet Hochleistungs-Ausführung für sowohl neuronale als auch symbolische Komponenten und eliminiert den bei hybriden Systemen üblichen Engpass der Datenübertragung zwischen CPU und GPU.
Modularität: Es bietet automatische Modulkomposition und ermöglicht den Aufbau komplexer neurosymbolischer Modelle aus heterogenen Komponenten ohne fragilen Klebe-Code.
Integration: Es integriert sich nahtlos in moderne ML-Software (PyTorch) und ermöglicht Praktikern, symbolisches Schließen selektiv in bestehende Pipelines zu integrieren, ohne etablierte Workflows zu ersetzen.

Ergebnisse
Der Artikel liefert empirische Belege für die Leistungs Vorteile von DeepLog, insbesondere bei der MNIST-Addition-Aufgabe. Vergleichende Ergebnisse (Tabelle 1) zeigen, dass DeepLog mit GPU-Beschleunigung sowohl CPU-basiertes DeepLog als auch das Standard-DeepProbLog (DPL)-System signifikant übertrifft.

Für eine einzelne Abfrage mit 1 Ziffer erreichte DeepLog GPU eine Inferenzzeit von $5.62 \times 10^{-7}$ Sekunden, verglichen mit $1.09 \times 10^{-5}$ Sekunden für DeepLog CPU und $6.14 \times 10^{-3}$ Sekunden für DPL CPU.
Die Leistungslücke vergrößert sich mit zunehmender Komplexität; für 4 Ziffern behält DeepLog GPU eine Zeit von $5.40 \times 10^{-2}$ Sekunden bei, während DeepLog CPU auf $1.96 \times 10^{-1}$ Sekunden ansteigt und DPL CPU die Aufgabe innerhalb des angegebenen Zeitraums nicht abschließen kann.

Bedeutung und Behauptungen
Die Autoren behaupten, dass DeepLog als „universelles Backend" dient, das die Hürde für Praktiker des maschinellen Lernsenkt, indem es Logik als komponierbare Module in vertrauten PyTorch-Umgebungen behandelt. Gleichzeitig bietet es neurosymbolischen Entwicklern eine gemeinsame, hochperformante Basis für die Prototypenentwicklung neuer Integrationsstrategien. Durch die Konsolidierung wesentlicher Komponenten bestehender Ansätze und das Angebot von Primitiven für neue Designs zielt DeepLog darauf ab, den Vergleich verschiedener Paradigmen zu erleichtern und kumulativen Fortschritt auf dem Gebiet zu beschleunigen. Das Framework ist so konzipiert, dass es nicht-invasiv ist und sowohl die leichte Integration symbolischer Constraints als auch die Entwicklung neuer Sprachen und Inferenzparadigmen auf einer einheitlichen Architektur unterstützt.

Zukünftige Arbeiten
Die Autoren identifizieren mehrere Richtungen für die zukünftige Entwicklung, die sich primär auf die Automatisierung aggressiverer Optimierungen auf Schaltungsebene konzentrieren. Während das aktuelle Framework mehrere Kompilierungsstrategien unterstützt, zielt die zukünftige Arbeit darauf ab, systematische Optimierungstechniken wie strukturaware Rewritings und die Fusion von Aggregation und Inferenz einzubeziehen, um den manuellen Engineering-Aufwand weiter zu reduzieren und die Skalierbarkeit zu verbessern. Darüber hinaus planen die Autoren, alternative Inferenzmechanismen, wie z. B. Sampling, über den aktuellen schaltungsbasierten Ansatz hinaus zu erforschen.