💻 computer science

A Foundation for Differentiable Logics using Dependent Type Theory

Diese Arbeit stellt ein einheitliches, in Rocq formalisiertes Framework vor, das analytische, algebraische und proof-theoretische Eigenschaften von differenzierbaren und Fuzzy-Logiken systematisch vergleicht, indem sie beide auf residuierten Gittern basieren und neue Sequenzenkalküle für differenzierbare Logiken einführt.

Ursprüngliche Autoren: Reynald Affeldt, Alessandro Bruni, Ekaterina Komendantskaya, Natalia Ślusarz, Kathrin Stark

Veröffentlicht 2026-03-02

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Reynald Affeldt, Alessandro Bruni, Ekaterina Komendantskaya, Natalia Ślusarz, Kathrin Stark

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Problem: Der "Übersetzer" zwischen Logik und Lernen

Stell dir vor, du möchtest einem Roboter beibringen, Autos zu erkennen. Du gibst ihm Tausende von Bildern (Daten) und sagst ihm: "Lerne daraus!" Das ist Maschinelles Lernen.

Aber was passiert, wenn der Roboter ein Bild sieht, auf dem ein Stoppschild nur ein kleines bisschen verändert ist (z. B. ein Blatt klebt darauf), und er denkt plötzlich, es sei ein Tempolimit-Schild? Das ist gefährlich. Wir wollen, dass der Roboter nicht nur "blind" lernt, sondern auch Verständnis für Regeln hat. Zum Beispiel: "Ein Stoppschild bleibt ein Stoppschild, auch wenn ein Blatt darauf liegt."

Hier kommt das Problem:

Die Mathematiker (Logiker) haben seit 100 Jahren sehr präzise Werkzeuge, um solche Regeln zu beschreiben (sogenannte "Fuzzy-Logiken"). Sie sind wie ein strenges Regelwerk, das genau definiert, was "wahr" und was "falsch" ist. Aber diese Werkzeuge sind oft zu starr für das moderne Lernen.
Die KI-Entwickler haben neue Werkzeuge erfunden ("Differentiable Logics"), die sich perfekt für das Lernen eignen, weil sie sich "glatt" anpassen lassen (wie ein Schlitten auf Schnee). Aber diese neuen Werkzeuge sind oft chaotisch aufgebaut. Man weiß nicht genau, ob sie mathematisch solide sind oder ob sie in bestimmten Fällen verrückt spielen.

Es ist, als hätten zwei Gruppen von Ingenieuren zwei verschiedene Sprachen für denselben Job entwickelt. Die eine Gruppe baut solide Brücken (Logiker), die andere baut schnelle Rennwagen (KI-Entwickler), aber niemand weiß, ob man den Rennwagen auf der Brücke fahren kann.

Die Lösung: Der "Einheits-Übersetzer"

Die Autoren dieses Papiers haben sich vorgenommen, diese beiden Welten zu vereinen. Sie haben eine gemeinsame Sprache erfunden, in der sowohl die alten, soliden Regeln als auch die neuen, schnellen Lern-Tools geschrieben werden können.

Sie haben das alles in einem digitalen Beweis-Assistenten (einem Computerprogramm namens Rocq) nachgebaut. Stell dir das wie einen extrem strengen Mathematik-Lehrer vor, der jeden Schritt überprüft und sagt: "Nein, das hier ist nicht logisch korrekt!" oder "Ja, das funktioniert!"

Was haben sie genau gemacht? (Die drei Säulen)

Um zu zeigen, dass ihre neue Sprache funktioniert, haben sie die Logiken auf drei Arten getestet:

1. Die Baustein-Prüfung (Algebra)
Stell dir vor, du hast verschiedene Sets von Lego-Steinen.

Die alten Logiken (wie Gödel oder Lukasiewicz) sind wie Sets, bei denen die Steine perfekt ineinander passen und stabile Türme bauen.
Die neuen Logiken (wie DL2 oder STL) sind wie Sets mit neuen, krummen Steinen.
Die Autoren haben geprüft: Passt der neue Stein in das alte System? Können wir damit noch stabile Türme bauen?
Ergebnis: Sie haben entdeckt, dass manche neuen Steine (wie bei der Logik "STL") nur funktionieren, wenn man sie in einer bestimmten Form (einem "Residuierten Gitter") einsetzt. Sie haben sogar einen neuen Stein (STL∞) erfunden, der perfekt in das alte System passt.

2. Die Glätte-Prüfung (Analytik)
Beim Lernen von KI muss alles "glatt" sein. Stell dir vor, du fährst einen Berg hinunter. Wenn der Weg steil und sprunghaft ist (wie eine Treppe), stolperst du. Wenn er glatt ist (wie eine Rutschbahn), gleitest du sicher nach unten.
In der KI heißt das: Wenn sich die Eingabe nur ein winziges bisschen ändert, darf das Ergebnis nicht plötzlich ins Unermessliche springen.

Die Autoren haben geprüft: Sind die neuen Logiken wie eine glatte Rutschbahn?
Ergebnis: Ja, einige sind es! Aber sie mussten dafür eine alte mathematische Regel (den "Satz von L'Hôpital", der hilft, komplizierte Grenzwerte zu berechnen) neu beweisen und in ihren digitalen Werkzeugkasten einfügen. Ohne diese Regel hätten sie nicht beweisen können, dass die neuen Logiken wirklich "glatt" genug für das Lernen sind.

3. Die Beweis-Prüfung (Beweis-Theorie)
Wenn du jemandem eine Regel erklärst, willst du sicher sein, dass er sie auch wirklich versteht und nicht nur auswendig lernt.
Die Autoren haben für die neuen Logiken (DL2 und STL) eine Art "Regelbuch" (Kalkül) geschrieben. Sie haben bewiesen, dass dieses Regelbuch fehlerfrei ist und dass man damit alle wahren Aussagen beweisen kann.

Ergebnis: Sie haben ein neues Regelbuch für DL2 erstellt und gezeigt, dass es funktioniert. Für eine andere Logik (STLν) haben sie festgestellt, dass sie so "krumme" Steine hat, dass sie sich gar nicht in ein solches Regelbuch einfügen lässt – zumindest nicht auf die übliche Weise.

Warum ist das wichtig?

Stell dir vor, du baust ein autonomes Auto.

Ohne diese Arbeit: Du programmierst das Auto mit einer Logik, die vielleicht in 99 % der Fälle funktioniert, aber bei einem bestimmten Sonnenuntergang verrückt spielt, weil die Mathematik dahinter nicht ganz sauber war.
Mit dieser Arbeit: Du hast ein geprüftes, sicheres Regelwerk. Du kannst sicher sein, dass die Logik, die du benutzt, um das Auto zu trainieren, mathematisch solide ist. Du kannst Fehler in den alten Theorien finden (und haben sie gefunden!) und neue, bessere Wege finden, um KI-Systeme zu bauen, die nicht nur lernen, sondern auch verstehen.

Zusammenfassung in einem Satz

Die Autoren haben wie Architekten, die zwei verschiedene Baustile (alte strenge Mathematik und neue KI-Methoden) untersucht, eine gemeinsame Sprache und ein neues Fundament gebaut, damit wir in Zukunft sicherere, verständlichere und zuverlässigere künstliche Intelligenz bauen können.

Sie haben nicht nur die Theorie aufgeschrieben, sondern alles in einem Computerprogramm bewiesen, damit kein Fehler untergeht. Das ist wie ein "Sicherheitsgurt" für die Entwicklung von KI.

1. Problemstellung

Differentiable Logics (differenzierbare Logiken) sind eine Familie quantitativer Logiken, die aus dem Bereich des maschinellen Lernens (ML) stammen. Sie werden verwendet, um logische Eigenschaften in Verlustfunktionen (Loss Functions) für das property-guided Training von neuronalen Netzen zu übersetzen.

Das zentrale Problem besteht in der Heterogenität und dem mangelnden theoretischen Fundament dieser Logiken:

Fehlende Vereinheitlichung: Es gibt verschiedene Ansätze (z. B. fuzzy Logiken wie Gödel, Łukasiewicz, Yager, Produkt vs. ML-spezifische Logiken wie DL2 und STL), die unterschiedliche Domänen (z. B. $[0,1]$ , $]-\infty, 0]$ oder $]-\infty, +\infty[$ ) und Semantiken verwenden.
Lücken in der Theorie: Während fuzzy Logiken eine gut etablierte algebraische (Residuierte Gitter) und beweis-theoretische (Sequentkalküle) Theorie besitzen, fehlt diesen oft die für ML notwendige analytische Eigenschaft der Differenzierbarkeit (insbesondere „Shadow-Lifting"). Umgekehrt besitzen die neuen ML-Logiken (DL2, STL) oft keine konsistente algebraische Semantik oder beweis-theoretische Kalküle.
Konflikt der Eigenschaften: Es ist unklar, welche Logik für spezifische ML-Aufgaben geeignet ist, da Eigenschaften wie Idempotenz, Assoziativität und Shadow-Lifting oft nicht gleichzeitig erfüllt werden können.
Mangelnde Verifizierbarkeit: Die Übersetzung von logischen Eigenschaften in Optimierungsprobleme erfolgt oft manuell oder ohne formale Garantie, was zu Diskrepanzen führen kann.

2. Methodik

Die Autoren verwenden den Rocq-Proof-Assistenten (ehemals Coq) und die Bibliotheken MathComp und MathComp-Analysis, um eine einheitliche formale Basis für verschiedene differenzierbare Logiken zu schaffen.

Intrinsische Typisierung: Es wird eine generische Syntax für differenzierbare Logiken definiert, die mittels abhängiger Typen (Dependent Types) sicherstellt, dass nur wohlgeformte Formeln für jede spezifische Logik (z. B. mit oder ohne Negation, mit oder ohne Implikation) konstruiert werden können.
Drei analytische Achsen: Die Untersuchung erfolgt systematisch entlang drei Dimensionen:
1. Algebraisch: Interpretation der Logiken im Rahmen residuierte Gitter (Residuated Lattices), um strukturelle Eigenschaften (Assoziativität, Kommutativität, Residuation) zu prüfen.
2. Analytisch: Untersuchung der Differenzierbarkeit und des Shadow-Lifting (die Eigenschaft, dass eine Erhöhung eines Eingabewerts zu einer Erhöhung des Gesamtwerts führt, was für Gradientenabstieg essenziell ist). Dies erfordert die Formalisierung von reeller Analysis, einschließlich der Regel von L'Hôpital.
3. Beweistheoretisch: Definition und Verifizierung von Hypersequenzen-Kalkülen (Hypersequent Calculi) für die Soundness (Korrektheit) der Logiken.

3. Wichtige Beiträge

Das Paper leistet mehrere signifikante Beiträge zur Schnittstelle von formaler Logik und maschinellem Lernen:

Einheitliche Formalisierung: Die Autoren kodieren eine breite Palette von Logiken (Gödel, Łukasiewicz, Yager, Produkt, DL2, STL $\nu$ , STL $\infty$ ) in einem einzigen, erweiterbaren Framework. Dies ermöglicht einen rigorosen Vergleich ihrer Eigenschaften.
Algebraische Charakterisierung:
- Es wird gezeigt, dass DL2 und die Grenzversion STL $\infty$ (für $\nu \to \infty$ ) als residuierte Gitter interpretiert werden können.
- Es wird bewiesen, dass STL $\nu$ (für endliches $\nu$ ) die Gitter-Axiome verletzt (nicht assoziativ), aber im Grenzwert zu STL $\infty$ konvergiert, das diese Axiome erfüllt.
Analytische Ergebnisse und L'Hôpital:
- Die Autoren formalisieren die Regel von L'Hôpital in der MathComp-Analysis-Bibliothek, da diese für den Beweis des Shadow-Lifting bei STL $\nu$ notwendig war.
- Sie vervollständigen und korrigieren den ursprünglichen, unvollständigen Beweis für das Shadow-Lifting von STL $\nu$ (insbesondere für den Fall $p_{min} < 0$ ).
- Es wird gezeigt, dass Logiken, die Min/Max verwenden (Gödel, Łukasiewicz), das Shadow-Lifting nicht erfüllen, während DL2 und Produkt-Logik dies tun.
Neue Beweistheorie:
- Es werden neue, sounde Sequentkalküle für DL2 und STL $\infty$ definiert und deren Soundness formal bewiesen.
- Für STL $\nu$ wird argumentiert, dass aufgrund der fehlenden Assoziativität kein klassischer Gentzen-Kalkül möglich ist.
Korrektur von Literaturfehlern: Durch die formale Verifizierung wurden Fehler in den ursprünglichen „Pen-and-Paper"-Beweisen der Literatur (insbesondere in Bezug auf Intervalleigenschaften und die Vollständigkeit von Shadow-Lifting-Beweisen) identifiziert und behoben.

4. Ergebnisse

Die formalen Ergebnisse sind in einer umfassenden Tabelle (Tabelle 6 im Paper) zusammengefasst und zeigen ein klares Trade-off-Profil:

Keine perfekte Logik: Keine der untersuchten Logiken erfüllt gleichzeitig alle wünschenswerten Eigenschaften (Residuiertes Gitter, involutive Negation, Idempotenz, Shadow-Lifting und Soundness eines Sequentkalküls).
Trade-offs:
- Gödel/Łukasiewicz/Yager: Erfüllen algebraische Axiome und haben Kalküle, aber kein Shadow-Lifting (nicht überall differenzierbar).
- DL2: Erfüllt Shadow-Lifting und ist adäquat zur Booleschen Logik, aber keine Idempotenz und keine strukturelle Negation.
- STL $\nu$ : Erfüllt Shadow-Lifting, ist aber nicht assoziativ (kein Gitter).
- STL $\infty$ : Erfüllt algebraische Axiome (Gitter), aber kein Shadow-Lifting.
Parametrisierte Logiken: Logiken wie Yager und STL $\nu$ können als Schalter zwischen diskreten (algebraischen) und kontinuierlichen (analytischen) Welten dienen, indem Parameter (z. B. $\nu$ oder $r$ ) variiert werden.

5. Bedeutung und Ausblick

Verlässliche ML-Verifikation: Die Arbeit legt den Grundstein für zuverlässige Werkzeuge zur formalen Verifikation von neuronalen Netzen. Sie ermöglicht die korrekte Übersetzung von logischen Spezifikationen in Verlustfunktionen.
Brücke zwischen Communities: Sie verbindet die traditionelle algebraische Logikforschung (Substrukturelle Logiken) mit den praktischen Anforderungen des maschinellen Lernens (Differenzierbarkeit).
Tool-Unterstützung: Die Integration in Rocq/MathComp demonstriert, dass moderne Beweisassistenten geeignet sind, komplexe KI-Resultate zu formalisieren und zu verifizieren.
Zukunftsaussichten: Die Autoren planen, die Arbeit auf Vollständigkeitsbeweise, andere Negationsdefinitionen und die Integration in Programmiersprachen für ML (wie Vehicle) auszuweiten. Die formale Basis ist essenziell für die Zertifizierung von Compilern, die logische Spezifikationen in ML-Bibliotheken übersetzen.

Zusammenfassend bietet das Paper eine rigorose, mathematisch fundierte und formal verifizierte Grundlage, um die Landschaft der differenzierbaren Logiken zu verstehen, zu vergleichen und für sichere KI-Systeme nutzbar zu machen.