Probabilistic Circuits for Knowledge Graph Completion with Reduced Rule Sets

Stellen Sie sich vor, Sie versuchen, einem Roboter beizubringen, die Welt zu verstehen. Sie schütten ihm nicht einfach eine riesige Enzyklopädie in sein Gehirn; stattdessen geben Sie ihm eine Reihe logischer „Wenn-dann“-Regeln, wie zum Beispiel: „Wenn es regnet, dann ist der Boden nass.“ Dies ist die Welt der Knowledge Graphs (Wissensgraphen), die massive digitale Landkarten sind, welche Fakten über Menschen, Orte und Dinge miteinander verbinden. Das Ziel der Knowledge Graph Completion (Vervollständigung von Wissensgraphen) ist es, dem Roboter zu helfen, fehlende Fakten zu erraten, wie zum Beispiel herauszufinden, dass wenn „Alice Bobs Schwester ist“ und „Bob Charlies Bruder ist“, dann „Alice Charlies Schwester ist“.

Lange Zeit nutzten die klügsten Roboter „Black-Box“-Mathematik, die zwar großartig im Raten, aber schlecht darin war, zu erklären, warum sie etwas geraten hatten. Deshalb kehrten Wissenschaftler zum alten schulischen Ansatz der regelbasierten Logik zurück, weil dieser transparent ist: Man kann die exakte Kette der Logik nachvollziehen. Aber hier liegt der Haken: Um diese regelbasierten Roboter so klug wie die Black Boxes zu machen, mussten sie zehntausende Regeln auswendig lernen. Es ist, als würde man versuchen, ein Rätsel zu lösen, indem man eine Bibliothek von 20.000 Büchern liest, obwohl man eigentlich nur drei lesen müsste. Die meisten dieser Bücher liegen einfach im Regal und sammeln Staub, was den Roboter langsam, verwirrt und schwer verständlich macht.

Diese Arbeit stellt eine einfache, kühne Frage: Können wir den Roboter lehren, genauso klug zu sein, indem wir eine winzige, kuratierte Bibliothek von Regeln verwenden anstatt eines riesigen Lagers? Die Autoren schlagen mit ihrer Arbeit an Wissensgraphen und Logik eine clevere neue Methode vor, die auf etwas namens „Probabilistic Circuits“ (probabilistischen Schaltkreisen) basiert. Betrachten Sie dies nicht als Regelbuch, sondern als einen superintelligenten Bibliothekar, der genau weiß, welche Regeln gut zusammenarbeiten. Anstatt jede Regel als isolierten Fakt zu behandeln, lernt dieser Bibliothekar, wie Regeln miteinander „abhängen“. Sie fanden heraus, dass sie durch diese Methode die Anzahl der benötigten Regeln um 70 % bis 96 % reduzieren konnten, während sie gleichzeitig das gleiche (oder sogar ein besseres) Ergebnis erzielten. Tatsächlich war ihr Ansatz, wenn sie dieselbe kleine Anzahl an Regeln verwendeten, die ihre neue Methode ausgewählt hatte, 31 Mal genauer als die alte Methode, die versuchte, dieselbe kleine Anzahl zu verwenden. Sie haben bewiesen, dass ihr Ansatz mathematisch fundiert ist und nicht auf wackeligen Annahmen beruht, was einen Weg ebnet, KI sowohl unglaublich intelligent als auch überraschend einfach verständlich zu machen.

Das Problem: Die „Regel-Explosion“

Stellen Sie sich vor, Sie sind ein Detektiv, der versucht, einen Fall zu lösen. Die alte Art und Weise (verwendet von Systemen wie AnyBURL) besteht darin, jede einzelne Spur und Theorie zu sammeln, die jemals aufgeschrieben wurde – vielleicht 20.000 von ihnen. Wenn Sie versuchen, ein spezifisches Rätsel zu lösen, prüft das System alle 20.000 Hinweise. Das Problem? Die meisten von ihnen sind für diesen speziellen Fall nutzlos. Auf einem Datensatz namens UMLS (der sich mit medizinischen Begriffen befasst) benötigte das alte System 20.000 Regeln, um eine Spitzenpunktzahl zu erreichen, aber nur etwa 12.938 davon wurden tatsächlich verwendet. Das sind über 7.000 verschwendete Regeln, die nur den Schreibtisch überladen!

Dies verursacht drei große Kopfschmerzen:

1. Verwirrung: Wenn Sie das System fragen: „Wie bist du darauf gekommen?“, zeigt es auf einen chaotischen Haufen von 20.000 Regeln, was es unmöglich macht, zu sagen, welche davon tatsächlich wichtig waren.
2. Speicherüberlastung: Das Speichern und Verwalten von zehntausenden Regeln verbraucht viel Computerspeicher, was ein Problem ist, wenn man diese Regeln in andere intelligente Systeme wie Large Language Models (LLMs) einspeisen möchte, die begrenzten Platz haben.
3. Langsames Denken: Die Überprüfung der Konsistenz oder das Beantworten komplexer „Was wäre wenn“-Fragen wird unglaublich langsam und schwierig, wenn man durch einen Berg von größtenteils nutzlosen Regeln suchen muss.

Die Lösung: Der „Smart Librarian“ (Probabilistic Circuits)

Die Autoren führten ein neues Framework ein, das wie ein Smart Librarian (ein intelligenter Bibliothekar) fungiert. Anstatt nur Regeln aufzulisten, lernt dieser Bibliothekar eine „Wahrscheinlichkeitsverteilung“ über Sätze von Regeln. Einfach ausgedgedrückt: Das System lernt, welche Regeln dazu neigen, wie ein Team zusammenzuarbeiten.

So funktioniert es:

• Der Indikator-Schalter: Für jede Regel, die das System lernt, fügen sie einen winzigen „Schalter“ (einen Indikator) hinzu, der entscheidet, ob diese Regel für eine bestimmte Situation aktiv ist.
• Das Team lernen: Das System betrachtet die Trainingsdaten (die Fakten, die es bereits kennt) und lernt, welche Schalter normalerweise gemeinsam umgelegt werden. Es verwendet eine Struktur namens Probabilistic Circuit (PC). Betrachten Sie einen PC als ein Flussdiagramm, das die Wahrscheinlichkeit verschiedener Kombinationen von Regeln berechnet, ohne davon auszugehen, dass jede Regel unabhängig agiert.
• Keine Unabhängigkeitsannahme: Ein häufiger Fehler in älteren Systemen ist die Annahme, dass Regel A nichts mit Regel B zu tun hat. Diese Arbeit beweist, dass Regeln sich gegenseitig beeinflussen. Der PC lernt diese komplexen Beziehungen, was es ihm ermöglicht, ein winziges, hochperformantes Team von Regeln auszuwählen.

Die Ergebnisse: Weniger ist mehr

Das Team testete dies an 8 verschiedenen Benchmark-Datensätzen, die von medizinischen Unterlagen (UMLS) über Stammbäume (Kinship) bis hin zu allgemeinem Wissen (WN18RR) reichen. Die Ergebnisse waren beeindruckend:

• Massive Reduktion: Sie reduzierten die Anzahl der Regeln, die benötigt werden, um die Spitzenleistung zu erreichen, um 70 % bis 96 %. Beispielsweise reduzierten sie beim UMLS-Datensatz die Anzahl von 20.000 Regeln auf nur noch 1.000, um das gleiche Top-Ergebnis von 0,964 (Hits@10) zu erzielen.
• Der „31x“-Boost: Als sie ihren winzigen, optimierten Regelsatz gegen das Basissystem verglichen, das die gleiche kleine Anzahl an Regeln verwendete, war ihre Methode bis zu 31 Mal besser. Dies zeigt, dass das alte System schrecklich darin war, die richtigen wenigen Regeln auszuwählen, während die neue Methode ein Meister der Selektion war.
• Hohe Effizienz: Im alten System wurden beim UMLS-Datensatz nur etwa 64 % der Regeln tatsächlich verwendet. Im neuen System waren 86,8 % der 1.000 Regeln aktiv. Sie hörten auf, Platz mit nutzlosen Regeln zu verschwenden.
• Leistungserhalt: Selbst mit diesen winzigen Regelsätzen bewahrte das System 91 % der Spitzenleistung des massiven, vollständigen Regelsatzes des Basissystems.

Sie testeten drei verschiedene Arten, dieses neue System zu nutzen:

1. SingletonLB: Verwendet nur eine Regel zur Zeit, um eine Vermutung anzustellen (ein einfacher, schneller Ansatz).
2. SingletonExact: Berechnet die exakte Wahrscheinlichkeit für eine einzelne Regel (sehr präzise).
3. GreedyLB: Baut Schritt für Schritt eine kleine Gruppe von Regeln auf (ein Mittelweg).

Die Methode „SingletonExact“ war der Star und übertraf oft das Basissystem, selbst wenn das Basissystem seine gesamte, massive Bibliothek verwenden durfte. Beispielsweise erreichte die neue Methode beim CODEX-S-Datensatz 99,95 % der Bestleistung des Basissystems unter Verwendung von nur 5 % der Regeln (1.000 statt 20.000).

Warum das wichtig ist

Es geht hier nicht nur darum, Computerarbeitsspeicher zu sparen; es geht darum, KI vertrauenswürdig zu machen. Wenn ein KI-Arzt Ihnen sagt, dass ein Patient eine bestimmte Erkrankung hat, wollen Sie wissen, warum. Wenn der Grund eine chaotische Liste von 20.000 Regeln ist, können Sie ihr nicht vertrauen. Wenn der Grund eine klare, prägnante Kette von 50 Regeln ist, von denen das System weiß, dass sie die besten sind, können Sie die Logik verstehen und überprüfen.

Die Autoren haben gezeigt, dass ihre Methode auf solider Mathematik basiert (speziell Nilssons probabilistischer Logik), was bedeutet, dass es kein bloßes Glücksspiel ist, sondern ein strenger Weg, mit Unsicherheit umzugehen, ohne Fakten zu erfinden. Sie merkten auch an, dass dieser Ansatz nicht von einem spezifischen Typ von Regelgenerator abhängt, was bedeutet, dass er mit Regeln aus jedem System funktionieren kann, nicht nur mit dem, das sie verwendet haben.

Kurz gesagt: Diese Arbeit beweist, dass man kein Regal mit 20.000 Büchern braucht, um ein Rätsel zu lösen. Mit dem richtigen „Smart Librarian“ kann man es mit einem einzigen, perfekt gewählten Bücherregal lösen, was die KI schneller, klarer und genauso klug wie eh und je macht.