FITTER: Vocabulary-Agnostic Cross-Domain Inference on Temporal Knowledge Graphs
Dieses Paper stellt FITTER vor, das erste voll induktive, vokabularunabhängige Strukturmodell für die prädiktive Verknüpfung temporaler Wissensgraphen, welches durch die Darstellung von Prädikaten mittels relativer Interaktionsmuster und temporaler Kodierungen einen domänenübergreifenden Transfer ermöglicht und dadurch bestehende Baselines übertrifft, ohne auf ungesehene Entitäten, Relationen und Zeitstempel neu trainiert werden zu müssen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich das Internet als eine riesige, stetig wachsende Bibliothek vor, in der jeder Fakt eine Karte in einem gigantischen Kartenspiel ist. Einige Karten sagen uns, wer mit wem befreundet ist, während andere uns sagen, wann diese Freundschaften begannen oder endeten. In der Welt der Informatik wird dies als „Wissensgraph“ bezeichnet. Es ist wie eine superorganisierte Landkarte der Fakten der Welt. Aber die reale Welt verändert sich ständig; Menschen lernen sich kennen, Kriege beginnen und Verträge werden unterzeichnet, jede Sekunde. Um Schritt zu halten, nutzen Wissenschaftler „Temporale Wissensgraphen“, also diese Landkarten mit einer eingebauten Uhr, die nicht nur erfassen, was geschah, sondern auch, wann.
Lange Zeit hatten Computer, die aus diesen Graphen lernen wollten, eine große Einschränkung: Sie waren wie Schüler, die nur für eine ganz bestimmte Prüfung lernten. Wenn ein Computer die Regeln eines Graphen über diplomatische Ereignisse (wie etwa Friedensgespräche) lernte, konnte er keinen Graphen über Enzyklopädie-Fakten verstehen (wie etwa, wann wer geboren wurde), selbst wenn die Logik ähnlich war. Es war, als hätte der Computer die Namen jedes einzelnen Schülers in einer Schule auswendig gelernt, wäre aber völlig verloren, wenn er eine andere Schule mit anderen Namen betritt. Dies machte es schwierig, Computer flexibel zu machen, insbesondere wenn sie auf neue Daten stießen, die sie noch nie zuvor gesehen hatten.
Hier kommt FITTER ins Spiel, ein neuer Ansatz, der von Forschern entwickelt wurde und wie ein universeller Übersetzer für diese zeitreisenden Landkarten fungiert. Anstatt spezifische Namen oder Daten auswendig zu lernen, lernt FITTER die Muster, wie Dinge sich über die Zeit hinweg verbinden und verändern. Denken Sie daran, wie man die Regeln eines Spiels lernt, anstatt die Namen der Spieler auswendig zu lernen. Wenn Sie wissen, wie eine „Verhandlung“ normalerweise auf einen „Konflikt“ folgt, können Sie dieses Muster verstehen, egal ob die Charaktere „Frankreich“ und „Deutschland“ oder „Japan“ und „China“ heißen.
Das Paper stellt FITTER als den ersten Modelltyp vor, der zu „voll-induktiver“ Inferenz fähig ist. Das bedeutet, dass es das Gelernte aus einem Datensatz – zum Beispiel täglichen Nachrichtenberichten über internationale Konflikte – auf einen völlig anderen Datensatz anwenden kann, wie etwa einen Graphen über historische Enzyklopädie-Einträge, ohne neu trainiert werden zu müssen. Dies erreicht es, indem es das spezifische Vokabular (die Namen von Personen, Orten und exakte Daten) ignoriert und sich stattdessen ganz auf die Struktur konzentriert: wie Ereignisse miteinander interagieren und wie sie zeitlich geordnet sind.
Die Forscher testeten FITTER anhand von sechs verschiedenen Datensätzen, die sich in ihrem „Charakter“ massiv unterschieden. Einige Datensätze verfolgten Ereignisse alle 15 Minuten, während andere nur einmal im Jahr aktualisiert wurden. Einige deckten nur ein einziges Jahr der Geschichte ab, während andere fast 200 Jahre umspannten. Trotz dieser gewaltigen Unterschiede konnte FITTER sein Wissen erfolgreich von einem Bereich auf einen anderen übertragen. Beispielsweise konnte ein Modell, das auf den dichten, schnelllebigen Daten diplomatischer Krisen trainiert wurde, Beziehungen in den langsameren, langfristigen Daten historischer Biografien vorhersagen.
Die Ergebnisse waren beeindruckend. In 15 verschiedenen Cross-Domain-Szenarien übertraf FITTER konsequent bisherige Methoden, die versuchten, „induktiv“ (flexibel) zu sein. Es rät nicht einfach nur; es hat gelernt, dass bestimmte Muster, wie etwa ein bestimmter Typ von Ereignis, der nach einer festgelegten Zeit wiederkehrt, universell sind. Das Paper zeigt, dass FITTER durch den Einsatz eines speziellen mathematischen Tricks namens „sinusoidaler Positionskodierung“ – was so etwas ist, als würde man ein Wellenmuster zur Darstellung der Zeit verwenden anstatt einer Uhrzeit – verstehen konnte, dass „fünf Tage später“ dasselbe bedeutet, egal ob die Uhr im Minutentakt oder im Jahresgang tickt.
Die Autoren weisen jedoch vorsichtig darauf hin, dass FITTER zwar ein riesiger Sprung in Sachen Flexibilität ist, aber kein Zauberstab, der alles löst. Es hat immer noch gewisse Schwierigkeiten mit extrem dichten Graphen, in denen zu viele Ereignisse gleichzeitig stattfinden, und es konzentriert sich derzeit eher darauf, fehlende Personen oder Dinge in einem Fakt vorherzusagen, als die Zeit oder die Beziehung selbst zu prognostizieren. Doch die Kernbotschaft ist klar: Indem wir die spezifischen Namen und Daten weglassen und uns stattdessen auf den zugrunde liegenden Rhythmus konzentrieren, wie sich die Welt verändert, können wir eine KI erschaffen, die aus einer Welt lernt und dieses Wissen auf eine andere anwendet, was unser digitales Wissen wesentlich anpassungsfähiger und nützlicher macht.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.