The RAIL Principles for Neurosymbolic AI: Reasoning, Assurances, Interfacing and Learning
Dieses Paper führt das RAIL-Framework (Reasoning, Assurances, Interfacing und Learning) als eine einheitliche Perspektive zur Analyse und zum Design zuverlässiger, vertrauenswürdiger neurosymbolischer KI-Systeme ein, die maschinelles Lernen über diverse Anwendungen hinweg mit formaler Logik integrieren.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen, einem Roboter beizubringen, wie er sich in der Welt bewegt. Sie haben zwei sehr unterschiedliche Lehrer. Der erste ist ein „Super-Beobachter“, eine Maschine, die lernt, indem sie Millionen von Videostunden beobachtet, Muster erkennt und errät, was als Nächstes passiert. Er ist unglaublich schnell und gut darin, Gesichter zu erkennen oder Gedichte zu schreiben, aber er erfindet oft Fakten, vergisst das Gelernte vom gestrigen Tag und kann nicht erklären, warum er denkt, dass eine rote Ampel „Stopp“ bedeutet. Der zweite Lehrer ist ein „Strenger Bibliothekar“, eine Maschine, die einem starren Regelbuch folgt. Er weiß genau, was eine rote Ampel bedeutet, weil ein Mensch es in ein Logikbuch geschrieben hat, und er wird diese Regel niemals brechen. Aber der Bibliothekar ist langsam, benötigt einen Menschen, der jede einzelne Regel schreibt, und ist völlig verwirrt, wenn er etwas sieht, das nicht im Regelbuch erwähnt wird.
Lange Zeit dachten Wissenschaftler, dass diese beiden Lehrer in getrennten Räumen arbeiten müssten. Doch vor kurne ist eine neue Idee entstanden: Was wäre, wenn wir sie zusammenarbeiten ließen? Dieses Feld, genannt Neurosymbolische KI, versucht, die mustererkennende Kraft des „Super-Beobachters“ mit dem logischen, regelbefolgenden Gehirn des „Strengen Bibliothekars“ zu verbinden. Das Ziel ist es, Systeme zu bauen, die nicht nur intelligent und flexibel, sondern auch sicher, erklärbar und vertrauenswürdig sind – besonders in hochsensiblen Situationen wie bei selbstfahrenden Autos oder der medizinischen Diagnose. Die große Frage lautet: Wie bauen wir diese hybriden Gehirne tatsächlich, ohne dass sie gegeneinander kämpfen?
Ein neues Paper eines Teams von Forschern aus Universitäten und Laboren weltweit schlägt eine Roadmap vor. Sie argumentieren, dass wir keine völlig neue Art von KI von Grund auf neu erfinden müssen. Stattdessen folgen viele der fortschrittlichsten Systeme, die wir bereits haben – wie jene, die Menschen beim Schach besiegen oder Proteine falten – im Geheimen einem spezifischen Satz von Designregeln. Die Autoren nennen diese Regeln RAIL, was für Reasoning (Schlussfolgerung), Assurances (Absicherungen), Interfacing (Schnittstellen) und Learning (Lernen) steht. Sie schlagen vor, dass wir durch die Betrachtung von KI-Systemen durch diese vier Linsen verstehen können, wie sie funktionieren, wo ihre Schwachstellen liegen und wie wir bessere Systeme für die Zukunft entwerfen können.
Die vier Säulen der RAIL-Roadmap
Das Paper legt nahe, dass jedes neurosymbolische System durch seine Position auf einer Skala für vier Prinzipien beschrieben werden kann. Betrachten Sie diese nicht als Schalter, die entweder „an“ oder „aus“ sind, sondern als Regler, mit denen man das System ausbalancieren kann.
1. Reasoning: Der „Wie denkst du?“-Regler
Dieser Regler misst, wie das System die Zusammenhänge herstellt. An einem Ende haben Sie das Implizite Reasoning, bei dem die KI die Antwort basierend auf Mustern errät, die sie zuvor gesehen hat, wie ein Schüler, der die Antwortlösung auswendig lernt, aber die Mathematik dahinter nicht versteht. Am anderen Ende ist das Explizite Reasoning, bei dem die KI einer schrittweisen logischen Kette folgt, wie ein Detektiv, der Hinweise aufschreibt, um einen Fall zu lösen.
Das Paper weist darauf hin, dass die leistungsfähigsten Systeme, wie die Alpha-Familie von Google (die Spiele spielt und mathematische Beweise löst), irgendwo in der Mitte liegen. Sie nutzen neuronale Netze für schnelle Vermutungen (implizit), aber verwenden dann strikte Logik, um zu prüfen, ob diese Vermutungen Sinn ergeben (explizit). Die Autoren schlagen vor, dass das Verlassen auf die reine „Rate-Seite“ zu Fehlern und „Halluzinationen“ (Erfindungen) führt, weslich zukünftige Systeme das gesamte Spektrum des Reglers nutzen müssen, um wirklich zuverlässig zu sein.
2. Assurances: Der „Können wir ihm vertrauen?“-Regler
Hier geht es um Sicherheitsgarantien. Auf der einen Seite haben Sie Systeme, die Ex-post verifiziert sind, was bedeutet, dass man sie zuerst trainiert und dann später testet, um zu sehen, ob sie sicher sind. Das ist riskant, da man einen gefährlichen Fehler erst bemerken könnte, wenn es zu spät ist. Auf der anderen Seite stehen Systeme, die Designgemäß verifiziert sind, was bedeutet, dass die Sicherheitsregeln von vornherein in das Gehirn des Systems eingebaut sind.
Das Paper argumentt, dass wir für kritische Aufgaben zur „Designgemäßen Verifizierung“ übergehen müssen. Wenn ein System beispielsweise einen mathematischen Beweis löst, sollte es so gebaut sein, dass es nicht in der Lage ist, einen falschen Beweis zu produzieren, und nicht nur, dass es es wahrscheinlich nicht tut. Die Autoren stellen fest, dass es zwar schwierig ist, dies für komplexe neuronale Netze zu tun, aber die Kombination mit symbolischen Regeln die Garantie ermöglicht, dass das System nicht abstürzt oder etwas Unsicheres tut.
3. Interfacing: Der „Können wir miteinander sprechen?“-Regler
Dieses Prinzip fragt: Wie einfach ist es für einen Menschen, mit der KI zu kommunizieren, und für die KI, sich selbst zu erklären? Auf einer Seite haben Sie Reine Embeddings, bei denen die KI in einem geheimen Zahlencode denkt, den Menschen nicht lesen können. Auf der anderen Seite sind Reine Symbolische Repräsentationen, bei denen alles in einer klaren, logischen Sprache oder Code geschrieben ist, den Menschen inspizieren können.
Das Paper hebt ein Problem hervor: Viele leistungsfähige KI-Systeme sind „Black Boxes“. Wir können nicht in sie hineinsehen, um zu wissen, warum sie eine Entscheidung getroffen haben. Der RAIL-Rahmen legt nahe, dass wir „Gemischte Repräsentationen“ benötigen – Systeme, die in der Lage sind, ihr geheimes Zahlenrechnen in etwas zu übersetzen, das Menschen verstehen können, wie etwa einen Graphen oder eine logische Erklärung. Dies ist entscheidend für Dinge wie medizinische KI, bei der ein Arzt wissen muss, warum der Computer eine bestimmte Behandlung empfohlen hat.
4. Learning: Der „Wie lehren wir es?“-Regler
Schließlich betrachtet dieser Regler, wie das System lernt. An einem extremen Ende steht das Daten-basierte Lernen, bei dem die KI in einen Datenstrom geworfen wird und alles selbst herausfinden muss. Am anderen extremen Ende steht Kein Lernen, bei dem ein Mensch jede einzelne Regel schreibt.
Der „Sweet Spot“, so das Paper, ist das Wissensgestützte Lernen. Hierbei geben wir der KI einige Regeln oder Fakten als Startpunkt (wie zum Beispiel einer Physik-KI zu sagen, dass Energie weder erschaffen noch vernichtet werden kann) und lassen sie dann den Rest aus Daten lernen. Dies lässt die KI schneller lernen, benötigt weniger Daten und macht weniger dumme Fehler. Einige fortgeschrittene Systeme nutzen sogar Bidirektionales Lernen, bei dem die KI aus Daten lernt, aber auch ihre eigenen Regeln basierend auf dem, was sie lernt, aktualisiert, wodurch ein Kreislauf der Verbesserung entsteht.
Was dies für die Zukunft bedeutet
Die Autoren behaupten nicht, dass sie alle Probleme der KI gelöst haben. Stattdessen schlagen sie vor, dass der RAIL-Rahmen ein Werkzeug ist, das Ingenieuren hilft, bessere Entscheidungen zu treffen. Indem sie bestehende Systeme durch diese vier Prinzipien betrachten, stellten sie fest, dass viele „neurosymbolische“ Systeme bereits Großartiges leisten, selbst wenn sie sich nicht so nennen. Zum Beispiel nutzen Systeme, die Werkzeuge verwenden (wie eine KI, die Code schreibt, um ein Problem zu lösen), oder Systeme, die physikalische Gesetze lernen, bereits diese Prinzipien, um sicher und präzise zu bleiben.
Das Paper warnt jedoch auch vor Kompromissen (Trade-offs). Wenn man ein System zu stark in Richtung „reiner Logik“ drängt, könnte es zu starr werden, um mit der Unordnung der realen Welt umzuge zu gehen. Wenn man es zu sehr in Richtung „reinen Lernens“ drängt, könnte es unvorhersehbar und unsicher werden. Das Ziel ist es, das richtige Gleichgewicht für die jeweilige Aufgabe zu finden.
Kurz gesagt ist dieses Paper ein Aufruf zum Handeln an die KI-Community. Es legt nahe, dass die Zukunft vertrauenswürdiger KI nicht darin besteht, zwischen „intelligentem Raten“ und „strengen Regeln“ zu wählen, sondern darin, Systeme zu bauen, die wissen, wie man beides nutzt. Durch die Nutzung der RAIL-Prinzipien können Ingenieure KI entwickeln, die nicht nur leistungsstark, sondern auch sicher, erklärbar und bereit ist, uns bei der Lösung der schwierigsten Probleme der Welt zu helfen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.