Moderne künstliche Intelligenz hat einen Punkt erreicht, an dem sie in der Lage ist, ein Foto zu betrachten und es zu beschreiben oder ein Diagramm zu lesen und dessen Trends zusammenzufassen. Diese Systeme, bekannt als multimodale große Sprachmodelle, sind bemerkenswert gut in der Wahrnehmung. Wenn sie jedoch gebeten werden, ein komplexes wissenschaftliches Problem oder ein kniffliges mathematisches Rätsel zu lösen, stolpern sie oft. Sie können die Teile des Puzzles sehen, aber sie haben Schwierigkeiten, sie zu einer kohärenten Lösung zusammenzufügen. Die Standardmethode zur Behebung dieses Problems besteht darin, das Modell neu zu trainieren, indem man ihm tausende von Beispielen zuführt, damit es die richtigen Muster lernt. Aber dieser Ansatz hat einen schwerwiegenden Fehler: Er erfordert Zugriff auf den internen Code des Modells, der oft in proprietären Systemen verschlossen ist oder schlichtweg zu groß ist, um auf persönlichen Geräten ausgeführt zu werden. Zudem garantiert ein standardmäßiger Trainingsprozess nicht, dass ein Modell, das heute ein Problem löst, diese Lektion auch morgen noch erinnert; jede neue Frage wird so behandelt, als wäre es das erste Mal, dass das Modell sie sieht.

Um diese Lücke zu schließen, erforschen Forscher eine andere Strategie: der KI ein externes Gedächtnis zu geben. Anstatt das „Gehirn“ des Modells zu verändern, heften sie ein Notizbuch an, aus dem das Modell lesen kann. Die Herausforderung liegt darin, was in dieses Notizbuch geschrieben werden soll. Wenn das Notzibuch nur eine Liste vergangener Probleme und deren Antworten ist, könnte das Modell durch zu viele spezifische Details verwirrt werden. Wenn das Notizbuch nur aus allgemeinen Regeln besteht, könnte ihm es an den konkreten Beispielen fehlen, die nötig sind, um eine neue, unbekannte Situation zu verstehen. Die effektivsten menschlichen Gedächtnissysteme scheinen diese beiden Bedürfnisse auszubalancieren, indem sie sowohl spezifische Erfahrungen als auch die daraus abgeleiteten allgemeinen Prinzipien speichern. Ein neues Framework namens DG-Mem versucht, dieses Gleichgewicht für künstliche Agenten zu replizieren, wodurch sie aus vergangenen Problemen lernen können, ohne von Grund auf neu trainiert werden zu müssen.

Die Forscher hinter dieser Arbeit, die an der UC Merced und der Shanghai Jiao Tong University ansässig sind, entwickelten ein System, das mit einem „frozen model“ arbeitet – einem Modell, das nicht verändert oder aktualisiert werden kann. Sie schufen eine Gedächtnisbank, die einmalig unter Verwendung eines Satzes von Trainingsproblemen erstellt wird und die immer dann konsultiert wird, wenn das Modell vor einer neuen Herausforderung steht. Dieses Gedächtnis ist in zwei unterschiedliche Teile gespalten, ähnlich wie ein Mensch sowohl ein Tagebuch spezifischer Ereignisse als auch ein Handbuch mit allgemeinen Ratschlägen führen könnte. Der erste Teil ist ein „Exemplar-Gedächtnis“, das spezifische, gelöste Beispiele speichert. Dies sind nicht bloß rohe Kopien alter Fragen; es sind destillierte Aufzeichnungen, die die schrittweise Strategie erfassen, die zur Lösung eines bestimmten Problemtyps verwendet wurde, sowie die spezifischen Fehler, die zu vermeiden sind. Der zweite Teil ist ein „Schema-Gedächtnis“, das allgemeine Regeln enthält, die als einfache „Wenn-Dann“-Aussagen formuliert sind. Diese Regeln beschreiben die zugrunde liegende Logik einer Kategorie von Problemen, wie etwa wie man Objekte in einer bestimmten visuellen Anordnung zählt oder wie man ein Datendiagramm interpretiert, ohne sich in den Details eines einzelnen Instanz-Falls zu verlieren.

Eine entscheidende Designentscheidung in diesem System ist die Art und Weise, wie diese beiden Arten von Gedächtnis erstellt werden. Die Forscher stellten sicher, dass die allgemeinen Regeln niemals durch den direkten Blick auf die spezifischen Beispiele geschrieben werden. Stattdessen generiert das System zuerst eine temporäre, abstrakte Reflexion eines gelösten Problems. Nur aus dieser abstrakten Reflexion werden die allgemeinen Regeln synthetisiert. Dies verhindert, dass das System versehentlich spezifische Zahlen oder Namen aus einem einzelnen Problem auswendig lernt und diese fälschlicherweise als universelles Gesetz anwendet. Wenn ein Problem beispielsweise das Zählen gelber Blöcke beinhaltet, lernt das System die Regel „zähle alle Objekte einer bestimmten Farbe“ anstatt „zähle gelbe Blöcke“. Diese Trennung ermöglicht es dem Modell, ein allgemeines Prinzip auf eine neue Situation anzuwenden, die rote Blöcke beinhaltet, selbst wenn es noch nie rote Blöcke gesehen hat.

Um dieses System effektiv zu machen, mussten die Forscher auch das Problem lösen, wie das Gedächtnis organisiert wird. In der Vergangenheit verließen sich Systeme oft auf eine feste Liste von Kategorien, wie „Geometrie“ oder „Algebra“, die zu breit oder zu eng gefasst sein konnten. Das neue System verwendet einen Online-Kategorisierer, der seine eigene Liste von Kategorien während des Prozesses aufbaut. Während das System neue Probleme verarbeitet, gruppiert es diese in entstehende Kategorien basierend auf ihren zugrunde liegenden Konzepten, was es dem Gedächtnis ermöglicht, zu wachsen und sich an die spezifischen Arten von Problemen anzupassen, denen es begegnet, ohne eine vordefinierte Landkarte zu benötigen.

Der innovativste Aspekt dieser Arbeit ist, wie das System entscheidet, welche Teile des Gedächtnisses tatsächlich nützlich sind. Wenn das Modell eine Reihe von Regeln abruft, um ein Problem zu lösen, erhält es oft mehrere, die relevant zu sein scheinen. Die Forscher entwickelten eine Methode, um genau zu bestimmen, welche Regel zum korrekten Ergebnis beigetragen hat. Sie behandeln die Regeln wie Spieler in einem Mannschaftssport, indem sie verschiedene Kombinationen von Regeln testen, um zu sehen, welche zum Erfolg führen. Durch die Analyse, wie sehr jede Regel das Ergebnis verbessert, wenn sie zu einer Gruppe hinzugefügt wird, weist das System jeder Regel einen „Nützlichkeitswert“ (Utility Score) zu. Dieser Wert basiert nicht darauf, wie ähnlich die Regel der aktuellen Frage sieht, sondern darauf, wie oft sie dem Modell historisch gesehen geholfen hat, die richtige Antwort zu finden. Wenn das Modell mit einem neuen Problem konfrontiert wird, nutzt es diesen Score, um die hilfreichsten Regeln zu priorisieren, und lernt so effektiv, welchem Rat es vertrauen kann.

Das Team testete dieses Framework an vier verschiedenen KI-Modellen, die von Open-Source-Systemen bis hin zu leistungsstarken proprietären Modellen reichen, und evaluierte sie anhand von drei anspruchsvollen Benchmarks, die mathematisches und wissenschaftliches Denken beinhalten. Die Ergebnisse zeigten eine konsistente Verbesserung. Die mit diesem dualen Gedächtnis ausgestatteten Modelle lösten signifikant mehr Probleme korrekt als dieselben Modelle ohne jegliches Gedächtnis. Sie übertrafen auch andere Gedächtnissysteme, die sich nur auf eine Art der Speicherung verließen oder keine Möglichkeit hatten, die Nützlichkeit ihrer Regeln zu bewerten. In einigen Fällen war die Verbesserung erheblich, wobei das System bei bestimmten schwierigen Tests über zwölf Prozent mehr Probleme löste.

Die Studie zeigte auch, dass die beiden Arten von Gedächtnis unterschiedliche Zwecke erfüllen. Als die Forscher die spezifischen Beispiele entfernten, hatte das System Schwierigkeiten mit Problemen, die visuelle Details erforderten, wie etwa die Unterscheidung zwischen einem vollen Kreis und einem Kreissegment. Als sie die allgemeinen Regeln entfernten, scheiterte das System an Problemen, die eine breite Strategie auf ein neues visuelles Setup anwendeten. Die Kombination aus beidem war essenziell und bewies, dass das System sowohl die konkrete Verankerung durch spezifische Beispiele als auch die abstrakte Flexibilität allgemeiner Regeln benötigte, um erfolgreich zu sein.

Dieser Ansatz bietet einen praktischen Weg nach vorn, um künstliche Intelligenz ohne die massiven Kosten eines erneuten Trainings zu verbessern. Da das System keine Änderungen an den internen Gewichten des Modells erfordert, kann es auf geschlossenen Systemen oder sogar auf persönlichen Geräten eingesetzt werden, bei denen Datenschutz und Effizienz oberste Priorität haben. Die Forscher räumen ein, dass das System Einschränkungen hat, insbesondere im Umgang mit der Zufälligkeit von Computerberechnungen bei der Zuweisung von Scores zu Regeln, aber die Ergebnisse zeigen, dass ein strukturiertes, dual-geschichtetes Gedächtnis die Fähigkeit einer KI zu logischem Schlussfolgern signifikant verbessern kann. Durch die Trennung von spezifischen Erfahrungen und allgemeinen Prinzipien und durch die Verwendung einer Methode, um den Wert jedes Ratschlags zu gewichten, bietet dieses Framework eine robuste Möglichkeit für künstliche Agenten, zu lernen, sich zu entwickeln und komplexe Probleme effektiver zu lösen.