In der Welt der künstlichen Intelligenz fungieren große Sprachmodelle wie riesige Bibliotheken menschlichen Wissens, die in der Lage sind, komplexe Fragen zu beantworten und Geschichten zu schreiben. Diese digitalen Geister haben jedoch eine erhebliche Schwachstelle: Sie vergessen oft Fakten, zu denen sie nicht trainiert wurden, oder sie erfinden Details, die zwar wahr klingen, aber tatsächlich falsch sind. Um dies zu beheben, entwickelten Forscher eine Methode namens Retrieval-Augmented Generation (RAG). Stellen Sie sich einen Schüler vor, der eine Prüfung ablegt und dabei erlaubt ist, ein Lehrbuch aufzuschlagen. Anstatt sich allein auf sein Gedächtnis zu verlassen, schlägt der Schüler die Antwort im Buch nach, bevor er sie aufschreibt. Dies hält die Antworten in der Realität verankert. Eine fortgeschrittenere Version dieses Ansatzes verwendet einen „Wissensgraphen“, der Informationen wie eine Landkarte organisiert und Menschen, Orte sowie Ereignisse mit Linien verbindet, um deren Beziehungen aufzuzeigen. Dies hilft dem System, Hinweise zu finden, die mehrere Schritte von der ursprünglichen Frage entfernt liegen, anstatt nur nach der offensichtlichsten Übereinstimmung zu suchen.

Trotz dieser Fortschritte behandeln die meisten aktuellen Systeme jede neue Frage so, als wäre es das erste Mal, dass das System sie sieht. Selbst wenn das System gerade ein schwieriges Rätsel über eine bestimmte historische Figur gelöst hat, verwirft es im Moment der nächsten Frage die Argumentation, die es gerade eben noch angewandt hat. Es beginnt wieder bei Null und ignoriert die Tatsache, dass es bereits einen ähnlichen Pfad gefunden hat. Dies ist ineffizient, vergleichbar mit einem Reisenden, der in jeder neuen Stadt anhält, um nach dem Weg zu einem Ort zu fragen, den er erst gestern besucht hat, anstatt sich an die Route zu erinnern, die er gerade genommen hat. Ein Team von Forschern der Beihang-Universität in China hat eine Lösung für dieses Problem vorgeschlagen. Sie entwickelten ein System namens LivingRAG, das einer künstlichen Intelligenz ermöglicht, ein Notizbuch ihrer eigenen erfolgreichen Argumentationen zu führen. Indem das System aufschreibt, was funktioniert hat, und diese Notizen für zukünftige Fragen wiederverwendet, wird es mit der Zeit klüger und beantwortet Fragen präziser bei gleichzeitig geringerem Einsatz von Rechenressourcen.

Der Kernaspekt hinter LivingRAG besteht darin, dem System ein beschreibbares Gedächtnis zu geben, das es während der Arbeit aktualisieren kann. Wenn das System eine Frage beantwortet, produziert es nicht einfach nur eine endgültige Antwort und fährt fort. Stattdessen hält es inne, um zu prüfen, ob der Pfad, den es zur Findung dieser Antwort genommen hat, solide war. Es verifiziert, ob die verwendeten Fakten tatsächlich durch die abgerufenen Dokumente gestützt werden. Wenn die Argumentation fundiert ist und die Frage nicht bloß eine Wiederholung dessen ist, was das System bereits gelöst hat, speichert das System eine kompakte Zusammenfassung dieser Erfahrung. Diese Zusammenfassung enthält eine Karte darüber, welche Informationsstücke am wichtigsten waren, und einen kurzen Entwurf darüber, wie die Antwort konstruiert wurde. Dieser Prozess verwandelt eine einmalige Interaktion in eine wachsende Bibliothek verifizierten Wissens.

Die Forscher testeten diesen Ansatz, indem sie dem System einen Strom von Fragen zuführten, ähnlich wie ein echter Nutzer mit einem Chatbot über mehrere Tage hinweg interagieren würde. Sie fanden heraus, dass verwandte Fragen oft in Clustern auftreten. Manchmal fragt ein Nutzer nach eine bestimmte Person und fragt später nach einer anderen Person, die im selben Ort oder zur gleichen Zeit lebte. Ein anderes Mal folgen die Fragen demselben logischen Muster, wie etwa beim Vergleich zweier verschiedener Ereignisse, selbst wenn die Details unterschiedlich sind. In ihren Experimenten stellte das System fest, dass es diese Muster häufig wiederverwenden konnte. Beispielsweise konnte das System bei einem Datensatz mit komplexen, mehrstufigen Fragen den Argumentationspfad einer vorherigen Frage für fast alle nachfolgenden verwandten Abfragen wiederverwenden. Dies bedeutete, dass das System die Verbindungen zwischen den Fakten nicht jedes Mal aufs Neue entdecken musste.

Die Ergebnisse zeigten, dass diese Methode des Lernens aus Erfahrung das System signifikant besser bei der Beantwortung von Fragen machte. Im Vergleich zu anderen starken Systemen, die ihre Argumentation nicht speichern, erreichte LivingRAG bei mehreren Standard-Benchmarks eine höhere Genauigkeit. In einem Test, der Fragen zu historischen Persönlichkeiten und Ereignissen beinhaltete, verbesserte das System seine korrekte Antwortrate von etwa 84 Prozent auf 87 Prozent. In einem anderen Test, der sich auf Kundensupport-Fragen konzentrierte, war die Verbesserung noch ausgeprägter und sprang von 66 Prozent auf über 70 Prozent. Diese Gewinne betrafen nicht nur die Richtigkeit der Antworten; sie brachten auch den Nebeneffekt der Effizienz mit sich. Da das System das „Gerüst“ oder die Struktur einer vorherigen Antwort wiederverwenden konnte, musste es nicht so viel neuen Text generieren, um seine Argumentation zu erklären. Dies reduzierte die Menge der Daten, die das System verarbeiten musste, was wiederum die geschätzten Kosten für den Betrieb des Systems senkte.

Um sicherzustellen, dass das System nicht aus seinen eigenen Fehlern lernt, bauten die Forscher strenge Qualitätskontrollen ein, bevor eine Erfahrung gespeichert wird. Das System schreibt nur dann einen neuen Eintrag in sein Gedächtnis, wenn die Antwort durch die gefundenen Belege in den Dokumenten gestützt wird. Wenn das System die richtige Antwort errät, die Dokumente sie aber nicht tatsächlich stützen, wird die Erfahrung verworfen. Dies verhindert, dass das System Fehler verstärkt oder redundante Informationen speichert, die keinen neuen Wert bieten. Die Studie ergab, dass das System selektiv vorging und nur etwa 27 Prozent der in Betracht gezogenen Kandidatenerfahrungen speicherte. Diese Selektivität stellte sicher, dass das Gedächtnis eine Sammlung hochwertiger, verifizierter Erkenntnisse blieb und kein ungeordnetes Protokoll jedes Versuchs wurde.

Die Forscher beobachteten auch, wie sich die Leistung des Systems im Laufe der Zeit veränderte. Zu Beginn einer Sitzung, wenn das Gedächtnis leer war, verrichtete das System eine ähnliche Leistung wie Standardmodelle. Doch während es immer mehr Fragen beantwortete und sein Gedächtnis mit verifizierten Erfahrungen füllte, begann es, diese vergangenen Erfolge zu nutzen, um seine zukünftigen Suchvorgänge zu leiten. Das System lernte, schneller an den richtigen Stellen zu suchen und seine Antworten effizienter zu strukturieren. Dies deutet darauf hin, dass der Wert des Systems wächst, während es genutzt wird, was es besonders gut geeignet macht für Umgebungen, in denen Nutzer einen kontinuierlichen Strom verwandter Fragen stellen. Die Studie behauptete nicht, dass diese Methode jedes Problem löst oder in jeder Situation perfekt funktioniert, aber sie demonstrierte, dass die Gabe eines Systems, aus seiner eigenen verifizierten Argumentation zu lernen, ein praktischer und effektiver Weg ist, um seine Leistung zu steigern.

Die Implikationen dieser Arbeit reichen über das bloße Liefern besserer Antworten hinaus. Durch die Reduzierung der Textmenge, die das System generieren muss, senkt die Methode auch die Energie und die Rechenleistung, die zum Betrieb dieser Modelle erforderlich sind. Dies ist eine entscheidende Überlegung, da künstliche Intelligenz immer stärker in das tägliche Leben integriert wird. Die Forscher merkten an, dass ihr System zwar bei kontrollierten Fragenatzensätzen gut funktioniert, die reale Nutzung jedoch Herausforderungen mit sich bringen könnte, wie etwa Fakten, die sich im Laufe der Zeit ändern, oder Fragen, die unvorhersehbarer und weniger zusammenhängend werden. Sie schlugen vor, dass zukünftige Versionen solcher Systeme Wege enthalten müssten, um alte Erinnerungen zu aktualisieren oder zu entfernen, sobald neue Informationen verfügbar werden. Für den Moment jedoch liefert die Studie einen klaren Beweis dafür, dass eine künstliche Intelligenz einfacher dadurch leistungsfähiger und effizienter gemacht werden kann, dass man ihr erlaubt, sich an das zu erinnern, was sie bereits gelernt hat.