HyMem: Hierarchical Context Management for Long-Horizon Agents via Information Isolation
HyMem ist ein hierarchisches Kontextmanagement-Framework, das die Leistung von LLM-Agenten bei Langzeitaufgaben verbessert, indem es die übergeordnete Planung von den Ausführungsprotokollen isoliert und strukturierte Zusammenfassungen verwendet, um Fokus und Genauigkeit aufrechtzuerhalten, wodurch es Spitzenleistungen in den GAIA- und Browsecomp-plus-Benchmarks erzielt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich einen brillanten Assistenten vor, der in der Lage ist zu lesen, zu schlussfolgern und im Internet zu suchen, um unglaublich schwierige Probleme zu lösen. Seit Jahren bauen Wissenschaftler diese digitalen Helfer mithilfe von großen Sprachmodellen, in der Hoffnung, dass sie komplexe, mehrstufige Herausforderungen bewältigen können, wie etwa die Planung einer wissenschaftlichen Expedition oder das Navigieren auf einer Website, um eine spezifische historische Tatsache zu finden. Doch ein hartnäckiges Problem hat sie bisher zurückgeworfen: Während diese Assistenten länger arbeiten und mehr Informationen sammeln, wird ihr „Gedächtnis“ des Gesprächs zu einem unordentlichen Durcheinander. Der Assistent beginnt, in den Details seiner eigenen Handlungen zu ertrinken – dem Rohtext jedes Suchergebnisses, jedes gescheiterten Versuchs und jedes Zwischengedankens –, bis er das ursprüngliche Ziel, das er erreichen wollte, vergisst. Es ist, als ob ein Bibliothekar, während er versucht, ein einzelnes Buch zu finden, unter einem Berg von all jenen Seiten begraben wird, die er jemals umgeblättert hat, und dabei den Titel verliert, nach dem er suchte.
Forscher am Institut für Automatisierung der Chinesischen Akademie der Wissenschaften haben einen neuen Weg vorgeschlagen, dieses digitale Gedächtnis zu organisieren, um dieses Problem zu lösen. Sie nennen ihr System HyMem, eine Methode, die darauf ausgelegt ist, langfristige Aufgaben auf Kurs zu halten, indem sie verschiedene Arten von Informationen strikt voneilt. Anstatt zuzulassen, dass alle Daten in einer langen Liste vermischt werden, baut HyMem eine Struktur auf, in der die übergeordnete Planung in einem sauberen, ruhigen Raum stattfindet, während die laute, chaotische Arbeit des Suchens und Testens in separaten, isolierten Räumen erfolgt. Dieser Ansatz ermöglicht es dem Assistenten, sich auf das große Ganze zu konzentrieren, ohne durch den Unrat seiner eigenen täglichen Abläufe abgelenkt zu werden.
Der Kernaspekt dieser Arbeit ist die Erkenntnis, dass nicht alle Informationen gleichwertig sind. Wenn ein Agent an einer langfristigen Aufgabe arbeitet, generiert er zwei sehr unterschiedliche Arten von Daten. Der eine Typ ist der strategische Plan: die Ziele, die verifizierten Fakten und die Schritte, die notwendig sind, um die Aufgabe zu vollenden. Der andere Typ ist die Ausführungshistorie (Execution Trace): die rohen, oft repetitiven und manchmal gescheiterten Versuche, Werkzeuge zu benutzen, Websites zu durchsuchen oder Details zu prüfen. In älteren Systemen wurden diese zwei Arten von Informationen in einem einzigen Strom vermischt. Im Verlauf der Aufgabe würde das schiere Volumen der chaotischen Ausführungshistorien die spärlichen, kritischen Planungssignale überwältigen. Der Assistent würde den Weg verlieren und unfähig sein, das wichtige Ziel vom Rauschen seiner eigenen Historie zu unterscheiden.
Um dies zu beheben, entwarfen die Forscher ein Framework, das wie ein strenger Torwächter für Informationen fungiert. Sie schufen eine „Planner“-Schicht (Planer), die die Hauptstrategie hält, und eine separate „Executor“-Schicht (Ausführer), die die eigentliche Arbeit bei der Nutzung von Werkzeugen übernimmt. Wenn der Planner eine Tatsache überprüfen oder eine Suche durchführen muss, sendet er eine spezifische Anweisung an den Executor. Der Executor geht los und erledigt die Arbeit, sammelt alle Rohdaten, aber er wirft diese Rohdaten nicht zurück in das Hauptgedächtnis des Planners. Stattdessen verarbeitet der Executor die Informationen, filtert das Rauschen heraus und gibt eine saubere, strukturierte Zusammenfassung dessen zurück, was er gefunden hat. Diese Zusammenfassung wird dann dem Gedächtnis des Planners hinzugefügt, während die chaotischen Details verworfen werden.
Das System enthält auch ein spezielles Modul für „Isolierte Schlussfolgerung“ (Isolated Reasoning) für besonders knifflige Teilprobleme. Wenn eine Aufgabe tiefes Nachdenken oder das Prüfen widersprüchlicher Beweise erfordert, sendet der Planner dieses spezifische Problem an dieses isolierte Modul. Das Modul arbeitet das Problem eigenständig durch und hält seine eigenen internen Gedanken und Zwischenschritte verborgen. Sobald es zu einem Schluss kommt, sendet es nur die Antwort und die wichtigsten Beweise zurück, wodurch das Hauptgedächtnis des Planners frei von dem langen, gewundenen Pfad bleibt, der zur Lösung führte. Dies stellt sicher, dass der Hauptentscheider niemals durch die Komplexität der delegierten Teilaufgaben belastet wird.
Um das System über lange Zeiträume hinweg reibungslos am Laufen zu halten, nutzt HyMem auch ein strukturiertes Gedächtnissystem, das wie ein Aktenschrank funktioniert. Es organisiert vergangene Ereignisse, aktuelle Ziele und die gelernten Lektionen über die Nutzung von Werkzeugen in ordentlichen, kompakten Zusammenfassungen. Wenn das System sich erinnern muss, was es getan hat, konsultiert es diese organisierten Dateien, anstatt zu versuchen, jedes einzelne Detail der Vergangenheit abzurufen. Dies ermöglicht es dem Assistenten, ein klares Gefühl für Fortschritt und Kontinuität zu bewahren, selbst nach vielen Arbeitsstunden, ohne dass sein Gedächtnis zu groß für die Verwaltung wird.
Die Forscher testeten diesen neuen Ansatz an zwei anspruchsvollen Aufgabensätzen: einer, der allgemeines Denken und den Einsatz von Werkzeugen beinhaltete, und ein anderer, der sich auf tiefgreifende Forschungsfragen konzentrierte, die das Finden spezifischer Fakten im Internet erforderten. Sie verglichen ihr System mit mehreren anderen Methoden, einschließlich älterer Ansätze, die lediglich versuchten, die gesamte Historie eines Gesprächs in eine kürzere Zusammenfassung zu komprimieren. Die Ergebnisse zeigten, dass das HyMem-System durch die Trennung von Planung und Ausführung signifikant erfolgreicher war. Bei den allgemeinen Denkaufgaben löste es etwa 66,7 % der Probleme korrekt, während es bei den tiefgreifenden Forschungsaufgaben 61,3 % löste. Diese Zahlen lagen deutlich höher als bei den am besten abschneidenden Alternativmethoden, die Schwierigkeiten hatten, den Fokus aufrechtzuerhalten, wenn die Aufgaben länger und komplexer wurden.
Die Studie untersuchte auch, wie viel Information das System verarbeiten musste, um diese Antworten zu erreichen. Die Forscher fanden heraus, dass das HyMem-System Probleme nicht einfach dadurch löste, dass es mehr Rechenleistung nutzte oder mehr Text las. Stattdessen löste es sie effizienter, indem es seine Aufmerksamkeit nur auf die Informationen richtete, die tatsächlich relevant waren. Das Hauptplanungsgedächtnis wuchs sehr langsam und blieb auf das Ziel fokussiert, während die isolierten Räume die schwere Arbeit der Exploration und Analyse bewältigten. Dies deutet darauf hin, dass der Schlüssel zur Lösung langer, schwieriger Probleme nicht nur darin besteht, ein größeres Gedächtnis zu haben, sondern in einer klügeren Art und Weise, es zu organisieren.
Obwohl die Ergebnisse vielversprechend sind, merken die Forscher an, dass das System darauf angewiesen ist, dass die zugrunde liegende Künstliche Intelligenz in der Lage ist, strikten Anweisungen zu folgen und gut organisierte Zusammenfassungen zu erstellen. Wenn das Modell nicht in der Lage ist, diese Regeln einzuhalten, wird der Nutzen des Systems möglicherweise nicht ersichtlich. Doch für Aufgaben, die anhaltende Aufmerksamkeit und die Fähigkeit erfordern, komplexe Informationen über einen längeren Zeitraum zu navigieren, bietet dieser hierarchische Ansatz einen klaren Weg nach vorn. Durch die Trennung von Signal und Rauschen ermöglicht HyMem digitalen Agenten, klar zu denken, selbst wenn die Arbeit, die sie leisten, unglaublich kompliziert ist.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.