💻 computer science

ERSkill: Evolving for Skill-Guided Adaptive Memory Retrieval

Das Paper stellt ERSkill vor, ein auf Retrieval fokussiertes Framework, das es LLM-Agenten ermöglicht, ihre Speicherzugriffsstrategien kontinuierlich weiterzuentwickeln, indem es Retrieval-Verhaltensweisen als ausführbare Skills darstellt und einen Skill-Router sowie einen Skill-Satz ko-optimiert, wodurch bestehende Baselines in heterogenen Speicherabfrageaufgaben signifikant übertroffen wird.

Ursprüngliche Autoren: Haolong Chen, Liang Zhang, Zhuo Li, Lei Xue, Guanrxu Zhu

Veröffentlicht 2026-08-14

📖 3 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Haolong Chen, Liang Zhang, Zhuo Li, Lei Xue, Guanrxu Zhu

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie unterhalten sich mit einem superintelligenten Roboterfreund, der sich an alles erinnert, was Sie jemals gesagt haben. In der Welt der künstlichen Intelligenz werden diese „Large Language Models“ immer mehr zu langfristigen Kollaborateuren und nicht nur zu einmaligen Helfern. Um dies zu ermöglichen, benötigen sie eine Gedächtnisbank – einen Ort, um Fakten, Vorlieben und vergangene Gespräche zu speichern. Aber hier liegt der knifflige Teil: Eine riesige Bibliothek voller Erinnerungen ist nutzlos, wenn man nicht weiß, wie man das richtige Buch findet. Die meisten Roboter von heute nutzen eine statische Einheitsmethode, um in ihren Erinnerungen zu suchen, wie etwa die Verwendung derselben einfachen Stichwortsuche für jede Frage. Wenn Sie fragen: „Was habe ich zum Frühstück gegessen?“, sucht der Roboter vielleicht einfach nach dem Wort „Frühstück“. Aber wenn Sie fragen: „Warum bin ich nach diesem Sturm nicht mehr zum Strand gegangen?“, muss der Roboter ein Sturmereignis mit einer späteren Entscheidung verknüpfen, was eine viel komplexere Suchstrategie erfordert. Die große Frage, die sich Forscher stellen, lautet: Kann ein Roboter lernen, die Art und Weise, wie er in seinem eigenen Gedächtnis sucht, je nach gestellter Frage zu ändern?

Hier kommt ein neues Framework namens ERSkill ins Spiel. Betrachten Sie ERSkill als einen Roboter, der nicht nur ein Gedächtnis hat, sondern auch einen Werkzeugkasten mit verschiedenen „Suchfertigkeiten“, die er im Laufe der Zeit lernen und verbessern kann. Anstatt eine einzige, starre Suchmethode zu verwenden, behandelt ERSkill den Abruf aus dem Gedächtnis wie eine Reihe ausführbarer Rezepte. Einige Rezepte könnten einfach sein, wie „suche nach einem bestimmten Namen“. Andere könnten komplexer sein, wie „finde einen Namen, schaue dann, was als Nächstes geschah, und finde dann ähnliche Ereignisse aus dem letzten Jahr“. Der Robot nutzt einen intelligenten „Router“ (wie einen Verkehrshelfer), um zu entscheiden, welches Rezept für jede Frage verwendet werden soll.

Was ERSkill besonders macht, ist, dass es sich entwickelt. Es bleibt nicht einfach bei den Rezepten, mit denen es gestartet ist. Während es beim Beantworten von Fragen übt, stellt es fest: „Hey, dieses Rezept funktioniert super, um Fakten zu finden, aber es ist schrecklich, um Gründe dafür zu finden, warum Dinge passiert sind.“ Also beginnt es, neue Rezepte zu erfinden und alte zu verfeinern. Es nutzt ein kluges System, um jeden durchlaufenen Suchpfad zu verfolgen (ein „Experience Trie“, was wie eine Karte aller Straßen ist, die es befahren hat), damit es keine Zeit damit verschwendet, im Kreis zu fahren. Es nutzt auch ein „Double Frontier“-Sicherheitsnetz: Eine Gruppe von Fertigkeiten wird getestet, um zu sehen, ob sie das Potenzial haben, großartig zu sein, und eine zweite Gruppe darf nur dann in die endgültige Auswahl aufgenommen werden, wenn der Verkehrshelfer des Roboters sie auch wirklich zuverlässig im richtigen Moment auswählen kann.

Die Ergebnisse sind beeindruckend. Bei Tests auf schwierigen Gedächtnis-Quiz konnte ERSkill nicht nur ein wenig besser abschneiden; es hat die Konkurrenz regelrecht überrollt. Durch die Verwendung eines leistungsstarken KI-Modells namens Qwen3-Next-80B-A3B-Instruct verbesserte ERSkill seine Gesamtpunktzahl um 31,3 % im Vergleich zu den besten nicht-evolvierenden Methoden. Selbst mit einem kleineren, schnelleren Modell namens GPT-5.4-nano steigerte es die Leistung immer noch um 28,1 %. Die Arbeit zeigt, dass, indem man dem Roboter erlaubt zu lernen, wie er sucht, anstatt ihm nur zu sagen, was er suchen soll, er ein viel effektiverer und anpassungsfähigerer Partner wird. Er erinnert sich nicht nur mehr; er erinnert sich smarter.

Technisches Resümee: ERSkill – Evolution für fähigkeitsgesteuerte adaptive Gedächtnisabfrage

Problemstellung

Während LLM-Agenten zunehmend auf Langzeitgedächtnis für persistente Interaktionen angewiesen sind, sind die den Gedächtnisabruf steuernden Mechanismen typischerweise statisch. Bestehende selbst-evolvierende Methoden konzentrieren sich auf die Verfeinerung des Gedächtnisinhalts (z. B. Destillation von Reasoning-Traces oder Aktualisierung von Gedächtnis-Items), verlassen sich jedoch oft auf vordefinierte, feste Abrufstrategien (wie Dense Retrieval oder BM25) zum Zeitpunkt der Abfrage. Dieser statische Ansatz begrenzt die Leistung bei heterogenen Gedächtnisabfragen, die vielfältige Strategien zur Konstruktion von Evidenz erfordern. Beispielsweise unterscheidet sich eine Abfrage, die eine spezifische Ereignisabrufung erfordert, grundlegend von einer, die kausale Argumentation über mehrere Ereignisse hinweg erfordert. Das zentrale Problem, das hier adressiert wird, ist, wie ein LLM-Agent lernen und evolvieren kann, komplexe Abrufaktionen zu komponieren, damit sein Abrufverhalten sich an die variierenden Informationsbedarfe unterschiedlicher Abfragen anpasst.

Methodik: ERSkill-Framework

Die Autoren schlagen ERSkill (Evolving Retrieval Skill) vor, ein abrufzentriertes Framework, das den Zugriff auf das Agentengedächtnis als fähigkeitsgesteuerte Konstruktion von Evidenz modelliert. Das System besteht aus drei Kernkomponenten:

1. Strukturiertes Gedächtnis und Primitive Bibliothek

ERSkill kompiliert Interaktionshistorien in einen strukturierten Gedächtnisspeicher $M(D) = (A, I, G)$ , bestehend aus Atomebene-Datensätzen ( $A$ ), Indizes ( $I$ ) und Graphen ( $G$ ). Anstatt das Gedächtnis lediglich als passiven Speicher zu behandeln, macht ERSkill es durch eine feste Bibliothek von Abruf-Primitiven ( $P$ ) zugänglich. Diese Primitive fungieren als Zustandsübergänge ( $p: (q, s, M(D)) \to s'$ ) und umfassen:

Such-Primitive: entity_search (entitätsbasiert), lexical_search (BM25) und dense_search (semantische Ähnlichkeit).
Expansions-Primitive: temporal_focus_expand, similarity_expand und relation_expand, um Evidenz über Graphkanten zu erweitern.
Prozess-Primitive: llm_process für Query-Rewriting, Filterung und dynamische Steuerung.

2. Retrieval-Skill und Router

Ein Retrieval-Skill ( $\kappa$ ) wird als ausführbares Programm definiert, das aus einer Sequenz von Primitiven besteht. Diese Abstraktion ermöglicht es, dass Abrufverhalten wiederverwendbar, interpretierbar und verfeinerbar ist.

Skill Router: Ein trainiertes Modell $R_\theta$ ordnet eine Abfrage $q$ dynamisch dem optimalen Skill $\kappa$ aus dem aktuellen Set $K$ zu. Der Router kodiert sowohl die Abfrage als auch die Skill-Beschreibungen in Vektorrepräsentationen, um Kompatibilitätswerte zu berechnen und den Skill auszuwählen, der die benötigte Evidenzansicht für die Antwortgenerierung am besten konstruiert.

3. Skill-Router Ko-Evolution

Um die Einschränkungen eines statischen Skill-Sets zu überwinden, nutzt ERSkill ein Ko-Evolutionsverfahren, das das Skill-Set und den Router gemeinsam aktualisiert. Dieser Prozess wird durch zwei Schlüsselmechanismen geleitet:

Experience Trie: Eine effiziente Datenstruktur, die explorierte Pfade von Primitiven aufzeichnet. Sie ermöglicht es dem Skill-Generator, vergangene Rollout-Erfahrungen wiederzuverwenden, doppelte Kandidaten zu erkennen und redundante Exploration zu vermeiden.
Double-Frontier-Mechanismus: Dieser entkoppelt die Kapazitätserweiterung von der Deployment-Stabilität:
- Capability Frontier ( $C_t$ ): Hält ein kompaktes Set von Skills mit dem besten „Oracle-seitigen“ Wert (d. h. der bestmöglichen Performance, falls der optimale Skill immer gewählt würde). Es verfolgt die maximal entdeckte Abrufkapazität.
- Deploy Frontier ( $B_t$ ): Hält das Skill-Set, das tatsächlich zur Laufzeit verwendet wird. Es enthält nur Skills, die der Router zuverlässig auswählen kann.
- Evolutionsprozess: Neue Skill-Kandidaten werden durch Editierung von Pfaden aus der Capability Frontier generiert. Kandidaten werden auf Trainings- und Validierungs-Batches evaluiert. Die Capability Frontier wird aktualisiert, um die Oracle-Performance zu bewahren, während die Deploy Frontier nur dann aktualisiert wird, wenn das neue Set die geroutete Performance verbessert oder innerhalb einer Toleranzschwelle kompakt bleibt. Dies stellt sicher, dass das System neue Fähigkeiten explorieren kann, ohne den eingesetzten Agenten zu destabilisieren.

Zentrale Beiträge

Abrufzentriertes Framework: Die Arbeit führt einen Paradigmenwechsel ein, bei dem der Gedächtniszugriff als abfrageadaptive Konstruktion von Evidenz behandelt wird, anstatt als feste Abrufstrategie.
ERSkill-Architektur: Ein fähigkeitsgesteuertes Framework, das Retrieval-Skills und den Router unter Verwendung eines Experience Trie und eines Double-Frontier-Designs ko-evolviert, um zwischen Exploration und Stabilität abzuwägen.
Empirische Leistung: Umfangreiche Experimente zeigen, dass ERSkill die starken nicht-evolvierenden und selbst-evolvierenden Baselines deutlich übertrifft.

Experimentelle Ergebnisse

Die Autoren evaluierten ERSkill auf drei Agenten-Gedächtnis-Benchmarks: LoCoMo, LongMemEval und PerLTQA, unter Verwendung zweier Backbone-LLMs: Qwen3-Next-80B-A3B-Instruct und GPT-5.4-nano.

Leistungssteigerungen: ERSkill erzielte den besten Gesamtdurchschnitt über F1, BLEU-1 und LLM-as-a-Judge Scores.
- Mit Qwen3-Next-80B-A3B-Instruct verbesserte es den Gesamtdurchschnitt im Vergleich zum stärksten Baseline-Modell um 31,3 %.
- Mit GPT-5.4-nano verbesserte es den Gesamtdurchschnitt um 28,1 %.
Transferierbarkeit: Auf LoCoMo trainierte Skills transferierten effektiv auf LongMemEval, ohne zusätzliches Training, und behielten die überlegene Leistung bei.
Kosten-Leistungs-Verhältnis: ERSkill demonstrierte ein günstiges Verhältnis und erreichte die höchsten L-J Scores, während es im Vergleich zu anderen LLM-basierten Gedächtniskonstruktionsmethoden sowohl bei den Konstruktions-Token als auch bei den Inference-Token leichtgewichtig blieb.
Ablationsstudien: Das Entfernen zentraler Komponenten (Skill-Evolution, Router, Double Frontier oder Experience Trie) führte zu signifikanten Leistungseinbußen, was die Notwendigkeit jedes Designelements bestätigt.

Bedeutung und Ansprüche

Das Paper behauptet, dass ERSkill die Evolution auf der Abrufseite als vielversprechende Richtung für langfristige LLM-Agenten hervorhebt. Die Autoren argumentieren, dass während die Gedächtnisinhalte und die Reasoning-Steuerung zunehmend adaptiv geworden sind, das Abrufverhalten selbst weitgehend vordefiniert geblieben ist. Durch die Modellierung des Abrufs als fähigkeitsgesteuerter, evolvierbarer Prozess ermöglicht ERSkill Agenten, maßgeschneiderte Evidenz für heterogene Abfragen zu konstruieren.

Die Bedeutung liegt in der Demonstration, dass:

Adaptive Abfrage kritisch ist: Die Aktualisierung von Gedächtniszusammenfassungen oder Reasoning-Traces allein reicht nicht aus, wenn der Abrufmechanismus unverändert bleibt.
Stabile Evolution möglich ist: Der Double-Frontier-Mechanismus erlaubt die Erweiterung der Abrufkapazitäten bei gleichzeitiger Gewährleistung der Stabilität des eingesetzten Agenten.
Effizienz: Das Framework erreicht eine hohe Leistung ohne prohibitive Inference-Kosten, was darauf hindeutet, dass gezielte Evidenzkonstruktion effektiver ist als das bloße Abrufen von mehr Inhalten.

Die Autoren vertreten eine moderate Position und merken an, dass das aktuelle System auf einer festen Primitive-Bibliothek und Rollout-basierter Evaluierung beruht, was Trainingskosten verursacht. Sie identifizieren zukünftige Forschungsrichtungen wie die Verbesserung der Effizienz durch kostengünstigere Evaluatoren, die Unterstützung der Entdeckung von Primitiven sowie die Ausweitung der adaptiven Abfrage auf Planung und Werkzeugnutzung.