MemSkill: Learning and Evolving Memory Skills for Self-Evolving Agents
MemSkill führt ein sich selbst weiterentwickelndes Framework für LLM-Agenten ein, das statische, manuell entworfene Speicheroperationen durch lernfähige und anpassbare Fähigkeiten ersetzt, indem es ein geschlossenes Regelkreissystem aus Controllern, Exekutoren und Designern nutzt, um Speicherstrategien dynamisch zu verfeinern und die Aufgabenleistung über diverse Benchmarks hinweg zu verbessern.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das große Problem: Der „starre Bibliothekar"
Stellen Sie sich vor, Sie haben einen persönlichen Assistenten (einen KI-Agenten), der stunden-, tagelang oder sogar wochenlang mit Ihnen spricht. Um hilfreich zu sein, muss dieser Assistent sich an Dinge erinnern, die Sie früher gesagt haben.
Derzeit verwenden die meisten KI-Assistenten einen festen Satz von Regeln, um zu entscheiden, was sie sich merken sollen. Denken Sie dabei an einen Bibliothekar, der nur drei spezifische Stempel verwenden darf: „Speichern", „Löschen" oder „Ignorieren".
- Wenn Sie dem Bibliothekar sagen: „Ich hasse Brokkoli", stempelt er es mit „Speichern".
- Wenn Sie sagen: „Eigentlich liebe ich Brokkoli jetzt", muss er die alte Notiz manuell finden und mit „Löschen" stempeln.
Das Problem ist, dass diese Regeln von Menschen fest codiert sind. Sie ändern sich nicht je nach Situation. Wenn das Gespräch lang, komplex oder seltsam wird, gerät der Bibliothekar in Verwirrung, weil seine Stempel nicht zum neuen Szenario passen. Er ist starr, langsam und verpasst oft den Punkt.
Die Lösung: MemSkill (Das „formverändernde Werkzeugset")
Die Autoren dieses Papiers schlagen MemSkill vor, eine neue Methode für KI, um ihr Gedächtnis zu verwalten. Anstatt einen festen Satz von Stempeln zu verwenden, gibt MemSkill der KI eine Werkzeugkiste mit „Fertigkeiten", die sie erlernen, auswählen und sogar im Laufe der Zeit verbessern kann.
Stellen Sie es sich wie ein Schweizer Taschenmesser vor, das neue Klingen wachsen lassen kann.
1. Die Fertigkeiten (Die Klingen)
Anstatt nur „Speichern" oder „Löschen" zu haben, verfügt MemSkill über spezifische, wiederverwendbare Anweisungen, die Fertigkeiten genannt werden.
- Fertigkeit A: „Erfasse Zeit und Datum von Ereignissen."
- Fertigkeit B: „Verfolge, wo sich Objekte befinden."
- Fertigkeit C: „Beachte, wenn eine Person ihre Meinung ändert."
Diese Fertigkeiten sind wie Rezepte. Sie sagen der KI: „Wenn du ein Datum siehst, schreibe es so auf. Wenn du einen Ort siehst, schreibe es so auf."
2. Der Controller (Der Vorarbeiter)
Wenn die KI mit Ihnen spricht, fungiert ein „Controller" wie ein Bauvorarbeiter.
- Er betrachtet, was Sie gerade gesagt haben.
- Er wirft einen Blick auf die Fertigkeiten-Werkzeugkiste.
- Er wählt die top 3 oder 5 Fertigkeiten aus, die für diesen spezifischen Moment am nützlichsten sind.
- Er übergibt diese Fertigkeiten an die KI, um die Informationen zu verarbeiten.
Analogie: Wenn Sie über ein Kochrezept sprechen, wählt der Vorarbeiter die Fertigkeiten „Zutaten auflisten" und „Temperaturen notieren". Wenn Sie zum Thema Film wechseln, tauscht der Vorarbeiter diese gegen „Charakternamen merken" und „Handlungswendungen verfolgen" aus.
3. Der Designer (Der Trainer)
Dies ist der aufregendste Teil. Die meisten Systeme hören auf zu lernen, sobald sie gebaut sind. MemSkill verfügt über einen Designer, der wie ein Sporttrainer fungiert.
- Die KI versucht, Fragen mit ihren aktuellen Fertigkeiten zu beantworten.
- Manchmal scheitert sie. Vielleicht vergaß sie ein entscheidendes Detail, weil sie keine Fertigkeit für diese spezifische Art von Information hatte.
- Der Designer betrachtet diese Misserfolge (die „schwierigen Fälle").
- Er fragt eine fortschrittliche KI: „Warum sind wir gescheitert? Brauchen wir eine neue Fertigkeit? Müssen wir eine alte anpassen?"
- Der Designer schreibt dann neue Fertigkeiten oder repariert alte und fügt sie der Werkzeugkiste hinzu.
Analogie: Stellen Sie sich vor, eine Fußballmannschaft verliert ständig, weil sie nicht weiß, wie sie sich gegen eine bestimmte Art von Schuss verteidigen soll. Der Trainer (Designer) beobachtet das Spiel, erkennt die Lücke und erfindet eine neue Verteidigungsübung (eine neue Fertigkeit), um das Team zu unterrichten. Das Team wird bei jedem Spiel besser.
Wie es in der Praxis funktioniert
Das Papier beschreibt eine geschlossene Schleife:
- Lernen der Anwendung: Die KI übt, die richtigen Fertigkeiten zum Merken von Dingen auszuwählen.
- Evolution der Werkzeuge: Wenn die KI scheitert, repariert der Designer die Werkzeugkiste, indem er neue Fertigkeiten hinzufügt oder alte verfeinert.
- Wiederholung: Die KI beginnt mit der verbesserten Werkzeugkiste von vorne und wird intelligenter und anpassungsfähiger.
Was das Papier herausfand (Die Ergebnisse)
Die Forscher testeten MemSkill an vier verschiedenen Herausforderungen:
- Lange Gespräche: Sich an Details aus sehr langen Chats erinnern (wie ein 10-stündiges Dialog).
- Komplexe Fragen: Fragen beantworten, die das Verknüpfen von Punkten aus verschiedenen Teilen einer Geschichte erfordern (HotpotQA).
- Roboter-Aufgaben: Helfen einem virtuellen Roboter, ein Haus zu navigieren und Objekte zu finden (ALFWorld).
Die Ergebnisse:
- MemSkill schlug alle anderen Methoden (die „starreren Bibliothekare") bei fast allen Tests.
- Es war besser im Generalisieren: Als sie es auf einer Art von Aufgabe trainierten (wie Chatten) und es an einer völlig anderen testeten (wie Objekte in einem Haus finden), funktionierte es immer noch gut. Dies liegt daran, dass die gelernten Fertigkeiten flexibel waren und nicht nur auswendig gelernte Antworten.
- Es war effizienter: Indem es Textabschnitte gleichzeitig mit den richtigen Fertigkeiten verarbeitete, musste es die KI nicht so oft aufrufen wie die alten Methoden, was Zeit und Geld sparte.
Zusammenfassung
MemSkill verändert, wie KI sich Dinge merkt. Anstatt die KI zu zwingen, einem starren, von Menschen geschriebenen Regelbuch zu folgen, gibt es der KI einen flexiblen, sich entwickelnden Satz von Fertigkeiten. Die KI lernt, welche Fertigkeiten für den Job zu verwenden sind, und wenn sie einen Fehler macht, hilft ihr ein „Designer", neue Fertigkeiten zu erfinden, um zu verhindern, dass dieser Fehler erneut passiert. Es verwandelt das Gedächtnismanagement von einer statischen Liste von Regeln in ein selbstverbesserndes, anpassungsfähiges System.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.