A Model That Does Not Forget. A Logbook That Corrects and a Sleep That Consolidates, on a Frozen Language Model
Dieses Paper präsentiert ein Gedächtnissystem für eingefrorene Sprachmodelle, das ein externes Logbuch mit periodischer LoRA-basierter Konsolidierung kombiniert und dabei eine hohe Genauigkeit sowie Stabilität über die Zeit erreicht, während es die Rechenkosten im Vergleich zu Knowledge-Editing- und RAG-Methoden signifikant reduziert, wenngleich es noch mit scheinbarer Komposition bei ungelehrten Relationen zu kämpfen hat.