🤖 machine learning

Rosetta Memory: Adaptive Memory for Cross-LLM Agents

Het artikel introduceert Rosetta Memory, een geheugencentrisch framework dat gebruikmaakt van gezamenlijk getrainde, profielgeconditioneerde operatoren en een minimum-winst sampling-curriculum om adaptieve geheugendeling en robuuste prestaties mogelijk te maken over diverse en frequent gewisselde grote taalmodellen.

Oorspronkelijke auteurs: Hao Yang, Shiqi Shen, Haoxuan Li, Zhipeng Wang, Zhi Gong, Xu Chen

Gepubliceerd 2026-06-09

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Hao Yang, Shiqi Shen, Haoxuan Li, Zhipeng Wang, Zhi Gong, Xu Chen

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Problem: De "Lost in Translation" Agent

Stel je voor dat je een team van werkers (AI-agents) hebt die proberen een complex mysterie op te lossen, zoals een detectiveverhaal. Om dit op te lossen, moeten ze briefjes naar elkaar doorgeven.

Werker A is een snelle, informele programmeur die aantekeningen maakt in korte, vlugge opsommingstekens.
Werker B is een trage, zorgvuldige schrijver die volledige, beleefde zinnen nodig heeft om dingen te begrijpen.
Werker C is een visuele denker die informatie georganiseerd in een tabel nodig heeft.

In het verleden, als Werker A een briefje schreef en dit aan Werker B gaf, raakte Werker B vaak in de war. Het briefje was geschreven in de "taal van Werker A", niet in de "taal van Werker B". Het team verloor de draad van de aanwijzingen, vergat belangrijke details of begreep de instructies niet. Dit is wat er gebeurt wanneer verschillende Large Language Models (LLM's) proberen geheugen te delen: de "taal" van het geheugen komt niet overeen met de "taal" van de lezer.

De Oplossing: Rosetta Memory (RoMem)

De auteurs creëerden een systeem genaamd Rosetta Memory. Zie dit als een universele vertaler en een gespecialiseerde notaris voor je AI-team.

In plaats van elke werker te dwingen om op dezelfde manier te schrijven, zit Rosetta Memory in het midden en past de aantekeningen aan op basis van wie er schrijft en wie er leest.

Het gebruikt twee speciale hulpmiddelen (operators):

De "Vertaler" (Write Operator): Wanneer een werker een aantekening maakt, kijkt dit hulpmiddel naar wie het geschreven heeft. Het neemt hun ruwe, slordige aantekeningen en herschrijft ze naar een "gestandaardiseerd" formaat dat voor iedereen later gemakkelijk te begrijpen is. Het verwijdert de persoonlijke eigenaardigheden van de schrijver.
De "Adapter" (Read Operator): Wanneer een werker een aantekening moet lezen, kijkt dit hulpmiddel naar wie er leest. Het neemt die gestandaardiseerde aantekening en geeft het de specifieke vorm die deze lezer verkiest (bijvoorbeeld een paragraaf omzetten in een tabel voor de visuele denker, of in een lijst met opsommingstekens voor de programmeur).

Hoe ze het Systeem hebben Geleerd

Om dit systeem te leren hoe het moet werken, hebben de onderzoekers het niet aan slechts één type werker laten zien. Ze creëerden een "trainingskamp" met veel verschillende soorten AI-modellen (sommige snel, sommige traag, sommigen van verschillende bedrijven).

Ze gebruikten een slimme trainingsmethode genaamd "Minimum-Gain Sampling."

Stel je een leraar voor die merkt dat de "trage, zorgvuldige schrijver" (Werker B) het het moeilijkst heeft met het begrijpen van de aantekeningen.
In plaats van te oefenen met de makkelijke studenten, dwingt de leraar het systeem om extra hard te oefenen met de studenten die het moeilijk hebben.
Dit zorgt ervoor dat het systeem heel goed wordt in het helpen van de modellen die normaal gesproken achterblijven, in plaats van alleen maar goed te worden in het gemiddelde geval.

Ze gebruikten ook een "scorekaart" die alleen punten gaf als het systeem daadwerkelijk de prestaties van het team verbeterde vergeleken met het simpelweg doorgeven van ruwe aantekeningen. Dit zorgde ervoor dat het systeem leerde te vertalen, en niet alleen antwoorden te memoriseren.

Wat ze Vonden

De onderzoekers testten dit op drie verschillende "mysterie"-spellen (datasets genaamd HotpotQA, 2WikiMultihopQA en MuSiQue) waarbij de AI meerdere aanwijzingen moest verbinden om een antwoord te vinden.

Het Resultaat: Teams die Rosetta Memory gebruikten, losten de mysteries veel beter op dan teams met standaardmethoden.
De "Onbekende" Test: Zelfs toen ze het systeem testten met een nieuw type werker dat ze tijdens de training nog nooit hadden gezien, werkte het nog steeds goed. Het systeem ging niet kapot wanneer de samenstelling van het team veranderde.
De "Mismatch" Bewijsvoering: Ze lieten zien dat zonder dit systeem, als je halverwege een taak van werkers wisselt, het team vaak faalt omdat de aantekeningen niet logisch zijn voor de nieuwe werker. Met Rosetta Memory maken de aantekeningen altijd zin, ongeacht wie ze leest.

In een Notendop

Rosetta Memory is een slimme tussenpersoon die ervoor zorgt dat AI-agents naadloos aantekeningen kunnen uitwisselen, zelfs als ze verschillende "talen" spreken of verschillende stijlen hebben. Het vertaalt het geheugen wanneer het wordt geschreven en past het aan wanneer het wordt gelezen, zodat het hele team op één lijn blijft, ongeacht welk specifiek AI-model op welk moment het werk doet.

Technische Samenvatting: Rosetta Memory (RoMem)

1. Probleemdefinitie: Cross-LLM Geheugensmismatch

Het artikel adresseert een kritieke kloof in de implementatie van Large Language Model (LLM) agenten: de aanname dat geheugensystemen zijn ontworpen voor een enkele, statische backbone. In de praktijk wisselen agenten frequent tussen verschillende LLM's (bijvoorbeeld Claude gebruiken voor coderen en GPT voor schrijven, of stappen routeren naar verschillende modellen voor kostenefficiëntie). De auteurs identificeren dat geheugen dat door het ene model is geschreven, vaak niet effectief geconsumeerd kan worden door een ander model vanwege twee primaire bronnen van mismatch:

Write-Side Divergence (Afwijking aan de schrijfzijkant): Verschillende bron-LLM's produceren, bij dezelfde staat, verschillende acties en slaan daarom verschillende inhoud op in het geheugen.
Read-Side Sensitivity (Gevoeligheid aan de leeszijde): Zelfs semantisch equivalente geheugene entries kunnen leiden tot verschillende resultaten voor de agent wanneer ze gelezen worden door verschillende doel-LLM's, vanwege variaties in prompt-gevoeligheid en contextinterpretatie.

De auteurs formaliseren het Cross-LLM Memory Adaptation Problem: Hoe kan het geheugensysteem van een agent zich aanpassen zodat geheugen dat door een upstream LLM is geschreven, een downstream LLM effectief activeert, ongeacht de specifieke modellen die betrokken zijn bij het traject? Het doel is om de verwachte return te maximaliseren over alle mogelijke modelto assignments in een heterogene pool, in plaats van te optimaliseren voor een enkele vaste backbone.

2. Methodologie: Rosetta Memory (RoMem)

RoMem verschuift het perspectief van "LLM-centrisch geheugendesign" naar "geheugencentrische LLM-adaptatie." Het behandelt geheugen als een overdraagbare interface tussen upstream schrijvers en downstream lezers.

Kernarchitectuur

Het systeem introduceert twee leerbare, LLM-bewuste operatoren:

Write Operator ( $f_{write}$ ): Neemt de identifier (profiel) van de bron-LLM, de observatie en de actie, en genereert een gedestilleerde, genormaliseerde geheugene entry.
Read Operator ( $f_{read}$ ): Neemt de identifier (profiel) van de doel-LLM, de huidige observatie en de geheugenbank, en genereert een prompt-klare context die is aangepast voor de specifieke lezer.

Profielconditionering

Om diverse modellen te kunnen afhandelen zonder de operatoren voor elk specifiek model te finetunen, gebruikt RoMem profiel-embeddings. Elk LLM is geassocieerd met een lichtgewicht profielrecord (model ID, tekstuele beschrijving, metadata zoals backend, familie, schaal). Een leerbare mappingfunctie $g$ zet deze profielen om in continue vectoren (soft prefix tokens) die zowel $f_{write}$ als $f_{read}$ conditioneren. Dit stelt de operatoren in staat om te generaliseren naar ongeziene LLM's door hun "stijl" en capaciteiten te begrijpen.

Trainingsstrategie

De operatoren worden getraind met een Expert Iteration loop met twee specifieke innovaties om robuustheid over de heterogene modelpool te waarborgen:

Counterfactual Gain Reward: Om de bijdrage van de geleerde operatoren te isoleren van de intrinsieke capaciteit van de LLM's, berekent het systeem een prestatiekloof ( $\Delta R$ ). Dit is het verschil tussen de beloning behaald met de geleerde operatoren en een naïeve baseline (ruwe geheugen-concatenatie). Dit zorgt ervoor dat het model leert de prestaties specif kind te verbeteren door middel van adaptatie, en niet enkel door een sterke backbone te benutten.
Minimum-Gain Sampling Curriculum: Tijdens de training geeft het systeem prioriteit aan "onderbediende" LLM's—die met de laagste counterfactual gain. De sampling-waarschijnlijkheid voor een model in stap $t$ is vertekend richting modellen met een lage $\Delta R$ en wordt ook gediversifieerd door embedding-afstand om gedragsdiversiteit binnen een enkel traject te waarborgen. Dit voorkomt dat het model overfit op hoogpresterende paren en zorgt voor dekking voor moeilijke modelcombinaties.

3. Belangrijkste Bijdragen

Probleemformalisering: Het artikel toont empirisch aan (via pilotstudies op HotpotQA, 2WikiMultihopQA en MuSiQue) dat geheugensmismatch een significant probleem is in cross-LLM settings en definieert formeel het cross-LLM geheugenadaptatieprobleem.
Rosetta Memory (RoMem): Een nieuw framework dat profiel-geconditioneerde write en read operatoren gezamenlijk leert om geheugen te adapteren voor heterogene agenten.
Trainingsinnovaties: De introductie van een minimum-gain sampling curriculum om de dekking van onderpresterende modelparen te verbeteren en een performance-gap reward om de bruikbaarheid van de operator te ontkoppelen van de backbone-sterkte.
Empirische Validatie: Uitgebreide experimenten tonen aan dat RoMem beter presteert dan geheugen-vrije baselines (CoT, Self-Ask), raw-buffer baselines (Step-Accumulate) en gestructureerde geheugen-baselines (Mem0, Memento).

4. Experimentele Resultaten

De auteurs evalueerden RoMem op drie multi-hop QA-datasets: HotpotQA, 2WikiMultihopQA en MuSiQue.

Algemene Prestaties: RoMem behaalde consistent de hoogste scores in Exact Match (EM), F1 en semantische accuratesse (AccLLM) over alle datasets. Met name op de moeilijke MuSiQue-dataset liet het duidelijke marges zien in F1 en AccLLM, wat wijst op een effectieve preservatie van gedeeltelijk bewijs over complexe ketens.
Ablatie-studies: Het verwijderen van de profielconditionering of de write operator degradeerde de prestaties aanzienlijk, wat bevestigt dat zowel de adaptatie van de geheugeninhoud als de adaptatie van de presentatie aan het doelmodel noodzakelijk zijn.
Generalisatie naar Ongeziene Modellen: Wanneer getest op zes gehouden modellen (bijv. gpt-5-mini, deepseek-reasoner) die niet tijdens de training zijn gezien, behield RoMem een robuuste prestatie en presteerde het vaak beter dan baselines, zelfs wanneer het aantal ongeziene modellen in het traject toenam.
Minimum-Gain Sampling: Sensitiviteitsanalyse toonde aan dat matige herweging (bijv. $\eta \approx 1.2$ tot $1.6$) de prestaties verbetert, terwijl te sterke herweging nadelig kan zijn.
Kwalitatieve Analyse: Inspecties toonden aan dat de write operator er succesvol in slaagt om bron-model onzekerheid en zoekinstructies te verwijderen, terwijl de read operator de ordening en explicietheid van feiten aanpast aan de voorkeuren van het doelmodel (bijv. tabelformaat voor Gemini versus chain-of-thought voor Claude).

5. Betekenis en Claims

Het artikel claimt dat het opslaan van bewijslast onvoldoende is; het geheugen moet worden geschreven en gelezen in een vorm die is aangepast aan de specifieke LLM die het consumeert. Door geheugen te behandelen als een overdraagbare interface, stelt RoMem heterogene LLM-agenten in staat om episode-geheugen effectief te delen, wat de noodzaak voor redundante berekeningen vermindert en de robuustheid verhoogt wanneer modellen worden gewisseld vanwege kosten, latentie of beschikbaarheid.

De auteurs positioneren dit werk als een "eerste stap" naar geheugencentrische adaptatie. Ze erkennen beperkingen en merken op dat hun evaluatie beperkt is tot gecontroleerde multi-hop QA-episodes met vaste bewijsketens en nog geen open-ended webnavigatie of zeer lange-horizon planning dekt. Ze waarschuwen ook dat geleerde geheugeninterfaces potentieel biases of fouten kunnen verspreiden als ze niet zorgvuldig worden geaudit, wat wijst op de noodzaak van dataminimalisatie en menselijke inspectie in scenario's met hoge inzet.