Stel je een gesprek voor dat maanden of jaren voortduurt, waarbij een persoon vragen stelt over gebeurtenissen die lang geleden hebben plaatsgevonden, of feiten aan elkaar knoopt die verspreid zijn over tientallen eerdere uitwisselingen. Het bijhouden van deze enorme geschiedenis is een monumentale taak voor een computerprogramma dat is ontworpen om als een behulpzame assistent te fungeren. Deze programma's, vaak agenten genoemd, slaan hun eerdere interacties op in een externe bibliotheek van herinneringen. Het hebben van een bibliotheek is echter niet hetzelfde als weten hoe je het juiste boek moet vinden. Wanneer een nieuwe vraag binnenkomt, moet het systeem door duizenden opgeslagen herinneringen zoeken om de weinige te vinden die daadwerkelijk nuttig zijn. Traditioneel gebruikt het systeem een snelle, brede zoekopdracht gebaseerd op woordovereenkomst, en als het nauwkeuriger moet zijn, vraagt het een krachtig taalmodel om de vraag en de kandidaat-herinneringen te lezen om de relevantie te beoordelen. Maar hier schuilt een frustrerende inefficiëntie: elke keer dat er een nieuwe vraag wordt gesteld, begint het systeem vanaf nul. Het vergeet de lessen die het leerde van de vorige keer dat het zocht, en gooit de scores die het heeft berekend en de patronen die het opmerkte weg, alsof het een student is die studeert voor een examen, alles direct na het examen vergeet, en dan opnieuw hetzelfde materiaal moet leren voor het volgende examen.

Onderzoekers van The Chinese University of Hong Kong, Shenzhen, hebben een manier voorgesteld om deze cyclus van vergeten te doorbreken. Ze introduceerden een nieuw framework genaamd EARM, wat staat voor Experience-Amortized Reranking for Memory. De kern van het idee is simpel maar diepgaand: het systeem moet niet alleen de inhoud van eerdere gesprekken onthouden, maar ook onthouden hoe het in het verleden informatie succesvol heeft gevonden. In plaats van het beoordelen van relevantie als een eenmalige kostenpost te behandelen, hebben de onderzoekers een systeem ontworpen dat deze beoordelingen behandelt als een vorm van ervaring die zich gedurende de levensloop van de agent cumuleert. Door een verslag bij te houden van welke herinneringen nuttig waren voor welke soorten vragen, leert het systeem een kaart van zijn eigen geheugen. Deze kaart stelt het systeem in staat om de relevantie van nieuwe herinneringen te voorspellen zonder dat het een krachtig taalmodel hoeft te vragen om elke individuele herinnering te lezen.

In hun experimenten testten de onderzoekers deze aanpak op een dataset van lange gesprekken die complexe vragen bevatten die vereisten dat de agent informatie uit verschillende tijden verbond. Ze vergeleken hun nieuwe methode met twee standaardbenaderingen: een basisysteem dat alleen vertrouwt op woordovereenkomst, en een krachtiger systeem dat het taalmodel vraagt om elke kandidaat-herinnering te scoren. De resultaten lieten zien dat de nieuwe methode, die gebruikmaakt van een combinatie van directe scoring en geleerde voorspellingen, de basismethode aanzienlijk overtrof. Het verbeterde de nauwkeurigheid van de antwoorden met wel 6,62 procent, een substantiële winst in een veld waar kleine verbeteringen moeilijk te realiseren zijn. Misschien nog belangrijker is dat het systeem zeer effectief bleef, zelfs wanneer het slechts een fractie van de kandidaten mocht direct scoren—specifiek, slechts 17,5 procent. In deze ijle setting gebruikte het systeem zijn geaccumuleerde ervaring om de gaten op te vullen, door de relevantie van de resterende herinneringen te schatten op basis van de patronen die het had geleerd van eerdere interacties.

Het mechanisme achter dit succes berust op het idee dat relevantie niet willekeurig is. Bepaalde herinneringen blijken nuttig te zijn voor specifieke soorten vragen, en bepaalde vragen neigen naar vergelijkbare patronen van relevantie over verschillende herinneringen heen. De onderzoekers bouwden een systeem dat deze verbindingen op een gestructureerde manier vastlegt. Wanneer een nieuwe vraag arriveert, selecteert het systeem een kleine, strategische steekproef van herinneringen om het taalmodel direct te laten scoren. Vervolgens gebruikt het de geschiedenis van eerdere scores om de relevantie van de rest te schatten. Dit proces is vergelijkbaar met hoe een ervaren bibliothecaris weet dat een bezoeker die vraagt naar een specifieke historische gebeurtenis waarschijnlijk een bepaald pakket documenten nodig heeft, zelfs als de bezoeker die nog niet expliciet heeft genoemd. Het systeem raadt niet blindelings; het gebruikt de "ervaring" van eerdere zoekopdrachten om zijn zoektocht te leiden, en leert zo effectief hoe het toegang krijgt tot zijn eigen kennisbank.

Een van de meest opvallende bevindingen was dat het systeem het grootste deel van de voordelen van een volledige, uitputtende zoekopdracht kon terugwinnen terwijl het slechts een kwart van de computationele inspanning gebruikte. Tegen de tijd dat het systeem genoeg vragen had verwerkt om een robuuste geschiedenis op te bouwen, kon het zeer nauwkeurige beslissingen nemen met zeer weinig nieuwe input. De onderzoekers ontdekten dat de herinneringen die via deze geleerde schattingen werden geselecteerd, niet slechts opvulling waren; ze voegden een meetbare hoeveelheid waarde toe, waardoor de kwaliteit van het uiteindelijke antwoord met nog eens 0,78 tot 2,79 procent verbeterde bovenop wat de direct gescoorde herinneringen op hun eigen kunnen boden. Dit suggereert dat het systeem succesvol nuttige informatie identificeerde die de initiële, snelle zoekopdracht had gemist, simpelweg door de onderliggende structuur van zijn eigen geheugen te herkennen.

De studie benadrukte ook een verschuiving in hoe we over het geheugen van kunstmatige intelligentie kunnen denken. Traditioneel ligt de focus op het opslaan van meer informatie of het beter representeren ervan. Dit werk suggereert dat een werkelijk langdurige agent ook moet leren hoe hij die informatie efficiënt kan ophalen. De onderzoekers betogen dat een agent niet alleen inhoud moet accumuleren, maar ook ervaring moet opbouwen over hoe die inhoud nuttig is gebleken. Door retrieval-scores te behandelen als een persistente staat in plaats van een wegwerpbaar bijproduct, transformeert het systeem de handeling van het zoeken van een repetitieve uitgave naar een geleerde capaciteit. Deze aanpak stelt de agent in staat om slimmer te worden over de tijd, niet alleen door meer te weten, maar door beter te worden in het vinden van wat hij al weet.

De onderzoekers erkennen dat deze methode afhankelijk is van bepaalde voorwaarden om effectief te werken. Het gaat ervan uit dat de vragen die gedurende de tijd worden gesteld, enkele gemeenschappelijke thema's of structuren delen, en dat de herinneringen zelf stabiel blijven. Als elke vraag volledig ongerelateerd zou zijn aan de vorige, of als de betekenis van de opgeslagen herinneringen snel zou veranderen, zou het systeem moeite hebben om patronen te leren. Echter, in de context van langdurige gesprekken waarbij gebruikers vaak terugkeren naar vergelijkbare onderwerpen of voortbouwen op eerdere ideeën, bleek de methode robuust. Het systeem was in staat om zijn voordeel te behouden, zelfs wanneer het aantal directe scores afnam, wat aantoont dat de geaccumuleerde ervaring een betrouwbare gids was.

Uiteindelijk biedt dit onderzoek een nieuw perspectief op de efficiëntie van kunstmatige intelligentie. Het demonstreert dat de kosten voor het slimmer maken van een systeem niet lineair hoeven te groeien met de hoeveelheid informatie die het bevat. Door het systeem te laten onthouden hoe het zijn eigen zoekgeschiedenis, hebben de onderzoekers aangetoond dat het mogelijk is om agenten te bouwen die zowel deskundig als efficiënt zijn. Het systeem hoeft niet alles telkens opnieuw te evalueren vanaf nul; het kan staan op de schouders van zijn eerdere beslissingen. Deze aanpak brengt het veld dichter bij het creëren van agenten die werkelijk over lange perioden kunnen opereren, waarbij ze hun gedrag aanpassen en verfijnen terwijl ze met de wereld interageren, net zoals een mens die niet alleen leert van wat hij ervaart, maar ook van hoe hij door zijn eigen geschiedenis navigeert.