Kunstmatige intelligentie heeft een punt bereikt waarop grote taalmodellen als agenten kunnen fungeren, in staat om te plannen, hulpmiddelen te gebruiken en door het web te navigeren om complexe problemen op te lossen. Om dit effectief te doen, hebben deze agenten een manier nodig om dingen te onthouden, vergelijkbaar met hoe een mens vertrouwt op langetermijngeheugen om lessen uit het verleden, feiten en strategieën te herinneren. Het bouwen van dit geheugen voor een machine is echter niet zo eenvoudig als het toevoegen van een enkel schrift. Het houdt een reeks beslissingen in: welke informatie moet worden opgeschreven, hoe het moet worden opgeslagen, hoe de agent het vindt wanneer dat nodig is, en hoe oude of nutteloze vermeldingen worden verwijderd. Jarenlang hebben onderzoekers deze geheugensystemen met de hand gebouwd, waarbij ze één specifiek ontwerp kozen en zich aan dat ontwerp hielden voor elke taak. Maar net zoals een timmerman niet voor elke klus hetzelfde gereedschap zou gebruiken, faalt een eenheidsworst-geheugensysteem vaak wanneer de taak verandert.

Een team van onderzoekers van East China Normal University en het Shanghai AI Laboratory heeft dit probleem aangepakt door geheugen niet te behandelen als een vaststaand uitvinding, maar als een puzzel die voor elke specifieke opdracht moet worden opgelost. Ze bouwden een systeem genaamd AUTOMEM, dat automatisch naar het beste mogelijke geheugendesign zoekt voor een gegeven taak. In plaats van dat een menselijke ingenieur raadt welke combinatie van opslag- en ophaalmethoden het beste werkt, test dit systeem duizenden verschillende configuraties, leert van zijn fouten en verfijnt zijn keuzes totdat het een opstelling vindt die zelfs de meest bekwame door mensen ontworpen systemen overtreft. Het resultaat is een geheugenarchitectuur die zich aanpast aan de specifieke behoeften van het probleem, of het nu gaat om het navigeren op een website, het oplossen van een meerstaps redeneeruitdaging of het diepgaand doorzoeken van zoekresultaten.

De onderzoekers begonnen het concept van agentgeheugen onder te verdelen in vier afzonderlijke delen, vergelijkbaar met hoe een bibliotheek is georganiseerd. Ten eerste is er de encoder, die beslist welke informatie het waard is om te bewaren. Ten tweede is er de opslag (store), die bepawoord hoe die informatie wordt bewaard, zoals in een eenvoudige lijst, een complex web van verbindingen of een gestructureerde database. Ten derde is er de retriever, het mechanisme dat de juiste informatie vindt wanneer de agent deze nodig heeft. Ten slotte is er de manager, die de levenscyclus van het geheugen beheert door oude of conflicterende gegevens te verwijderen om het systeem efficiënt te houden. Door verschillende opties voor elk van deze vier onderdelen te combineren, creëerden de onderzoekers een enorme ruimte van mogelijke geheugendesigns. Hun initiële experimenten onthulden een cruciale waarheid: geen enkel ontwerp werkt het beste voor alles. Een geheugensysteem dat uitblinkt bij het oplossen van wiskundeproblemen, kan rampzalig falen bij het navigeren op een website, en de beste combinatie voor het ene computermodel kan slecht zijn voor een ander.

Om door deze enorme ruimte van mogelijkheden te navigeren zonder tijd en rekenkracht te verspillen, ontwikkelde het team een methode die leert van falen. Wanneer het systeem een geheugendesign probeert en de agent er niet in slaagt een taak op te lossen, gooit het systeem de poging niet zomaar weg. In plaats daarvan treedt het op als een zorgvuldige onderzoeker die analyseert waar precies de breuk ontstond. Faalde de agent omdat hij nooit de juiste aanwijzing had opgeschreven? Was de informatie opgeslagen in een formaat dat onmogelijk te vinden was? Haalde het de verkeerde herinnering op? Of hield het te veel verouderde informatie vast? Het systeem lokaliseert het specifieke deel van het geheugenproces dat de fout veroorzaakte en vertaalt die technische fout naar instructies in gewone taal. Het zegt tegen het zoekproces: "Het probleem zat in de manier waarop de gegevens werden opgeslagen; probeer de volgende keer een ander formaat."

Dit proces van diagnose en aanpassing vindt plaats in een lus. Het systeem stelt een nieuw geheugendesign voor op basis van wat het heeft geleerd van eerdere fouten, test het, en analyseert vervolgens de resultaten opnieuw. Na slechts enkele ronden van deze zelfverbetering convergeert het systeem naar een zeer effectieve architectuur. In hun tests gebruikten de onderzoekers drie verschillende uitdagende benchmarks: een set complexe redeneervragen, een reeks diepe webnavigatietaken en een collectie moeilijke zoekopdrachten. Ze voerden deze tests uit met twee verschillende krachtige computermodellen als de agenten. In elk geval was de geheugenarchitectuur die door het systeem werd ontdekt superieur aan de beste door mensen ontworpen alternatieven. Op de benchmark voor redeneren verbeterde het systeem de nauwkeurigheid met bijna vier procentpunten vergeleken met het sterkste vaste geheugensysteem. Op de webnavigatietaak verbeterde de nauwkeurigheid ook met bijna vier punten, en op de diepe zoekuitdaging won het één volledig procentpunt.

Naast het simpelweg nauwkeuriger te zijn, bewees het systeem ook efficiënter te zijn. De geheugendesigns die het vond, vereisten vaak minder rekenbronnen om uit te voeren. Bijvoorbeeld, op de benchmark voor redeneren bereikte het systeem deze hogere nauwkeurigheid terwijl het aanzienlijk minder tokens gebruikte, wat een maatstaf is voor de computationele kosten van tekstverwerking. Dit suggereert dat het systeem niet alleen een manier vond om harder te werken, maar een manier om slimmer te werken. Het ontdekte dat voor sommige taken de beste aanpak was om informatie op te slaan in een graafachtige structuur die gerelateerde feiten aan elkaar koppelt, terwijl voor andere taken een eenvoudige gestructureerde lijst effectiever was. Voor webnavigatie ontdekte het dat een mix van tekst en gestructureerde gegevens het beste werkte, terwijl het voor diepe zoekopdrachten de voorkeur gaf aan een systeem dat in staat is om eerdere oplossingen gemakkelijk opnieuw te rangschikken om de meest relevante te vinden.

De onderzoekers testten ook of hun methode echt leerde of gewoon geluk had. Ze vergeleken hun geleide zoektocht met een methode die simpelweg geheugendesigns willekeurig koos. De willekeurige methode vond af en toe een goed ontwerp, maar was inconsistent en verspilde vaak middelen door ontwerpen te testen die duidelijk inferieur waren. Het geleide systeem verbeterde daarentegen gestaag bij elke ronde van testen en vond een betere oplossing in de helft van de tijd en met de helft van de computationele kosten van de willekeurige aanpak. Dit bevestigde dat het vermogen van het systeem om fouten te diagnosticeren en deze te vertalen naar specifieke instructies de sleutel tot zijn succes was. Zonder deze feedbackloop worstelde het systeem om te verbeteren en kwam het vaak vast te zitten in ontwerpen die kostbaar maar ineffectief waren.

De studie concludeert dat de toekomst van kunstmatige intelligentie-agenten niet ligt in het bouwen van één enkel, perfect geheugensysteem, maar in het creëren van systemen die hun geheugen kunnen aanpassen aan de taak die voorhanden is. De onderzoekers ontdekten dat het beste geheugendesign sterk afhangt van de specifieke aard van het werk dat de agent doet en van het computermodel waarop het draait. Een ontwerp dat werkt voor de ene agent bij een bepaald type probleem, kan een hindernis vormen voor een andere. Door het zoeken naar deze ontwerpen te automatiseren, hebben de onderzoekers aangetoond dat het mogelijk is om agenten te bouwen die niet alleen slimmer, maar ook efficiënter zijn. Het werk suggereert dat naarmate kunstmatige intelligentie meer geïntegreerd raakt in complexe real-world taken, het vermogen om dynamisch af te stemmen hoe een agent informatie onthoudt en gebruikt, net zo belangrijk zal zijn als de intelligentie van de agent zelf. Het systeem vervangt menselijke vindingrijkheid niet, maar breidt deze juist uit, waardoor computers de juiste instrumenten voor de taak kunnen vinden op een manier die te complex is om door een mens handmatig te ontwerpen.