MoEMory: Long-Term User Memory as a Routing Policy on Frozen Mixture-of-Experts Language Models

Stel je een digitale assistent voor die jou herinnert. Het onthoudt je favoriete koffiebestelling, de manier waarop je het liefst spreekt en de specifieke onderwerpen waar je van houdt. Jarenlang was het heersende idee om computers deze vorm van langetermijngeheugen te geven door nieuwe informatie in hun brein te dwingen. Onderzoekers hebben twee belangrijke manieren geprobeerd om dit te doen. De eerste is als het hardop voorlezen van een dagboek aan de computer voor elke vraag, waarbij de tekst direct in de onmiddellijke aandacht wordt geïnjecteerd. De tweede is als het herbedraden van de interne circuits van de computer, waarbij de gewichten permanent worden aangepast om het geheugen in de kernstructuur te bakken. Beide methoden werken tot op zekere hoogte, maar ze delen een verborgen gebrek: ze zijn invasief. Door nieuw materiaal aan de berekening van de computer toe te voegen, riskeren ze de machine in de war te brengen. Een geheugen over voetbal kan per ongeluk doorsijpelen in een vraag over muziek, waardoor de computer bij een vraag over een beroemde zanger de naam van een voetballer geeft. Dit is niet slechts een glitch; het is een fundamenteel bijproduct van hoe deze systemen zijn gebouwd, en het roept de serieuze vraag op of we ooit een echt behulpzame, gepersonaliseerde assistent kunnen hebben die niet constant de weg kwijtraakt.

Een onderzoeker aan de Universiteit van Cambridge heeft een ander pad voorgesteld, een pad dat deze verwarring vermijdt door de regels van de interactie volledig te veranderen. In plaats van nieuwe inhoud in de geest van de computer te injecteren, stellen zij voor om geheugen te gebruiken als een selector. Hun aanpak, die ze MoEMory noemen, rust op een specifiek type kunstmatige intelligentie-architectuur die bekend staat als een Mixture of Experts. Zie deze architectuur niet als een enkelvoudig, monolithisch brein, maar als een enorme bibliotheek van gespecialiseerde instrumenten, of "experts", waarbij er slechts enkele worden tevoorschijn gehaald om aan een specifieke taak te werken. In de standaardversie van deze modellen is de beslissing over welke instrumenten worden gebruikt vast en onveranderlijk. De onderzoeker realiseerde zich dat zij het geheugen van een gebruiker niet konden opslaan door de instrumenten zelf te veranderen, maar door de schakelaar die bepaalt welke instrumenten worden gekozen, licht aan te passen. Deze schakelaar is een eenvoudige bias die wordt toegepast voordat de selectie plaatsvindt, een kleine duw die het systeem vertelt: "Voor deze specifieke gebruiker, geef prioriteit aan deze specifieke instrumenten."

De genialiteit van deze methode ligt in wat het niet doet. Omdat de onderliggende instrumenten en de kernstructuur van de computer volledig bevroren en onaangetast blijven, kan het geheugen geen nieuwe capaciteiten uitvinden of het systeem dwingen dingen te zeggen die het nog niet weet hoe te zeggen. Het kan alleen de volgorde waarin bestaande capaciteiten worden gebruikt, herschikken. Als de computer al in staat is om in een formele toon te schrijven of over sport te discussiëren, zorgt het geheugen er simpelweg voor dat die specifieke modi vaker worden geactiveerd voor die gebruiker. Als de gebruiker een vraag stelt over een onderwerp dat totaal ongerelateerd is aan hun opgeslagen voorkeuren, keert het systeem terug naar zijn standaardgedrag, onbeïnvloed door het geheugen. Dit creëert een vorm van non-interferentie door ontwerp. Het geheugen is beperkt tot de grenzen van wat de bevroren computer al kan doen, wat de soort "over-memorizatie" voorkomt waarbij de specifieke obsessie van een gebruiker ongerelateerde antwoorden corrumpeert.

Om dit idee te testen, vergeleken de onderzoeker hun routing-gebaseerde systeem met de traditionele methoden van het injecteren van geheugen. Zij stelden een scenario op waarbij het geheugen van een gebruiker werd geïnstalleerd en de computer vervolgens een reeks vragen werd gesteld, waarvan sommige gerelateerd waren aan dat geheugen en vele volkomen ongerelateerd. De resultaten waren scherp. De traditionele methoden, die inhoud toevoegen aan de context of de gewichten van de computer, lekten het opgeslagen geheugen tussen de 45 en 62 procent van de tijd door in ongerelateerde vragen. De computer kwam consequent de specifieke interesses van de gebruiker naar voren, zelfs wanneer deze irrelevant waren. In contrast hiermee lekte de nieuwe routing-methode het geheugen slechts 0,7 procent van de tijd door in ongerelateerde queries. Dit vertegenwoordigt een enorme reductie in interferentie, ongeveer negentig keer schoner dan de voorheen beste benaderingen. De weinige keren dat het nieuwe systeem een spoor van het geheugen vertoonde, was dat precies in de gevallen waar de theorie voorspelde dat dit mogelijk zou zijn, wat bevestigde dat het systeem exact volgens ontwerp functioneerde.

De onderzoeker onderzocht ook hoe dit geheugen op twee verschillende manieren kan worden toegepast. De eerste is een statische benadering, waarbij het geheugen fungeert als een permanente dispositie, zoals de algemene stijl of persoonlijkheid van een gebruiker, die elke interactie beïnvloedt. De tweede is een dynamische benadering, waarbij het geheugen alleen wordt geactiveerd door de specifieke woorden in de huidige vraag, werkend als een poort die alleen opengaat wanneer de juiste sleutel wordt omgedraaid. Beide methoden werken zonder dat er opnieuw getraind hoeft te worden of extra verwerkingstijd nodig is tijdens het gesprek. Het systeem leest de geschiedenis van de gebruiker simpelweg één keer om de bias in te stellen, en werkt vervolgens met die bias permanent in plaats. Dit betekent dat de computer de voorkeuren van een gebruiker kan onthouden zonder ooit een geschiedenislogboek te hoeven opslaan of eerdere gesprekken te hoeven afspelen. Het is een lichte, efficiënte manier om een machine te personaliseren die de kernkennis van de machine intact houdt en het gedrag voorspelbaar maakt.

De bevindingen suggereren dat de toekomst van gepersonaliseerde kunstmatige intelligentie niet ligt in het groter of complexer maken van modellen, maar in het vinden van slimmere manieren om hun bestaande kracht te sturen. Door geheugen te behandelen als een selectiebeleid in plaats van een injectie van gegevens, heeft de onderzoeker aangetoond dat het mogelijk is om assistenten te creëren die onthouden wie je bent zonder te vergeten hoe ze in andere contexten behulpzaam kunnen zijn. Deze aanpak respecteert de grenzen van de capaciteiten van de machine, waardoor personalisatie de ervaring verbetert in plaats van deze te verstoren. Hoewel het systeem geen nieuwe feiten kan opslaan die de computer niet al kent, blinkt het uit in de subtiele, dispositionele taken die een goede persoonlijke assistent definiëren: weten wat je toon, je stijl en je voorkeuren zijn, en deze op het juiste moment toe te passen. In een vakgebied dat vaak geobsedeerd is door het toevoegen van meer data, biedt dit werk een stille, krachtige herinnering dat de meest effectieve manier om te onthouden soms simpelweg is om te weten welke delen van jezelf je naar voren moet brengen.