In de wereld van kunstmatige intelligentie bestaat een langdurig geloof dat een slim systeem nooit mag vergeten. Dit idee, bekend als continu leren, suggereert dat een AI-agent, wanneer deze nieuwe informatie tegenkomt, deze zorgvuldig in zijn bestaande kennisbasis moet weven, waarbij elke nuttige les uit het verleden wordt bewaard. De angst is altijd geweest dat als een systeem iets nieuws leert, het per ongeluk oude, waardevolle vaardigheden die het ooit bezat, zou kunnen overschrijven of verliezen. Dit is een serieus probleem voor machines die over lange perioden moeten opereren, maar het gaat ervan uit dat alle oude kennis even waardevol is. Voor de complexe AI-agenten die tegenwoordig bedrijven aansturen, is deze aanname gebrekkig. In de echte wereld van financiën, recht en logistiek is de omgeving niet statisch; klanten veranderen van mening, regelgeving wordt herschreven, hulpmiddelen worden bijgewerkt en marktomstandigheden verschuiven. In een dergelijk vloeiend landschap kan het vasthouden aan elke ervaring uit het verleden een last worden. Een AI die een strategie onthoudt uit een rustige markt, kan deze tijdens een crisis rampzalig toepassen, of een systeem dat een verouderd beleid herinnert, kan beslissingen nemen die de huidige wetgeving schenden. De uitdaging is daarom niet alleen om meer te onthouden, maar om te weten wanneer men moet stoppen met het gebruiken van wat ooit waar was.

Een nieuwe paper stelt een oplossing voor dit dilemma voor door te herformuleren hoe AI met zijn geheugen omgaat. De onderzoekers betogen dat voor enterprise-agenten het doel niet moet zijn om retentie te maximaliseren, maar om een kennislevenscyclus te beheren waarbij informatie tijdelijk opzij kan worden gezet zonder te worden gewist. Ze introduceren een concept genaamd "omkeerbaar vergeten". In plaats van vergeten te zien als een falen of een permanente verwijdering, behandelen ze het als een gecontroleerd proces waarbij verouderde informatie wordt onderdrukt voor normaal gebruik, maar veilig wordt bewaard in een slapende staat, klaar om teruggebracht te worden als de wereld op een manier verandert waardoor het weer relevant wordt. Deze benadering maakt onderscheid tussen kennis die echt weg is en kennis die simpelweg wacht op het juiste moment om terug te keren.

Om dit idee werkbaar te maken, ontwierpen de auteurs een framework met drie verschillende staten voor het geheugen: actief, latent en gepensioneerd. Actieve kennis is wat de AI op dit moment gebruikt om beslissingen te nemen. Latente kennis is informatie die momenteel irrelevant of potentieel schadelijk is, waardoor het systeem deze onderdrukt, maar de informatie blijft opgeslagen en herstelbaar. Gepensioneerde kennis is informatie die officieel is gemarkeerd voor verwijdering, hoewel zelfs dit verschilt van permanente wissen, wat een aparte, strikte juridische procedure zou vereisen. De kerninnovatie is het vermogen om informatie tussen deze staten te bewegen op basis van bewijs. Als een stuk kennis niet langer nuttig is, beweegt het naar de latente staat. Als de omgeving verschuift naar een conditie waarin die kennis weer nuttig is, kan het systeem deze reactiveren. Dit voorkomt dat de AI fouten maakt op basis van verouderde gegevens, terwijl het ervoor zorgt dat het niet het vermogen verliest om zich aan te passen wanneer oude patronen opnieuw verschijnen.

De onderzoekers testten dit concept door een specifieke controller te creëren, die zij een "Hysteretic Reversible Memory Controller" noemen. Dit systeem fungeert als een zorgvuldige poortwachter. Het wisselt een geheugenstaat niet op basis van één slechte dag of één goede dag. In plaats daarvan verzamelt het bewijs over een langere periode. Om kennis van de actieve naar de latente staat te verplaatsen, vereist het systeem een consistent patroon van lage relevantie, wat ervoor zorgt dat een tijdelijke glitch niet de oorzaak is dat de AI iets belangrijks laat vallen. Om de andere kant op te gaan, om latente kennis weer tot leven te wekken, eist het systeem sterk bewijs dat de kennis weer nuttig is, en het voert zelfs een "schaduwtest" uit om te zien of het reactiveren van het geheugen de prestaties daadwerkelijk zou verbeteren voordat de overgang definitief wordt gemaakt. Dit ontwerp bevat veiligheidsfuncties zoals "hysteresis", een mechanisme dat voorkomt dat het systeem koortsachtig heen en weer schakelt tussen staten wanneer de omstandigheden onzeker zijn. Het houdt ook een gedetailleerde grootboek bij van elke wijziging, waarbij wordt vastgelegd waarom een stuk kennis werd onderdrukt of gereactiveerd, wat cruciaal is voor auditing en verantwoording in een zakelijke omgeving.

De paper illustreert dit met een scenario uit de financiële sector, een gebied waar de omstandigheden snel veranderen. Stel je een AI-agent voor die risico's beheert in een markt met lage volatiliteit. Het leert specifieke drempelwaarden en workflows die goed werken in die rustige omgeving. Plotseling breekt er een crisis uit en wordt de markt zeer volatiel. Als de AI de oude strategieën uit de rustige markt zou blijven gebruiken, zou het niet in staat zijn om echte gevaren te detecteren of valse alarmen te geven. Onder het nieuwe framework zou de controller herkennen dat de oude strategieën niet langer geschikt zijn en ze naar een latente staat verplaatsen, zodat nieuwe, crisisbestendige strategieën het over kunnen nemen. Als de markt uiteindelijk stabiliseert en terugkeert naar een staat met lage volatiliteit die vergelijkbaar is met de eerste, zou het systeem deze verschuiving detecteren en de oorspronkelijke strategieën reactiveren, wetende dat dit weer de beste instrumenten voor de taak zijn. Deze cyclus van onderdrukking en herstel stelt de agent in staat om veranderende regimes te navigeren zonder zijn geschiedenis te verliezen of schadelijke fouten te maken.

De auteurs merken er zorgvuldig bij op dat dit een voorgesteld framework en een reeks ontwerp-hypothesen is, en geen volledig opgelost probleem. Ze suggereren dat deze benadering een manier biedt om een balans te vinden tussen de behoefte aan huidige bruikbaarheid en het risico op interferentie door verouderde informatie. Ze schetsen een pad voor toekomstig onderzoek, inclusief hoe er betere tests gebouwd kunnen worden om te zien of deze methode werkt bij verschillende soorten taken en hoe de regels die bepalen wanneer kennis moet worden gepensioneerd, beheerd moeten worden. De paper concludeert dat door vergeten te behandelen als een omkeerbaar, beheerd proces in plaats van een permanent verlies, enterprise AI robuuster, veiliger en beter geschikt kan worden voor de onvoorspelbare aard van de echte wereld. Deze verschuiving in perspectief verlegt de focus van simpelweg alles bewaren naar het intelligent cureren van wat er op een gegeven moment toe doet.