Forgetting Is Not a Fix: Path Dependence in Sequential Engram Editing
Dit artikel falsifieert de Compositional Memory States Hypothesis van het AI Engram-framework door aan te tonen dat sequentiële engram-bewerking padafhankelijkheid en niet-commutatief gedrag vertoont, waarmee wordt bewezen dat geheugenverwijdering geen stabiele oplossing is onder cumulatieve sequentiële belastingen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van een preprint die niet peer-reviewed is. Dit is geen medisch advies. Neem geen gezondheidsbeslissingen op basis van deze inhoud. Lees de volledige disclaimer
Stel je voor dat je een gigantische, magische bibliotheek hebt waar elk boek is geschreven door een superintelligente robot. Deze robot leest niet alleen boeken, hij leert ervan en slaat feiten en ideeën op in zijn eigen "brein" dat uit getallen bestaat. Wetenschappers hebben onlangs ontdekt hoe ze deze specifieke herinneringen in het brein van de robot kunnen vinden en wissen, zoals het verwijderen van één enkel bestand van een computer. Dit proces wordt "machine unlearning" genoemd, en dat is een grote zaak, want als een robot iets leert wat hij niet zou moeten weten (zozen als een geheim of een schadelijk feit), moeten we in staat zijn om die specifieke zaak te laten vergeten zonder de rest van zijn brein te beschadigen.
Beschouw het brein van de robot als een gigantisch, complex web van touwen. Wanneer de robot iets leert, spant hij bepaalde touwen aan. Om te laten vergeten, hebben wetenschappers een manier gevonden om precies de juiste touwen door te knippen om die specifieke herinnering te versoepelen. Een recente studie suggereerde dat als je twee verschillende dingen wilt laten vergeten, het niet uitmaakt welk je eerst doorknipt; het uiteindelijke resultaat zou hetzelfde zijn, zoals het mengen van blauwe en gele verf om groen te krijgen, of je nu eerst blauw of eerst geel toevoegt. Ze noemden dit een "commutatieve manifold", wat een chique manier is om te zeggen dat de volgorde van handelingen de uitkomst niet verandert. Maar dit artikel stelt een zeer belangrijke vraag: wat gebeurt er als je steeds opnieuw touwen doorknipt? Wordt het brein moe? Maakt de volgorde eigenlijk uit?
Dit artikel is als een materiaalkundige die een brug test. In plaats van alleen te controleren of de brug één auto kan dragen, rijden ze een zware vrachtwagen eroverheen, en daarna nog een, en nog een, om te zien of het metaal vermoeid raakt of barstjes vertoont. De onderzoekers namen exact dezelfde methode van de vorige studie en testten deze op drie verschillende robotbreinen (modellen) van variërende grootte. Ze knipten niet slechts één herinnering door, ze knipten een reeks herinneringen na elkaar door en hielden in de gaten wat er met de herinneringen gebeurde die ze niet hadden aangeraakt.
Dit is wat ze vonden, en het blijkt dat het idee "de volgorde maakt niet uit" eigenlijk onjuist is wanneer je het herhaaldelijk uitvoert.
Ten eerste ontdekten ze dat het brein van de robot pathafhankelijk is. Dit betekent dat de geschiedenis van wat je hebt gedaan ertoe doet. Als je herinnering A dan herinnering B doorknipt, eindigt de robot in een totaal andere staat dan wanneer je eerst B en dan A doorknipt. Sterker nog, het verschil was enorm. Voor herinneringen die nauw aan elkaar gerelateerd zijn, was het verschil ongeveer 81% tot 100% van de totale bewerking, en voor herinneringen die verder van elkaar afstaan was het verschil ongeveer 47% tot 68%. Het is als het proberen te vouwen van een stuk papier: als je het eerst links en dan rechts vouwt, eindigt het in een andere vorm dan wanneer je eerst rechts en dan links vouwt. Het brein van de robot onthoudt de volgorde van de knipacties, en het eindresultaat verandert op basis van de volgorde.
Ten tweede ontdekten ze dat overlap de volgorde nog kritischer maakt. Als de twee dingen die je de robot wilt laten vergeten aan elkaar gerelateerd zijn (zoals "Eiffeltoren" en "Louvre", beide beroemde Parijse monumenten), verandert de volgorde van het doorknippen het resultaat bijna evenveel als de bewerking zelf. In één specifieke test zorgde het doorknippen van de Louvre vóór de Eiffeltoren ervoor dat de robot een derde, totaal ongerelateerd ding (het Colosseum in Rome) volledig vergat. Maar als ze eerst de Eiffeltoren doorknipten, bleef de herinnering aan het Colosseum veilig. De volgorde van de knipacties bepaalde letterlijk of een derde, onaangeraakte herinnering overleefde of stierf.
Derde laat het artikel zien dat het brein van de robot vermoeidheid ophoopt. Elke keer dat ze een herinnering doorknippen, beginnen de delen van het brein die niet geraakt zijn te verschuiven en te vervormen. De onderzoekers maten dit met behulp van de eigen interne "rekmeters" van de robot (wiskundige instrumenten die bijhouden hoe de gegevens van het brein zijn georganiseerd). Ze zagen dat met elke nieuwe knip, deze ongeraakte delen steeds verder afdriften van hun oorspronkelijke staat. Het is als het herhaaldelijk buigen van een paperclip: zelfs als je het deel dat je vasthoudt niet breekt, wordt het metaal zwakker en verandert het vorm over tijd.
Ten sloten, en misschien nog wel verrassender, ontdekten ze dat vergeten niet permanent is op de manier waarop we dachten. Wanneer ze een tweede of derde herinnering doorknipten, begon de robot soms de eerste zaak die ze probeerden te wissen weer te "herinneren". In één geval kwam een herinnering die bijna volledig verdwenen was (met een score van 8,91) aanzienlijk tot leven (daalde naar 4,85) simpelweg omdat ze later een andere, ongerelateerde herinnering doorkipten. De handeling van het bewerken van het brein om iets te laten vergeten, duwde sommige van de gewiste kennis weer terug in de geest van de robot.
Wat betekent dit dus? Het idee dat je herinneringen in elke willekeurige volgorde kunt wissen en een perfect, stabiel resultaat krijgt, is onjuist. Als je deze methode gebruikt om een robot vandaag iets te laten vergeten, en je bewerkt hem morgen opnieuw om iets anders te laten vergeten, kan de robot zich het eerste ding per ongeluk weer herinneren. Het "verwijderingscertificaat" dat je vandaag krijgt, is morgen misschien niet meer geldig. Het brein van de robot is geen statisch object waarbij je gewoon bestanden kunt verwijderen, het is een levend, verschuivend systeem waarbij de geschiedenis van je bewerkingen de toekomst verandert. De wetenschappers hebben de robot niet kapot gemaakt, maar ze hebben bewezen dat de "magische gum" een limiet heeft: het werkt geweldig voor één knip, maar als je het herhaaldelijk gebruikt, doet de volgorde er toe, wordt het brein moe, en kunnen de vergeten zaken gewoon weer terugkomen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.