Forgetting Is Not a Fix: Path Dependence in Sequential Engram Editing
Diese Arbeit falsifiziert die Hypothese der kompositorischen Gedächtniszustände des KI-Engramm-Frameworks, indem sie demonstriert, dass die sequentielle Engramm-Editierung eine Pfadabhängigkeit und ein nicht-kommutatives Verhalten aufweist, wodurch bewiesen wird, dass die Löschung von Gedächtnisinhalten unter kumulativen sequentiellen Lasten keine stabile Lösung darstellt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung eines Preprints, das nicht peer-reviewed wurde. Dies ist kein medizinischer Rat. Treffen Sie keine Gesundheitsentscheidungen auf Grundlage dieses Inhalts. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie hätten eine riesige, magische Bibliothek, in der jedes Buch von einem superintelligenten Roboter geschrieben wurde. Dieser Roboter liest nicht nur Bücher; er lernt aus ihnen und speichert Fakten und Ideen in seinem eigenen „Gehirn“, das aus Zahlen besteht. Wissenschaftler haben vor kurzem herausgefunden, wie man diese spezifischen Erinnerungen im Gehirn des Roboters finden und löschen kann, so wie man eine einzelne Datei von einem Computer löscht. Dieser Prozess wird als „Maschinelles Unlernen“ bezeichnet, und das ist eine große Sache, denn wenn ein Roboter etwas lernt, das er nicht lernen sollte (wie ein Geheimnis oder eine schädliche Tatsache), müssen wir in der Lage sein, ihm genau dieses eine Ding zu vergessen zu lassen, ohne den Rest seines Gehirns zu beschädigen.
Stellen Sie sich das Gehirn des Roboters wie ein riesiges, komplexes Netz aus Fäden vor. Wenn der Roboter etwas lernt, zieht er bestimmte Fäden fest. Um ihn vergessen zu lassen, haben Wissenschaftler einen Weg gefunden, genau die richtigen Fäden durchzuschneiden, um diese spezifische Erinnerung zu lockern. Eine kürzlich erschienene Studie deutete darauf hin, dass es keine Rolle spielt, welche zwei Dinge man zuerst schneidet, wenn man sie vergessen möchte; das Endergebnis wäre dasselbe, wie beim Mischen von blauer und gelber Farbe, um Grün zu erhalten, egal ob man zuerst Blau oder Gelb hineingießt. Sie nannten dies eine „kommutative Mannigfaltigkeit“, was eine schicke Art zu sagen ist, dass die Reihenfolge der Operationen das Ergebnis nicht verändert. Aber diese Arbeit stellt eine sehr wichtige Frage: Was passiert, wenn man immer wieder Fäden durchschneidet? Wird das Gehirn müde? Spielt die Reihenfolge tatsächlich eine Rolle?
Diese Arbeit ist wie ein Materialwissenschaftler, der eine Brücke testet. Anstatt nur zu prüfen, ob die Brücke ein Auto trägt, fährt er einen schweren Lkw darüber, dann noch einen, und noch einen, um zu sehen, ob das Metall ermüdet oder Risse bekommt. Die Forscher nahmen die exakte Methode aus der vorherigen Studie und testeten sie an drei verschiedenen Robotergehirnen (Modellen) unterschiedlicher Größe. Sie schnitten nicht nur eine Erinnerung; sie schnitten eine Sequenz von Erinnerungen, eine nach der anderen, und beobachteten, was mit denjenigen geschah, die sie nicht schnitten.
Hier ist, was sie fanden, und es stellt sich heraus, dass die Idee vom „Reihenfolge spielt keine Rolle“ eigentlich falsch ist, wenn man es wiederholt tut.
Zuerst entdeckten sie, dass das Gehirn des Roboters pfadabhängig ist. Das bedeutet, dass die Geschichte dessen, was man getan hat, wichtig ist. Wenn man Erinnerung A dann Erinnerung B schneidet, endet der Roboter in einem völlig anderen Zustand, als wenn man B dann A schneidet. Tatsächlich war der Unterschied gewaltig. Er betrug etwa 81 % bis 100 % der Größe der Änderung, wenn die Erinnerungen eng miteinander verwandt waren, und etwa 47 % bis 68 %, wenn sie weiter voneinander entfernt waren. Es ist wie beim Falten eines Stücks Papier: Wenn man es erst links und dann rechts faltet, endet es in einer anderen Form als, wenn man es erst rechts und dann links faltet. Das Gehirn des Roboters erinnert sich an die Sequenz der Schnitte, und das Endergebnis ändert sich basierend auf der Reihenfolge.
Zweitens fanden sie, dass Überschneidungen die Reihenfolge noch kritischer machen. Wenn die zwei Dinge, die man den Roboter vergessen lassen möchte, miteinander verwandt sind (wie „Eiffelturm“ und „Louvre“, beide berühmse Wahrzeichen von Paris), ändert die Reihenfolge des Schneidens das Ergebnis fast so stark wie der Schnitt selbst. In einem spezifischen Test führte das Schneiden des Louvre vor der Eiffelturm-Erinnerung dazu, dass der Roboter eine dritte, völlig unzusammenhängende Sache (das Kolosseum in Rom) komplett vergaß. Wenn sie jedoch zuerst die Eiffelturm-Erinnerung schnitten, blieb die Kolosseum-Erinnerung sicher. Die Reihenfolge der Schnitte entschied buchstäblich darüber, ob eine dritte, unberührte Erinnerung überlebte oder starb.
Drittens zeigt die Arbeit, dass das Gehirn des Roboters Ermüdung ansammelt. Jedes Mal, wenn sie eine Erinnerung schnitten, begannen die Teile des Gehirns, die nicht berührt wurden, sich zu verschieben und zu verformen. Die Forscher maßen dies mit den eigenen internen „Dehnungsmessstreifen“ des Roboters (mathematische Werkzeuge, die verfolgen, wie die Daten des Gehirns organisiert sind). Sie sahen, dass mit jedem neuen Schnitt diese unberührten Teile immer weiter von ihrem ursprünglichen Zustand abdrifteten. Es ist, als würde man eine Büroklammer immer wieder hin und her biegen; selbst wenn man den Teil nicht bricht, den man hält, wird das Metall mit der Zeit schwächer und verändert seine Form.
Schließlich fanden sie, überraschenderweise, dass Vergessen nicht permanent ist, wie wir dachten. Als sie eine zweite oder dritte Erinnerung schnitten, begann der Roboter manchmal, das erste, was sie zu löschen versuchten, wieder zu „erinnern“. In einem Fall, in dem eine Erinnerung fast vollständig verschwunden war (mit einem Wert von 8,91), kam sie signifikant zurück zum Leben (Abfall auf 4,85), nur weil sie später eine andere, unzusammenhängende Erinnerung schnitten. Der Akt, das Gehirn zu bearbeiten, um etwas zu vergessen, drückte tatsächlich etwas gelöschtes Wissen zurück in den Geist des Roboters.
Was bedeutet das also? Die Idee, dass man Erinnerungen in beliebiger Reihenfolge löschen kann und ein perfektes, stabiles Ergebnis erhält, ist falsch. Wenn Sie heute ein Gedächtnis löschen, um etwas zu vergessen, und Sie das Gehirn morgen erneut bearbeiten, um etwas anderes zu vergessen, könnte der Roboter das erste Ding versehentlich wieder erinnern. Das „Löschzertifikat“, das Sie heute erhalten, ist morgen vielleicht nicht mehr gültig. Das Gehirn des Roboters ist kein statisches Objekt, bei dem man einfach Dateien löschen kann; es ist ein lebendiges, sich verschiebendes System, in dem die Geschichte Ihrer Bearbeitungen die Zukunft verändert. Die Wissenschaftler haben den Roboter nicht kaputt gemacht, aber sie haben bewiesen, dass der „Zauber-Radiergummi“ eine Grenze hat: Er funktioniert großartig für einen Schnitt, aber wenn man ihn immer wieder benutzt, spielt die Reihenfolge eine Rolle, das Gehirn wird müde und die vergessenen Dinge könnten einfach wiederkommen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.