Forgetting, plasticity, and co-observation: a third facet of continual learning
Dieses Paper argumentiert, dass über die bekannten Herausforderungen des katastrophalen Vergessens und des Verlusts der Plastizität hinaus die Unfähigkeit, Trainingsdaten gleichzeitig gemeinsam zu beobachten, ein distinkter und kritischer Faktor ist, der die Leistung des kontinuierlichen Lernens einschränkt, was darauf hindeutet, dass Mechanismen wie das Memory Replay dadurch erfolgreich sind, dass sie diese Vorteile der gemeinsamen Beobachtung wieder einführen, anstatt lediglich das Vergessen zu mildern.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Tiefe neuronale Netze sind die leistungsstarken Motoren hinter der modernen künstlichen Intelligenz und sind in der Lage, Gesichter zu erkennen, Sprachen zu übersetzen und Krankheiten zu diagnostizieren. Diese Systeme werden typischerweise in einer einzigen, massiven Sitzung trainiert, bei der sie alle ihre Daten auf einmal sehen, was es ihnen ermöglicht, Muster zu finden, die verschiedene Informationsteile miteinander verbinden. In der realen Welt kommen Daten jedoch oft in einem stetigen Strom an, wie ein Fluss, der niemals aufhört zu fließen. Um diese Systeme nützlich zu halten, müssen sie aus diesen neuen Informationen lernen, während sie eintreffen, ohne die Möglichkeit zu haben, die alten Daten erneut aufzurufen. Dieser Prozess wird als kontinuierliches Lernen (continual learning) bezeichnet. Jahrelang glaubten Wissenschaftler, dass das Haupthindernis für das Funktionieren dieses Prozesses ein Problem namens katastrophales Vergessen (catastrophic forgetting) sei, bei dem ein Modell etwas Neues lernt, aber versehentlich das Wissen, das es zuvor besaß, löscht. Die vorherrschende Meinung war, dass es ausreichen würde, wenn wir das Modell einfach daran hindern könnten zu vergessen und es flexibel genug halten könnten, um neue Dinge zu lernen, würde es genauso gut abschneiden, als hätte es alle Daten gleichzeitig gesehen.
Ein Team von Forschern der KU Leuven und der Universität Groningen hat diese lang gehegte Annahme infrage gestellt. Sie entdeckten, dass selbst wenn ein Modell nichts vergisst und vollkommen flexibel bleibt, es dennoch Schwierigkeiten hat, das gleiche Niveau an Intelligenz zu erreichen wie ein Modell, das auf alle Daten gleichzeitig trainiert wurde. Ihre Arbeit, die auf der 5. Konferenz für Lifelong Learning Agents präsentiert wurde, identifiziert einen dritten, verborgenen Faktor, der die Leistungsfähigkeit dieser Systeme einschränkt: den Verlust der Co-Observation (loss of co-observation). Dieser Begriff beschreibt die einfache Tatsache, dass das Modell, wenn Daten über die Zeit in separaten Blöcken gelernt werden, die Gelegenheit verpasst, verschiedene Informationsteile gleichzeitig zu sehen. Die Forscher fanden heraus, dass diese fehlende Verbindung verhindert, dass das Modell ein robusteres Verständnis der Welt aufbaut – eine Einschränkung, die besteht, unabhängig davon, wie gut das Vergessen kontrolliert wird.
Um zu verstehen, warum dies wichtig ist, stellen Sie sich vor, Sie versuchen, ein komplexes Puzzle zusammenzusetzen. Wenn Ihnen alle Teile auf einmal gegeben werden, können Sie leicht erkennen, wie die Kanten eines Abschnitts mit der Mitte eines anderen verbunden sind, was es Ihnen ermöglicht, das Gesamtbild zu erfassen und die Teile effizient zusammenzufügen. So wird ein Standard-KI-Modell normalerweise trainiert. Im Gegensatz dazu ist kontinuierliches Lernen wie das Erhalten von Puzzleteilen einzeln nacheinander, ohne die Chance, auf die bereits platzierten Teile zurückzublicken. Sie können das aktuelle Teil vielleicht perfekt in den vorhandenen Raum einpassen, aber ohne die umliegenden Teile zu sehen, könnten Sie eine entscheidende Verbindung übersehen, die Ihnen geholfen hätte, das gesamte Bild zu verstehen. Die Forscher argumentieren, dass diese Unfähigkeit, das „ganze Puzzle“ auf einmal zu sehen, eine fundamentale Leistungslücke schafft, die sich nicht einfach durch das Behalten der Vergangenheit beheben lässt.
Das Team entwarf eine Reihe von Experimenten, um zu beweisen, dass diese Lücke real und von dem Problem des Vergessens unterscheidbar ist. Sie verwendeten eine Methode, die es ihnen ermöglichte, die beiden Probleme zu isolieren. Zuerst erstellten sie ein Szenario, in dem ein Modell von Daten in vier separaten Batches lernte, was den realen Informationsstrom nachahmte. Um sicherzustellen, dass ein Leistungsabfall nicht bloß auf das Vergessen früherer Lektionen zurückzuführen war, verwendeten sie eine spezielle Technik namens Ensemble. Dies beinhaltete das Speichern einer Kopie des „Gehirns“ des Modells nach jedem einzelnen Lernschritt und das Kombinieren all dieser Kopien. Dieses kombinierte Modell erinnerte sich effektiv perfekt an alles und eliminierte das Problem des Vergessens vollständig. Sie verglichen dieses Modell mit „perfektem Gedächtnis“ dann mit einem Standardmodell, das alle Daten auf einmal sah.
Die Ergebnisse waren klar und konsistent. Selbst mit perfektem Gedächtnis schnitt das Modell, das in separaten Blöcken lernte, schlechter ab als das Modell, das alles zusammen sah. Dieser Unterschied blieb bestehen, egal ob das Computer-Modell Bilder auf überwachte Weise erkannte, wobei ihm die richtigen Antworten gegeben wurden, oder auf selbstüberwachte Weise, wobei es Muster selbstständig finden musste. Die Forsntcher testeten dies an Standard-Bilddatensätzen, einschließlich CIFAR-100 und ImageNet-100, unter Verwendung verschiedener Arten von neuronalen Netzwerkarchitekturen. In jedem Fall erreichte das Modell, das sequenziell lernte, selbst mit perfekter Retention, nicht das gleiche Maß an Generalisierung wie das gemeinsam trainierte Modell. Dies bewies, dass das Problem nicht ein Versagen des Erinnerns war, sondern ein Versagen der Synthese von Informationen über verschiedene Zeiträume hinweg.
Die Studie untersuchte auch, wie aktuelle Lösungen für das kontinuierliche Lernen mit diesem Problem umgehen. Eine populäre Methode ist das Experience Replay, bei dem dem Modell einige alte Beispiele zusammen mit neuen gezeigt werden, um ihm beim Erinnern zu helfen. Die Forscher fanden heraus, dass diese Methode zwar funktioniert, aber nicht nur deshalb, weil sie das Vergessen stoppt. Vielmehr funktioniert sie, weil sie künstlich die Bedingung der Co-Observation wiederherstellt. Indem sie alte und neue Daten zusammen zeigen, erhält das Modell die Chance, die Verbindungen zwischen ihnen zu sehen, was ihm hilft, bessere Repräsentationen aufzubauen. Eine weitere gängige Technik, bekannt als Knowledge Distillation, die versucht, das neue Modell dazu zu bringen, das alte nachzuahmen, wurde als effektiv zur Vermeidung von Vergessen eingestuft, konnte aber die Leistungslücke nicht schließen. Dies deutet darauf hin, dass das bloße Bewahren alten Wissens nicht ausreicht; das Modell benötigt den aktiven Nutzen, Daten gemeinsam zu sehen, um wirklich zu lernen.
Diese Erkenntnisse legen nahe, dass das Feld der künstlichen Intelligenz seine Herangehensweise an das lebenslange Lernen überdenken muss. Jahrelang lag der Fokus fast ausschließlich auf der Vermeidung des Verlusts alten Wissens. Während dies weiterhin wichtig bleibt, argumentieren die Forscher, dass wir auch den strukturellen Nachteil des Lernens in Isolation adressieren müssen. Die Leistungsobergrenze für sequenzielles Lernen ist niedriger als bisher angenommen – nicht weil das Modell vergisst, sondern weil ihm der Kontext fehlt, der durch simultane Beobachtung entsteht. Diese Einsicht verändert die Art und Weise, wie Fortschritte in diesem Bereich bewertet werden. Sie impliziert, dass zukünftige Algorithmen mehr tun müssen, als nur die Vergangenheit zu schützen; sie müssen Wege finden, Verbindungen zwischen neuen und alten Informationen aktiv zu synthetisieren, etwa durch die Entwicklung besserer Methoden zum Replay von Daten oder durch die Strukturierung von Lernaufgaben, die das Denken über Verteilungen hinweg fördern.
Die Auswirkungen erstrecken sich über die reine Bilderkennung hinaus. Die Forscher merken an, dass dieses Phänomen wahrscheinlich auch große Sprachmodelle und andere komplexe Systeme betrifft, die aus riesigen Datenströmen lernen. Wenn ein Modell ein neues Konzept lernt, ohne es im Kontext dessen zu sehen, was es bereits weiß, wird es möglicherweise nie die volle Beziehung zwischen beiden erfassen. Die Studie behauptet nicht, dass dies das einzige Problem des kontinuierlichen Lernens ist, noch legt sie nahe, dass das Vergessen kein großes Problem mehr darstellt. In vielen praktischen Anwendungen bleibt das Vergessen das unmittelbarste und schädlichste Problem. Doch indem sie die Co-Observation als einen eigenständigen und fundamentalen limitierenden Faktor identifiziert haben, haben die Forscher eine klarere Landkarte der kommenden Herausforderungen erstellt. Sie zeigen, dass wir, um wahrhaft intelligente Systeme zu bauen, die ihr ganzes Leben lang lernen, nicht nur das Problem des Gedächtnisses lösen müssen, sondern auch das Problem der Perspektive.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.