Stellen Sie sich einen Studenten vor, der unglaublich klug ist, aber ein sehr seltsames Gedächtnisproblem hat: In dem Moment, in dem er ein neues Fach lernt, vergisst er sofort alles, was er über das alte wusste. Wenn er für eine Geschichtsprüfung lernt, kann er vielleicht keine mathematischen Gleichungen mehr lösen. Wenn er lernt, Gitarre zu spielen, vergisst er vielleicht, wie man seine Muttersprache spricht. Dies ist nicht nur eine Eigenart der menschlichen Biologie, sondern auch ein großes Problem für die heutigen künstlichen Intelligenzsysteme (KI), die wir bauen. In der Welt des maschinellen Lernens wird dieses Phänomen als „katastrophales Vergessen“ bezeichnet.

Normalerweise zeigen wir einer KI bei der Vermittlung einer neuen Aufgabe Beispiele aus ihren vergangenen Lektionen, um sie an das zu erinnern, was sie bereits weiß. Aber was ist, wenn wir das nicht tun können? Stellen Sie sich vor, Datenschutzgesetze oder strikte Speicherlimits würden es der KI verbieten, alte Fotos, Dokumente oder Daten aus ihren vorherigen Lektionen zu speichern. Sie müsste neue Dinge „on the fly“ lernen, während sie gleichzeitig ihre alten Fähigkeiten am Leben erhält, jedoch ohne Referenzmaterial, auf das sie zurückgreifen könnte. Dies ist die „exemplarfreie“ Herausforderung. Die meisten aktuellen KI-Methoden versuchen, dies zu lösen, indem sie komplexe Mathematik verwenden, um zu berechnen, wie sich ihr Gehirn in der Vergangenheit verändert hat, aber dies erfordert ein spezifisches mathematisches Signal (einen sogenannten „Gradienten“), das einfach nicht existiert, wenn man nicht über die alten Daten verfügt.

Hier kommt ein neuer Ansatz namens EvoCL ins Spiel, der versucht, dieses Rätsel zu lösen, indem er das Regelbuch komplett ignoriert. Anstatt zu versuchen, den perfekten mathematischen Pfad mithilfe von Gradienten zu berechnen, nutzt EvoCL eine Methode, die von der Natur inspiriert ist: der Evolution. Denken Sie an ein Spiel wie „Lösung erraten“, bei dem die KI eine ganze Population leicht unterschiedlicher Versionen ihrer selbst erschafft, alle testet, die besten behält und diese miteinander vermischt, um eine noch bessere nächste Generation zu erschaffen. Es ist eine Art des Lernens, die nicht darauf angewiesen ist, in die alten Daten zurückzublicken oder die üblichen mathematischen Signale zu verwenden, die in solchen Situationen normalerweise versagen.

Das Problem: Das KI-Amnesie

In der Welt der neuronalen Netze (den gehirnähnlichen Strukturen hinter moderner KI) gibt es eine anhaltende Angst: Wenn man das Netzwerk etwas Neues lehrt, neigt es dazu, sein altes Wissen zu überschreiben. Es ist, als würde man ein neues Kapitel in ein Notizbuch schreiben, aber die Tinte ist so stark, dass sie durchblutet und die vorherigen Seiten auslöscht. Um dies zu verhindern, verwenden die meisten Wissenschaftler eine Technik namens „Backpropagation“, was im Wesentlichen eine ausgeklügelte Methode ist, um zu berechnen, wie die Einstellungen des Netzwerks angepasst werden müssen, um sowohl die alten als auch die neuen Informationen zu behalten.

Dieses Verfahren stößt jedoch in „exemplarfreien“ Szenarien an seine Grenzen. Dies ist ein Szenario, in dem die KI aus Datenschutzgründen oder Speicherbeschränkungen nicht in der Lage ist, Rohdaten aus vergangenen Aufgaben zu speichern. Ohne die alten Daten kann die KI die notwendigen mathematischen Signale (Gradienten) für die vergangenen Aufgaben nicht berechnen. Es ist, als würde man versuchen, einen Automotor zu reparieren, ohne jemals die Blaupausen für die alten Teile gesehen zu haben. Das Ergebnis ist, dass die KI von ihren alten Fähigkeiten abdriftet und diese rapide vergisst.

Die Lösung: Evolution statt Gleichungen

Die Autoren dieser Arbeit, unter der Leitung von Grzegorz Rypeść, schlagen einen radikalen Wandel vor. Anstatt zu versuchen, die KI dazu zu zwingen, Gradienten zu berechnen, die sie nicht finden kann, schlagen sie die Verwendung einer Evolution Strategy (ES) vor.

Stellen Sie sich vor, Sie versuchen, den besten Weg durch einen dichten, nebligen Wald zu finden, um einen verborgenen Schatz zu erreichen.

• Der alte Weg (Gradientenabstieg): Sie versuchen zu berechnen, wie steil der Boden unter Ihren Füßen ist, um herauszufinden, in welche Richtung es „abwärts“ zum Schatz geht. Aber im Nebel (oh)ne alte Daten) können Sie den Boden nicht sehen, also sind Ihre Berechnungen falsch und Sie verirren sich.
• Der EvoCL-Weg (Evolutionäre Strategie): Anstatt zu berechnen, schicken Sie ein ganzes Team von Entdeckern aus (eine Population von KI-Modellen). Jeder Entdecker nimmt einen leicht anderen Pfad. Sie prüfen, wer am meisten Schatz gefunden hat (die beste Leistung). Dann nehmen Sie die zwei besten Entdecker, mischen ihre Pfade zusammen (Crossover) und fügen ein wenig zufälliges Umherwandern hinzu (Mutation), um ein neues, verbessertes Team von Entdeckern zu erschaffen. Sie wiederholen diesen Prozess, bis Sie den perfekten Pfad gefunden haben.

Diese Methode muss nicht wissen, wie der „Hang“ der Vergangenheit aussah; sie muss nur wissen, welche Lösungen besser funktionieren als andere.

Wie EvoCL funktioniert: Der magische Adapter

Es gibt einen kniffligen Teil: Woher weiß die KI, ob ein neuer Pfad auch für vergangene Aufgaben gut ist, wenn sie nicht über die alten Daten verfügt?

EvoCL nutzt einen cleveren Trick mit einem Latenten Puffer und einem Adapter-Netzwerk.

1. Das Gedächtnis-Bank: Nachdem eine Aufgabe abgeschlossen wurde, speichert die KI nicht die rohen Bilder oder Texte. Stattdessen speichert sie eine winzige, komprimierte Zusammenfassung dessen, was sie gelernt hat (sogenannte „latente Merkmale“). Dies ist vergleichbar mit dem Speichern einer Skizze eines Gemäldes anstelle des Gemäldes selbst. Es nimmt sehr wenig Platz ein und schützt die Privatsphäre.
2. Der Übersetzer (Adapter): Während die KI neue Aufgaben lernt, ändert sich ihre interne „Sprache“. Die Skizzen aus den alten Tagen passen vielleicht nicht mehr in den neuen Kontext. Daher trainiert EvoCL einen kleinen, temporären Übersetzer (das Adapter-Netzwerk), um diese alten Skizzen in die neue Sprache zu übersetzen.
3. Die Simulation: Die KI nimmt diese übersetzten Skizzen und tut so, als wären sie die echten alten Daten. Sie berechnet einen „künstlichen“ Verlust (ein Maß für den Fehler) basierend auf diesen Skizzen. Dies ermöglicht es dem evolutionären Algorithmus zu testen, ob eine neue Einstellung sowohl für die aktuelle Aufgabe als auch für die „simulierten“ vergangenen Aufgaben hilfreich ist.

Was die Experimente zeigten

Die Forscher testeten EvoCL an mehreren Standard-Datensätzen, die von einfachen handgeschriebenen Ziffern (MNIST) über komplexe Flugzeugbilder (FGVCAircraft) bis hin zu verschiedenen Domänen (DomainNet) reichen. Sie verglichen es mit den besten existierenden Methoden, die versuchen, dieses Problem ohne das Speichern alter Daten zu lösen.

Die Ergebnisse waren vielversprechend. EvoCL übertraf seine Konkurrenten konsequent.

• Beim MNIST-Datensatz (handgeschriebene Zahlen) erreichte EvoCL eine endgültige Genauigkeit von 92,3 %, als es 3 Aufgaben gleichzeitig lernte, und schlug damit das nächstbeste Verfahren um eine deutliche Marge.
• Beim schwierigeren FashionMNIST (Kleidungsbilder) erreichte es eine Genauigkeit von 77,2 % und führte damit erneut das Feld an.
• Selbst beim komplexen CIFAR100-Datensatz (100 verschiedene Objektklassen) konnte EvoCL die Führung behaupten und eine Genauigkeit von 24,8 % erzielen, was eine klare Verbesserung gegenüber anderen Methoden darstellte.

Die Arbeit führte auch einen spezifischen Test durch, um zu sehen, ob die evolutionäre Methode tatsächlich besser als die standardmäßige mathematische Methode (SGD) ist, wenn Gradienten fehlen. Sie fanden heraus, dass die Standardmethode kläglich scheiterte, was dazu führte, dass die KI fast alles vergaß (die Genauigkeit sank in einigen Fällen auf etwa 14 %), während EvoCL eine starke Leistung beibehielt. Dies deutet darauf hin, dass, wenn man keine Gradienten berechnen kann, die Evolution tatsächlich die überlegene Strategie ist.

Der Kompromiss: Geschwindigkeit vs. Intelligenz

Es gibt jedoch einen Haken. Obwohl EvoCL besser darin ist, Dinge ohne alte Daten zu erinnern, ist es langsamer. Da es viele verschiedene Versionen der KI gleichzeitig testen muss (die Population), dauert das Training wesentlich länger.

• Beim CIFAR100-Datensatz benötigten andere Methoden etwa 3 bis 20 Minuten für das Training, während EvoCL fast 985 Minuten (über 16 Stunden) brauchte.
• Die Autoren merken an, dass dies ein Kompromiss ist: Man zahlt mit Zeit, um die Fähigkeit zu gewinnen, ohne Daten zu speichern.

Einschränkungen und zukünftige Schritte

Die Arbeit weist vorsichtig darauf hin, dass dies noch kein Allheilmittel für jedes Problem ist.

• Skalierbarkeit: Die Methode funktioniert gut bei kleinen bis mittelgroßen Datensätzen. Die Autoren geben zu, dass sie sie noch nicht auf riesige Datensätze wie ImageNet-1k getestet haben, da der „Evolutionsprozess“ für solch große Modelle zu viel Rechenleistung erfordern würde.
• Approximation: Die Methode beruht auf dem „künstlichen“ Verlust, der aus den übersetzten Skizzen berechnet wird. Wenn der Übersetzer (Adapter) nicht sehr gut ist, lernt die KI möglicherweise die falschen Dinge.
• Speicher: Obwohl sie Platz spart, indem sie keine Rohbilder speichert, muss sie dennoch diese komprimierten Skizzen und das Adapter-Netzwerk speichern.

Das Fazate

Diese Arbeit legt nahe, dass wir, wenn KI-Systeme aufgrund von Datenschutz oder Speicherbeschränkungen gezwungen sind, ihre vergangenen Daten zu vergessen, nicht versuchen sollten, sie mit derselben Mathematik zu behandeln, die wir immer verwendet haben. Stattdessen können wir sie evolvieren lassen. Durch die Verwendung eines populationsbasierten Ansatzes und eines cleveren Übersetzers zur Simulation der Vergangenheit zeigt EvoCL, dass KI neue Fähigkeiten erlernen kann, ohne ihre alten zu verlieren – selbst wenn es ihr nicht erlaubt ist, in ihre alten Hausaufgaben zu schauen. Es ist eine langsamere, rechenintensivere Art des Lernens, aber sie öffnet eine neue Tür für die KI in Situationen, in denen der Datenschutz oberste Priorität hat.