SAME: Stabilized Mixture-of-Experts for Multimodal Continual Instruction Tuning
Das Paper schlägt SAME vor, ein stabilisiertes Mixture-of-Experts-Framework für multimodales kontinuierliches Instruction Tuning, das Router- und Expert-Drift durch orthogonale Subraum-Routing-Verfahren, krümmungsbewusste Skalierung und adaptive Expertenaktivierung mildert und dadurch eine State-of-the-Art-Leistung auf einem neuen Long-Sequence-Benchmark erzielt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich einen Schüler vor, der brillant darin ist, mathematische Probleme zu lösen, aber, wenn er gebeten wird, ein Gedicht zu lesen, plötzlich vergisst, wie man zählt. Dies ist die Kernherausforderung, vor der moderne Systeme der künstlichen Intelligenz stehen, die als multimodale Large Language Models bekannt sind. Dies sind leistungsstarke Computer, die Bilder sehen und Texte lesen können und lernen, Fragen über die Welt zu beantworten, indem sie riesige Mengen an Daten studieren. Sie werden darauf trainiert, Anweisungen zu befolgen, wie zum Beispiel „beschreibe die Katze auf dem Foto“ oder „löse dieses Physikproblem“. In der realen Welt lernen diese Systeme jedoch nicht alles auf einmal. Stattdessen begegnen sie nacheinander neuen Arten von Aufgaben, wie ein Schüler, der von einem Matheunterricht zu einem Geschichtsunterricht und dann zu einem Kunstunterricht wechselt. Das Problem ist, dass diese Modelle, während sie neue Fähigkeiten erlernen, oft die alten vergessen – ein Phänomen, das Wissenschaftler als katastrophales Vergessen (catastrophic forgetting) bezeichnen. Um diese Modelle nützlich zu halten, müssen Forscher einen Weg finden, ihnen neue Dinge beizubringen, ohne das zu löschen, was sie bereits wissen.
Seit einiger Zeit versuchen Experten, dies zu lösen, indem sie dem Modell ein Team spezialisierter Helfer zur Seite stellen, eine Struktur, die als Mixture of Experts bekannt ist. Stellen Sie sich das Modell als ein großes Büro vor, in dem verschiedene Mitarbeiter oder „Experten“ unterschiedliche Arten von Jobs erledigen. Wenn eine Frage eingeht, entscheidet ein Manager, der „Router“, welcher Arbeiter am besten geeignet ist, um sie zu beantworten. Wenn die Frage etwas über ein Diagramm ist, leitet der Router sie an den Datenanalysten weiter; wenn es um ein Gedicht geht, geht sie an den Schriftsteller. Dieses System funktioniert gut, wenn die Aufgaben stabil sind, aber Forscher entdeckten einen Fehler, wenn das Modell eine lange Sequenz neuer Aufgaben bewältigen musste. Während das Modell neue Fähigkeiten erlernte, begann der Manager Fehler zu machen und schickte alte Arten von Fragen an die falschen Arbeiter. Gleichzeitig begannen auch die Arbeiter selbst sich zu verändern und verloren die spezifischen Fähigkeiten, die sie für frühere Aufgaben entwickelt hatten. Dieses doppelte Versagen bedeutete, dass das Modell nicht nur Fragen an die falschen Leute schickte, sondern auch vergaß, wie man die Jobs erledigt, für die diese Leute eigentlich zuständig waren.
Ein Team von Forschern hat nun eine neue Methode namens SAME vorgeschlagen, um diese Probleme zu beheben. Sie fanden heraus, dass die Verwirrung des Managers und der Gedächtnisverlust der Arbeiter zwei separate Probleme waren, die unterschiedliche Lösungen erforderten. Um den Manager vor Verwirrung zu schützen, entwarfen die Forscher ein System, das die Art und Weise, wie das Modell die Welt sieht, sorgfältig verfolgt. Anstatt den Manager mit jeder neuen Lektion seine Meinung komplett ändern zu lassen, schränken sie ein, wie stark er seinen Fokus verschieben kann. Sie erlauben dem Manager, neue Wege zu lernen, Fragen zu sortieren, schützen aber die alten Wege der Sortierung, die für vorherige Aufgaben entscheidend waren. Dies stellt sicher, dass eine Frage über ein medizinisches Bild beispielsweise weiterhin zum medizinischen Experten geleitet wird, selbst nachdem das Modell gelernt hat, Landkarten zu lesen oder chemische Formeln zu lösen.
Um die Arbeiter daran zu hindern, ihren Job zu vergessen, führten die Forscher eine Methode ein, um zu messen, wie sehr das Lernen eines Arbeiters dessen alte Fähigkeiten beeinträchtigen könnte. Sie untersuchten die Arten von Daten, die die Arbeiter in der Vergangenheit gesehen hatten, und nutzten diese Historie, um Veränderungen zu verlangsamen, die jene alten Fähigkeiten beschädigt hätten. Es ist, als würde man einem Arbeiter sagen: „Du kannst diese neue Fähigkeit lernen, aber tu es so, dass es nicht die Art und Weise auslöscht, wie du früher die alten Maschinen repariert hast.“ Durch dies bewahrt das Modell die spezifischen Fähigkeiten, die es durch frühere Aufgaben erworben hat, während es gleichzeitig in der Lage bleibt, sich an neue Aufgaben anzupassen. Zusätzlich stellten die Forscher fest, dass nicht jeder Arbeiter für jede Lektion aktiv sein muss. Sie entwickelten eine Regel, um die Arbeiter, die für die aktuelle Aufgabe nicht benötigt werden, vorübergehend zu pausieren, was Energie spart und verhindert, dass sie versehentlich durch irrelevante Informationen verändert werden.
Das Team testete diesen neuen Ansatz an einer Reihe anspruchsvoller Benchmarks, einschließlich eines neuen Satzes von Aufgaben, den sie selbst erstellt haben und der die unordentliche, vielfältige Realität der echten Welt nachahmt. Dieser neue Test beinhaltete zehn verschiedene Arten von Aufgaben, die von der Analyse medizinischer Dokumente und wissenschaftlicher Diagramme bis hin zum Verständnis komplexer Straßenszenen und chemischer Formeln reichten. Die Ergebnisse zeigten, dass ihre Methode, SAME, signifikant besser darin war, sich an alte Aufgaben zu erinnern, als bisherige Methoden. In einem spezifischen Test, der eine lange Sequenz von acht Aufgaben beinhaltete, behielt die neue Methode eine wesentlich höhere Genauigkeit bei der allerersten Aufgabe im Vergleich zu anderen Ansätzen bei. Sie erwies sich zudem als effizienter, da sie weniger Zeit und Computerarbeitsspeicher für das Training benötigte, weil sie nur die notwendigen Arbeiter aktualisierte.
Vielleicht am wichtigsten ist die Beobachtung der Forscher, dass ihre Methode einen subtilen, aber häufigen Typ von Versagen verhinderte, bei dem das Modell zwar die richtige Antwort gab, aber das Format falsch war. Wenn beispielsweise eine Aufgabe eine Antwort in Großbuchstaben erforderte, könnte das Modell anfangen, die Antwort in Kleinbuchstaben zu geben, nachdem es eine neue Aufgabe gelernt hat, die Kleinbuchstaben verwendete. Das neue System hielt das Modell konsistent und stellte sicher, dass es die spezifischen Formatierungsregeln jeder Aufgabe befolgte, ohne durch den Stil der nächsten Aufgabe verwirrt zu werden. Durch die Stabilisierung sowohl der Entscheidung, wer die Frage beantwortet, als auch des Gedächtnisses der Person, die antwortet, bietet diese Arbeit einen zuverlässigeren Weg für künstliche Intelligenz, kontinuierlich zu lernen und ihre Fähigkeiten zu erweitern, ohne das Fundament dessen zu verlieren, was sie bereits weiß.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.