SAME: Stabilized Mixture-of-Experts for Multimodal Continual Instruction Tuning
Het artikel stelt SAME voor, een gestabiliseerd Mixture-of-Experts-framework voor Multimodale Continue Instructie-afstemming dat router- en expertdrift mitigeert door middel van orthogonale subruimte-routering, krommingsbewuste schaling en adaptieve expertactivatie, waarmee het de state-of-the-art prestaties bereikt op een nieuwe benchmark voor lange sequenties.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je een student voor die briljant is in het oplossen van wiskundige problemen, maar wanneer er gevraagd wordt om een gedicht te lezen, plotseling vergeet hoe hij moet tellen. Dit is de kernuitdaging waar moderne kunstmatige intelligentiesystemen, bekend als multimodale grote taalmodellen, voor staan. Dit zijn krachtige computers die afbeeldingen kunnen zien en tekst kunnen lezen, en leren vragen over de wereld te beantwoorden door enorme hoeveelheden gegevens te bestuderen. Ze worden getraind om instructies op te volgen, zoals "beschrijf de kat op de foto" of "los dit natuurkundeprobleem op." Echter, in de echte wereld leren deze systemen niet alles tegelijkertijd. In plaats daarvan komen ze opeenvolgende nieuwe soorten taken tegen, zoals een student die van een wiskundeles naar een geschiedenisles gaat en vervolgens naar een kunstles. Het probleem is dat deze modellen, terwijl ze nieuwe vaardigheden leren, vaak hun oude vaardigheden vergeten, een fenomeen dat wetenschappers catastrofale vergetelheid noemen. Om deze modellen nuttig te houden, moeten onderzoekers een manier vinden om hen nieuwe dingen te leren zonder te wissen wat ze al weten.
Voor een tijdje hebben experts geprobeerd dit op te lossen door het model een team van gespecialiseerde helpers te geven, een structuur die bekend staat als een 'mixture of experts' (een mengeling van experts). Denk aan het model als een groot kantoor waar verschillende werknemers, of "experts", verschillende soorten taken afhandelen. Wanneer er een vraag binnenkomt, beslist een manager, de 'router', welke werknemer het best geschikt is om te antwoorden. Als de vraag over een grafiek gaat, stuurt de router de vraag naar de data-analist; als het over een gedicht gaat, gaat het naar de schrijver. Dit systeem werkt goed wanneer de taken stabiel zijn, maar onderzoekers ontdekten een gebrek wanneer het model een lange reeks nieuwe taken moest leren. Terwijl het model nieuwe vaardigheden leerde, begon de manager fouten te maken door oude soorten vragen naar de verkeerde werknemers te sturen. Tegelijkertijd begonnen de werknemers zelf ook te veranderen, waarbij ze de specifieke vaardigheden die ze voor eerdere taken hadden ontwikkeld, verloren. Dit dubbele falen betekende dat het model niet alleen vragen naar de verkeerde mensen stuurde, maar ook vergat hoe die mensen de taken moesten uitvoeren die zij in principe zouden moeten doen.
Een team van onderzoekers heeft nu een nieuwe methode voorgesteld genaamd SAME om deze problemen op te lossen. Ze ontdekten dat de verwarring van de manager en het geheugenverlies van de werknemers twee aparte problemen waren die verschillende oplossingen vereisten. Om te voorkomen dat de manager in de war raakt, hebben de onderzoekers een systeem ontworpen dat zorgvuldig bijhoudt hoe het model de wereld ziet. In plaats van de manager toe te staan zijn mening bij elke nieuwe les volledig te veranderen, beperken ze hoeveel hij van focus kan verschuiven. Ze laten de manager nieuwe manieren leren om vragen te sorteren, maar beschermen de oude manieren van sorteren die essentieel waren voor eerdere taken. Dit zorgt ervoor dat een vraag over bijvoorbeeld een medische afbeelding, ook na het leren van het lezen van kaarten of het oplossen van chemieproblemen, doorgaat naar de medische expert.
Om te voorkomen dat de werknemers hun taken vergeten, introduceerden de onderzoekers een manier om te meten hoeveel het nieuwe leren van een werknemer schade zou toebrengen aan hun oude vaardigheden. Ze keken naar de soorten gegevens die de werknemers in het verleden hadden gezien en gebruikten die geschiedenis om veranderingen te vertragen die de oude vaardigheden zouden beschadigen. Het is alsof je tegen een werknemer zegt: "Je mag deze nieuwe vaardigheid leren, maar doe het op een manier die niet wist hoe je de oude machines repareerde." Door dit te doen, behoudt het model de specifieke vermogens die het van eerdere taken heeft verkregen, terwijl het nog steeds in staat is zich aan te passen aan nieuwe taken. Daarnaast ontdekten de onderzoekers dat niet elke werknemer actief hoeft te zijn voor elke les. Ze creëerden een regel om de werknemers die niet nodig zijn voor de huidige taak tijdelijk te pauzeren, wat energie bespaart en voorkomt dat zij per ongeluk worden veranderd door irrelevante informatie.
Het team testte deze nieuwe aanpak op een reeks uitdagende benchmarks, inclus een nieuwe set taken die zij zelf hebben gemaakt die de rommelige, gevarieerde realiteit van de echte wereld nabootsen. Deze nieuwe test omvatte tien verschillende soorten taken, variërend van het lezen van medische documenten en het analyseren van wetenschappelijke grafieken tot het begrijpen van complexe wegscènes en chemische formules. De resultaten lieten zien dat hun methode, SAME, aanzienlijk beter was in het onthouden van oude taken dan eerdere methoden. In één specifieke test met een lange reeks van acht taken, behield de nieuwe methode een veel hoger nauwkeurigheidsniveau op de allereerste taak vergeleken met andere benaderingen. Het bleek ook efficiënter te zijn, omdat het minder tijd en computergeheugen vereiste voor training doordat het alleen de noodzakelijke werknemers bijwerkte.
Misschien wel het belangrijkste is dat de onderzoekers observeerden dat hun methode een subtiel maar veelvoorkomend type falen voorkwam waarbij het model het juiste antwoord gaf, maar het incorrect formatteerde. Bijvoorbeeld, als een taak vereiste dat het antwoord in hoofdletters werd gegeven, kon het model na het leren van een nieuwe taak die kleine letters gebruikte, beginnen met het geven van het antwoord in kleine letters. Het nieuwe systeem hield het model consistent, waardoor het de specifieke formateringsregels van elke taak volgde zonder in de war te raken door de stijl van de volgende taak. Door zowel de beslissing van wie de vraag beantwoordt als het geheugen van de persoon die het antwoord geeft te stabiliseren, biedt dit werk een betrouwbaardere manier voor kunstmatige intelligentie om continu te leren, waardoor de mogelijkheden worden uitgebreid zonder de basis van wat het al weet te verliezen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.