Many Optimizers But Only One Training Path: Repeated Resampling for Adaptive Optimizer Selection
Dit artikel introduceert Repeated Optimizer Resampling (ROR), een methode die tijdens een enkele trainingsron bepaling van de beste optimizer dynamisch selecteert door periodiek kandidaat-optimizers voor korte intervallen te verkennen, waardoor een prestatie wordt bereikt die vergelijkbaar is met uitvoerige zoektochten naar vaste optimizers, terwijl er aanzienlijk minder computationele middelen worden gebruikt.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Deep learning, de technologie achter alles van stemassistenten tot medische beeldvorming, vertrouwt op kunstmatige hersenen die neurale netwerken worden genoemd. Om deze netwerken te onderwijzen, moeten onderzoekers een wiskundig hulpmiddel kiezen dat bekend staat als een optimizer. Zie een optimizer als de set regels die een student gebruikt om zijn fouten te corrigeren tijdens het studeren; het bepaalt hoeveel de student zijn begrip moet aanpassen na elk nieuw stukje informatie. Jarenlang was de standaardpraktijk om aan het begin van de training één set regels te kiezen en deze vast te houden tot het werk gedaan is. Deze keuze wordt vaak gemaakt op basis van gokwerk of gewoonte, terwijl het een cruciale beslissing is die kan bepalen of het uiteindelijke model briljant of slechts gemiddeld is. Het probleem is dat de beste set regels voor het begin van een les misschien niet de beste is voor het einde, en het proberen te vinden van de perfecte regel door elke mogelijkheid één voor één te testen, is ongelooflijk duur en vereist enorme hoeveelheden tijd en rekenkracht die vaak verspild worden.
Een team van onderzoekers van insureAI en ETH Zürich begon met de vraag of ze dit proces slimmer en goedkoper konden maken. In plaats van één optimizer vast te leggen voordat de training begint, ontwikkelden ze een methode genaamd Repeated Optimizer Resampling, of ROR. Stel je een lange race voor waarbij, in plaats van één hardloper voor de hele route toe te wijzen, een coach elke paar mijlen even checkt. Bij elk controlepunt stuurt de coach een klein team van verschillende hardlopers uit, die elk een andere strategie gebruiken, om slechts een kort stukje vooruit te rennen. De coach kijkt wie er over dat korte stukje het beste presteert, houdt die hardloper vast en stuurt hen door voor het volgende deel van de race, terwijl de anderen naar huis worden gestuurd. Dit proces herhaalt zich gedurende de gehele trainingssessie, waardoor het team van strategie kan wisselen naarmate de reis vordert. De onderzoekers testten dit idee op vier verschillende taken: twee die het classificeren van afbeeldingen van handgeschreven cijfers en kleding betreffen, en twee die het voorspellen van verzekeringsclaims uit complexe datatabellen betreffen.
De resultaten lieten zien dat deze dynamische aanpak opmerkelijk goed werkt, maar met een verrassende wending wat betreft de benodigde inspanning. De onderzoekers ontdekten dat de korte "verkenningsruns" niet lang hoefden te zijn om effectief te zijn. Sterker nog, het uitsturen van de hardlopers voor slechts één stap voordat werd besloten wie er behouden moest worden, was voldoende om een pad te vinden dat bijna even goed presteerde als de beste mogelijke vaste strategie die door alle opties exhaustief te testen was gevonden. Door deze een-stap-verkenningsmethode te gebruiken, verbruikte het team slechts ongeveer een kwart tot een derde van de totale rekenkracht die nodig was om alle negen verschillende strategieën tot voltooiing te draaien. Dit betekent dat ze bijna dezelfde hoogwaardige resultaten behaalden terwijl ze een enorme hoeveelheid tijd en energie bespaarden. De methode was in staat om te identificeren dat verschillende taken verschillende strategieën vereisten; bijvoorbeeld gaf één beeldtaak de voorkeur aan een specifieke optimizer van begin tot eind, terwijl een verzekeringsmodel van strategie wisselde terwijl het leerde, wat bewees dat een enkele vaste regel niet altijd de beste keuze is.
De studie vergeleek ook twee manieren om met het "geheugen" van de optimizer om te gaan. In de ene versie, als dezelfde strategie twee rondes achter elkaar won, behield deze zijn geaccumuleerde kennis en momentum. In de andere versie begon elke keer dat een strategie werd gekozen, de strategie met een frisse, schone lei. De onderzoekers kwamen tot de conclusie dat het behouden van het geheugen niet consistent tot betere resultaten of lagere kosten leidde. De belangrijkste ontdekking was dat de lengte van de verkenningsperiode veel meer uitmaakte voor de kosten dan voor de uiteindelijke prestaties. Omdat de belangrijkste leerprocessen plaatsvinden in de allereerste stappen van de training, is een korte controle voldoende om de meest veelbelovende richting te spotten. Hoewel een enkele vroege controle, bekend als een one-shot selectie, goedkoper was en goed werkte voor de beeldtaken waarbij de beste strategie hetzelfde bleef, bleken de herhaalde controles van ROR waardevol voor de verzekeringsmodellen waarbij de beste strategie in de loop van de tijd veranderde.
Uiteindelijk suggereert het onderzoek dat we niet elke mogelijkheid uitputtend hoeven te testen om een goed leertraject te vinden, noch dat we star aan één keuze hoeven vast te houden. Door het trainingsproces toe te staan te adapteren en van strategie te wisselen op basis van korte, frequente controles, kunnen we een hoge prestatie bereiken met een fractie van de gebruikelijke kosten. De methode garandeert geen resultaat dat beter is dan de absoluut beste vaste strategie die na een volledige zoektocht is gevonden, maar het komt heel dicht bij die piekprestatie terwijl het aanzienlijk minder middelen gebruikt. Dit biedt een praktische manier om door het complexe landschap van het trainen van kunstmatige intelligentie te navigeren, waarbij wordt aangetoond dat een flexibele, adaptieve aanpak net zo effectief kan zijn als een massale, uitputtende zoektocht, mits de controles frequent zijn en de beslissingen snel worden genomen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.