Stochastic gradient descent with discontinuity across a manifold

De Hobbelige Weg naar het Perfecte Antwoord

Stel je voor dat je probeert het laagste punt te vinden in een uitgestrekt, mistig landschap. Dit is de dagelijkse taak van een computer die leert om katten te herkennen, talen te vertalen of een auto te besturen. De computer gebruikt een strategie die Stochastische Gradiëntafdaling (SGD) wordt genoemd. Zie SGD als een wandelaar die niet de hele kaart kan zien, maar wel de helling onder zijn voeten kan voelen. De wandelaar zet kleine, willekeurige stappen naar beneden, in de hoop uiteindelijk de diepste vallei te bereiken, die staat voor de perfecte oplossing voor zijn probleem. Meestal is het landschap glad, zoals een zachte heuvel, zodat de wandelaar precies weet welke kant hij op moet gaan.

Maar wat gebeurt er als het landschap niet glad is? Wat als er plotselinge kliffen, grillige randen of onzichtbare muren zijn waar de grond plotseling van richting verandert? In de echte wereld van kunstmatige intelligentie komen deze "hobbelige stukken" vaak voor. Ze ontstaan wanneer de hersenen van de computer (het neurale netwerk) onderdelen hebben die abrupt aan- of uitgaan, of wanneer de regels voor succes veranderen afhankelijk van de situatie. Dit creëert een "discontinuïteit"—een plek waar de gebruikelijke regels voor het afdalen niet meer gelden. Als de wandelaar niet weet hoe hij met deze kliffen moet omgaan, kan hij vast komen te zitten, wild heen en weer stuiteren of volledig van de kaart vallen. Begrijpen hoe je deze ruwe stukken navigeert, is cruciaal omdat dit bepaalt of onze AI complexe, realistische taken kan uitvoeren of dat het simpelweg in de war raakt en opgeeft.

De Reis van het Papier: Navigeren langs de Rand van de Klif

Dit artikel, geschreven door Vivek S. Borkar, pakt het specifieke probleem aan van wat er gebeurt wanneer onze AI-wandelaar een "klif" tegenkomt die niet slechts een enkele lijn is, maar een heel oppervlak (een manifold) dat door het landschap snijdt. Stel je een dunne, onzichtbare glasplaat voor die in de lucht zweeft. Aan de ene kant loopt de grond in de ene richting af; aan de andere kant loopt de grond in een andere richting af. Het artikel vraagt zich af: als de leeralgoritme van de computer deze glasplaat raakt, crasht hij dan, stuiteren we terug, of glijdt hij erlangs?

De auteur analyseert dit door te kijken naar het "gemiddelde" pad dat de computer aflegt wanneer hij zeer langzaam beweegt (met behulp van een minuscule stapgrootte). Hij ontdekte dat wanneer de computer dit discontinue oppervlak raakt, hij niet zomaar stopt of willekeurig rondstuitert. In plaats daarvan vindt hij een slimme manier om langs het oppervlak te glijden.

Hier is de magische truc die zij ontdekten: de computer "voelt" effectief de helling aan beide kanten van de glasplaat tegelijkertijd. De computer berekent een nieuwe, samengestelde richting die een gewogen gemiddelde is van de twee hellingen. Het gewicht hangt af van hoe steil de helling aan elke kant is. Als de grond aan de linkerkant steil naar beneden valt maar aan de rechterkant flauw is, zal de computer meer tijd doorbrengen met "leunen" naar links, maar de wiskunde zorgt ervoor dat hij aan de glasplaat geplakt blijft, waarbij hij erlangs glijdt in plaats van er dwars doorheen te crashen. Het is als een surfer die, in plaats van van een golf af te vallen, een manier vindt om op de rand te rijden waar twee golven elkaar ontmoeten, waarbij hij de kracht van beide gebruikt om in evenwicht te blijven.

Het artikel bewijst dat deze glijdende beweging voorspelbaar is en een specifieke set regels volgt in de directe nabijheid van de manifold. De computer dwaalt niet zomaar rond; hij volgt een "gladgestreken" pad dat wiskundig uniek is lokaal. De auteur keek ook naar wat er gebeurt wanneer de computer heel dicht bij de best mog oldelijke oplossing (het globale minimum) komt. Hij ontdekte dat naarmate de computer steeds kleinere stappen neemt, hij uiteindelijk tot rust komt op de beste oplossingen. Deze conclusie wordt getrokken door te verwijzen naar gevestigde resultaten uit ander werk [19], die aantonen dat het algoritme concentreert op globale minima. Als er meerdere "beste" plekken zijn, verdeelt de computer zijn tijd onder deze plekken op basis van hoe "diep" en "scherp" die plekken zijn.

Het artikel merkt echter zorgvuldig op dat deze analyse ervan afhangt dat de computer zeer kleine stappen neemt en dat de "kliffen" goed gedefinieerd zijn. De auteur gaat ervan uit dat de computer niet vast komt te zitten in onstabiele posities (zoals een bal die op een piek balanceert), omdat de willekeurige ruis in het systeem hem meestal van die precariere posities wegduwt. Ze wijzen er ook op dat hoewel de wiskunde perfect werkt voor een enkel moment in de tijd, het landschap zelf in de loop van de tijd kan veranderen terwijl de computer leert. Als de "beste" plekken samensmelten of splitsen, kan het pad van de computer tussen verschillende patronen springen. De auteur suggereert dat hoewel deze sprongen theoretisch mogelijk zijn, ze in de echte wereld waarschijnlijk zo zelden of kortstondig voorkomen dat de computer nog steeds zijn weg naar de bodem van de vallei kan vinden.

Kortom, dit artikel geeft ons een kaart voor de "klifranden" van het leren door AI. Het laat zien dat zelfs wanneer de regels abrupt veranderen, het leeralgoritme een ingebouwd mechanisme heeft om langs de rand te glijden en vooruit te blijven bewegen, in plaats van van de rand van de wereld af te vallen. Dit geeft ons het vertrouwen dat AI de rommelige, grillige realiteit van de echte wereld aan kan, en niet alleen de gladde, perfecte landschappen van de theorie.