Model Merging is Secretly Certifiable: Non-Vacuous Generalisation Bounds for Low-Shot Learning

In de wereld van kunstmatige intelligentie is er een groeiende spanning tussen de kracht van deze systemen en ons vermogen om ze te vertrouwen. We vertrouwen op AI om beslissingen te nemen in sectoren met hoge belangen, zoals de geneeskunde en veiligheid, maar de meest fundamentele vereiste voor vertrouwen is weten dat een systeem betrouwbaar zal presteren op nieuwe, ongeziene data, en niet alleen op de voorbeelden waarop het is getraind. Decennialang hebben wetenschappers geprobeerd om wiskundige garanties te creëren die bewijzen dat een model niet onverwacht zal falen. Echter, deze garanties waren vaak nutteloos voor de enorme, complexe netwerken die de moderne AI aandrijven. De berekeningen die nodig zijn om de veiligheid van dergelijke grote systemen te bewijzen, resulteren meestal in waarschuwingen die zo breed en pessimistisch zijn dat ze ons niets nuttigs vertellen; ze zeggen in feite dat de foutmarge overal tussen nul en honderd procent kan liggen. Dit probleem wordt nog moeilijker wanneer er zeer weinig data beschikbaar is om het systeem op te trainen, een veelvoorkomende situatie in gespecialiseerde vakgebieden waar het verzamelen van duizenden voorbeelden onmogelijk is.

Een team van onderzoekers heeft een verrassende manier ontdekt om deze beperkingen te omzeilen door anders naar het leerproces zelf te kijken. In plaats van te proberen de gehele enorme neurale netwerk te certificeren, richtten zij zich op een techniek genaamd model merging (modelversmelting), waarbij verschillende vooraf getrainde experts worden gecombineerd tot één nieuw model. Door het proces van het combineren van deze modellen te behandelen als een vorm van leren met zeer weinig aanpasbare instellingen, ontdekten de onderzoekers dat zij strikte veiligheidscontroles konden toepassen die voorheen onmogelijk waren. Hun werk demonstreert dat het mogelijk is om betekenisvolle, niet-lege garanties te bieden voor de prestaties van enorme kunstmatige intelligentiesystemen, zelfs wanneer ze zijn getraind op slechts honderd voorbeelden. Deze bevinding suggereert dat de instrumenten die nodig zijn om de veiligheid van de huidige krachtige AI-modellen te certificeren, al voor het grijpen lagen, wachtend om herkend te worden door een andere theoretische lens.

De kern van deze ontdekking ligt in het heroverwegen van hoe we AI trainen en valideren wanneer data schaars is. Traditioneel, om te bewijzen dat een model werkt, splitsen wetenschappers hun beperkte data in een trainingsset en een aparte validatieset. Maar wanneer je slechts honderd voorbeelden hebt, laat het splitsen ervan in tweeën je met te weinig over om een goed model te trainen én te weinig om het betrouwbaar te testen. De onderzoekers realiseerden zich dat een populaire methode, genaamd model merging, een oplossing bood. In deze benadering, in plaats van een gigantisch netwerk vanaf nul te trainen, neem je verschillende bestaande netwerken die al verschillende vaardigheden hebben geleerd en meng je deze samen. Het mengen wordt gecontroleerd door een kleine set getallen, of gewichten, die bepalen hoeveel elke oorspronkelijke netwerk bijdraagt aan het uiteindelijke resultaat. Omdat het aantal van deze menggewichten minuscuul is in vergelijking met de miljarden parameters binnen de oorspronkelijke netwerken, wordt het leerproces veel eenvoudiger.

De onderzoekers toonden aan dat deze eenvoud de sleutel is tot certificering. Ze pasten een raamwerk toe dat bekend staat als PAC-Bayes, een methode voor het berekenen van de waarschijnlijkheid dat een model goed zal presteren op nieuwe data. Normaal gesproken faalt deze methode voor grote netwerken omdat de wiskunde te vaag wordt om nuttig te zijn. Maar omdat model merging slechts een handvol gewichten aanpast, blijft de wiskunde nauwkeurig. Het team demonstreerde dat bestaande algoritmen voor model merging, die simpelweg bedoeld waren om het best mogelijke gecombineerde model te maken, al deze nauwe veiligheidsgaranties boden zonder enige speciale modificaties. In veel gevallen was de standaardwijze waarop deze algoritmen werkten voldoende om te bewijzen dat het resulterende model niet catastrofaal zou falen, zelfs met zeer weinig trainingsdata.

Om deze garanties nog sterker te maken, ontwikkelde het team een manier om het leerproces aan te passen. Ze modificeerden het doel van het model merging-algoritme om expliciet de veiligheidsgrens zelf te minimaliseren, in plaats van alleen maar te streven naar de laagste fout op de trainingsdata. Deze aanpassing stelde hen in staat om "lege" garanties, die geen echte zekerheid boden, om te zetten in concrete, bruikbare limieten voor hoe vaak het model zou kunnen falen. Ze testten deze benadering op twee zeer verschillende soorten kunstmatige intelligentie: een visiesysteem dat in staat is om afbeeldingen te herkennen en een groot taalmodel dat in staat is om tekst te begrijpen. Voor het visiesysteem gebruikten ze een model met ongeveer achtentachtig miljoen parameters, en voor het taalmodel een model met zeven miljard parameters. In beide gevallen trainden ze de systemen op slechts honderd voorbeelden per taak.

De resultaten waren opmerkelijk. Voor de visietaken waren de onderzoekers in staat om te certificeren dat de samengevoegde modellen zouden presteren binnen een specifieke, nauwe marge van nauwkeurigheid. Voor het taalmodel, dat aanzienlijk groter en complexer is, bereikten zij hetzelfde resultaat. In veel gevallen presteerde het basistaalmodel slecht op nieuwe taken wanneer het zonder trainingsvoorbeelden werd gegeven, maar na het samenvoegen en trainen op slechts honderd voorbeelden, verbeterde het systeem niet alleen zijn prestaties, maar kwam het ook met een wiskundig certificaat dat de betrouwbaarheid bewees. De onderzoekers vonden dat voor alle datasets de testfout gecertificeerd kon worden binnen 5% van de trainingsfout.

Dit werk daagt de langgevestigde overtuiging uit dat het certificeren van grote AI-systemen enorme hoeveelheden data vereist. De onderzoekers toonden aan dat door de focus te leggen op het kleine aantal parameters dat daadwerkelijk verandert tijdens het samenvoegingsproces, de complexiteit van het systeem beheersbaar wordt voor veiligheidsbewijzen. Ze verkenden ook een techniek genaamd data-afhankelijke priors, wat inhoudt dat een klein deel van de trainingsdata wordt gebruikt om een beter startpunt in te stellen voor de veiligheidsberekening. Dit maakte de garanties verder aanscherpt, wat bewees dat de methode robuust en aanpasbaar is. De studie beweerde niet alle problemen van AI-veiligheid op te lossen, maar bood een duidelijk pad vooruit voor het certificeren van systemen in situaties met weinig data, een scenario dat cruciaal is voor real-world toepassingen waar data duur of moeilijk te verkrijgen is.

De implicaties van deze bevinding reiken verder dan alleen de cijfers. Het suggereert dat de veiligheid van bestaande AI-systemen gemakkelijker te verifiëren is dan voorheen gedacht. Als de methoden die gebruikt worden om modellen te combineren zo gemakkelijk gecertificeerd kunnen worden, dan kunnen de systemen die met deze methoden zijn gebouwd met meer vertrouwen worden ingezet. De onderzoekers benadrukten dat deze benadering werkt voor zowel beeldherkenning als taalbegrip, wat aangeeft dat het principe algemeen is en niet beperkt is tot een specifiek type AI. Door te bewijzen dat betekenisvolle, of niet-vacueuze, garanties mogelijk zijn voor modellen zo groot als zeven miljard parameters met slechts honderd voorbeelden, heeft het team een nieuwe weg geopend voor het waarborgen dat kunstmatige intelligentie veilig kan worden ingezet in de meest kritieke gebieden van het menselijk leven. Het werk staat als een demonstratie dat de sleutel tot het oplossen van een complex theoretisch probleem soms niet ligt in het bouwen van een grotere machine, maar in het bekijken van de bestaande machine vanuit een andere hoek.