TorchMorph: CUDA-accelerated Morphological Transforms

In de wereld van digitale beeldanalyse vertrouwen computers al lang op een reeks eeuwenoude, betrouwbare instrumenten om vormen te begrijpen. Deze instrumenten, bekend als morfologische transformaties, werken als de beitel en penseel van een digitale beeldhouwer. Ze kunnen ruwe randen gladstrijken, kleine gaatjes opvullen of de afstand meten van het centrum van een object tot de rand ervan. Decennialang was de standaardmanier om deze instrumenten in de computerwetenschap te gebruiken het uitvoeren ervan op de centrale verwerkingseenheid van een computer, de centrale verwerkingseenheid (CPU). Deze aanpak werkt goed voor eenvoudige taken, maar loopt tegen een harde muur aan wanneer moderne kunstmatige intelligentie probeert te leren van enorme hoeveelheden video of 3D-medische scans. In deze geavanceerde systemen leeft de data op een gespecialiseerde grafische processor, een apparaat dat is gebouwd om duizenden berekeningen tegelijkertijd af te handelen. Om de oude instrumenten te gebruiken, moet de computer stoppen, de data terug naar de hoofdprocessor kopiëren, wachten tot de trage berekening klaar is, en vervolgens het resultaat terugkopiëren. Dit constante heen en weer pendelen van informatie is als een koerier die heen en weer rent door een stad om slechts één enkele brief te bezorgen; het verspilt tijd en energie, waardoor het hele leerproces wordt vertraagd.

Een onderzoeker heeft nu een nieuwe oplossing ontwikkeld die deze flessenhals elimineert. De onderzoeker heeft een softwarebibliotheek genaamd TorchMorph gecreëerd, die deze vormverwerkende instrumenten rechtstreeks naar de grafische processor brengt, waardoor ze op enorme batches data tegelijkert in de snelle rij kunnen werken zonder ooit de snelle rij te verlaten. De onderzoeker heeft geen nieuwe wiskunde uitgevonden; in plaats daarvan heeft hij de gevestigde, vertrouwde methoden die wetenschappers al jaren gebruiken, herschreven zodat ze inheems op de grafische hardware kunnen draaien. Het resultaat is een systeem dat afbeeldingen tot duizend keer sneller kan verwerken dan de oude standaard wanneer grote groepen data worden afgehandeld, terwijl de resultaten nog steeds met extreme precisie overeenkomen met de oorspronkelijke methoden. Dit stelt modellen voor kunstmatige intelligentie in staat om deze krachtige vorminstrumenten te gebruiken als een regulier onderdeel van hun training, in plaats van ze te behandelen als een trage, aparte stap die achteraf moet worden uitgevoerd.

De kern van deze prestatie ligt in de manier waarop de onderzoeker de werkzaamheden heeft georganiseerd. In het verleden, als een wetenschapper een ruisarm beeld wilde opschonen of de afstand tussen kenmerken wilde meten, gebruikte hij een bibliotheek van code die ontworpen is voor de hoofdprocessor. Deze bibliotheek was uitstekend voor enkele afbeeldingen, maar had moeite wanneer er werd gevraagd om tientallen of honderden afbeeldingen tegelijkertijd te verwerken, wat is hoe moderne AI-systemen opereren. De nieuwe bibliotheek, TorchMorph, verandert de regels door de grafische processor toe te staan de gehele batch afbeeldingen in een enkele, gecoördineerde inspanning af te handelen. Het ondersteunt data met tot wel acht verschillende ruimtelijke dimensies, wat betekent dat het complexe 3D-volumes, time-lapse video's en multi-channel medische scans allemaal tegelijkertijd kan verwerken. De onderzoeker heeft ervoor gezorgd dat het nieuwe systeem dezelfde taal spreekt als het oude, waarbij dezelfde namen en instellingen worden gebruikt, zodat bestaande computerprogramma's met een enkele regel code-wijziging naar de snellere versie kunnen overschakelen.

Om deze snelheid mogelijk te maken, moest de onderzoeker heroverwegen hoe de berekeningen binnen de grafische processor werden uitgevoerd. Een rechttoe-rechtaan benadering zou de processor elke individuele punt in een afbeelding tegen zijn buren laten controleren, een methode die traag en repetitief is. In plaats daarvan gebruikt het nieuwe systeem een slimme strategie waarbij de processor de lay-out van het "sculpting tool" vooraf op de hoofdprocessor berekent voordat de instructies naar de grafische chip worden verzonden. Zodra het werk begint, concentreert de grafische processor zich alleen op het binnenste deel van de afbeelding, waar de berekeningen eenvoudig en snel zijn, en reserveert de complexe grenscontroles alleen voor de randen. Deze taakverdeling zorgt ervoor dat de grafische processor op volle capaciteit kan draaien, waarbij miljoenen pixels worden verwerkt in de tijd die voorheen nodig was om enkele duizenden te verwerken.

De prestatiewinst is aanzienlijk en meetbaar. Wanneer de onderzoeker het nieuwe systeem testte tegen de standaardmethode op een krachtige grafische kaart, ontdekte hij dat voor bepaalde taken, zoals het gladstrijken van grijswaardenbeelden, het nieuwe systeem tot elfhonderd keer sneller was bij het verwerken van een batch afbeeldingen. Voor het meten van exacte afstanden binnen vormen was de versnelling nog dramatischer, waarbij driehonderdvijftig keer sneller werd bereikt dan de standaardmethode. Zelfs voor de meest complexe berekeningen waarbij twee verschillende distributies van data worden vergeleken, draaide het nieuwe systeem tot tweeënveertig keer sneller. Deze cijfers vertegenwoordigen een verschuiving van minuten wachten op een resultaat naar het krijgen ervan in een fractie van een seconde, een verandering die deze instrumenten transformeert van een flessenhals naar een naadloos onderdeel van het leerproces.

Nauwkeurigheid was net zo belangrijk als snelheid. De onderzoeker wilde geen precisie inruilen voor prestaties. Hij voerde duizenden tests uit waarbij de output van het nieuwe systeem vergeleken werd met de vertrouwde standaard, waarbij elke pixel en elke waarde werd gecontroleerd. De resultaten lieten zien dat het nieuwe systeem de standaard bijna perfect evenaart. Voor binaire afbeeldingen, die alleen uit zwart en wit bestaan, waren de resultaten identiek. Voor afbeeldingen met grijstinten was het verschil zo klein dat het minder dan twee-miljoenste van een eenheid was, een foutmarge die zo klein is dat deze effectief onzichtbaar is voor het menselijk oog en irrelevant is voor praktische toepassingen. Deze rigoureuze test bevestigt dat het nieuwe systeem niet alleen snel is, maar ook betrouwbaar, wat het veilig maakt voor gebruik in kritieke toepassingen zoals medische diagnose of autonoom rijden.

De bibliotheek bestrijkt een breed scala aan operaties, van de basis-taken zoals het eroderen en dilateren van vormen tot meer geavanceerde functies zoals het vinden van de exacte afstand van elk punt tot de dichtstbijzijnde rand. Het bevat ook een gespecialiseerd instrument voor het vergelijken van vormen op basis van hoeveel "werk" het zou kosten om de ene in de andere te vervormen, een techniek die steeds vaker wordt gebruikt om kunstmatige intelligentie te leren patronen te herkennen. Al deze instrumenten zijn nu beschikbaar als één open-source pakket dat iedereen kan gebruiken. Door de barrière tussen deze klassieke beeldverwerkingstools en de moderne hardware die de kunstmatige intelligentie aandrijft weg te nemen, heeft de onderzoeker de deur geopend voor meer geavanceerde en efficiënte leersystemen. Het werk laat zien dat de meest significante vooruitgang soms niet komt van het ontdekken van nieuwe natuurwetten, maar simpelweg van het vinden van een betere manier om de oude toe te passen op de instrumenten die we vandaag de dag hebben.