Portable SIMD Acceleration of Sparse Linear Algebra Libraries on RISC-V
Dit artikel presenteert een prestatie-draagbare SIMD-acceleratie van sparse lineaire algebra-bibliotheken (Ginkgo, PETSc en SLEPc) met behulp van Google Highway op RISC-V-hardware, waarbij de afwegingen tussen draagbaarheid, programmeerbaarheid en prestaties worden geëvalueerd om toekomstige adoptie op opkomende open-ISA-platformen te begeleiden.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Moderne computers zijn gebouwd om enorme hoeveelheden gegevens te verwerken, maar ze hebben vaak moeite wanneer die gegevens verspreid en incompleet zijn. In de wereld van wetenschappelijke computing bevatten veel problemen "ijle" (sparse) informatie, waarbij de meeste getallen in een groot raster nul zijn. Denk aan een kaart van een stad waar alleen de wegen zijn aangegeven en de lege velden leeg zijn gelaten; een computer die de verkeersstroom over deze kaart probeert te berekenen, hoeft de lege velden niet te verwerken, toch verspillen traditionele methoden vaak tijd aan het controleren ervan. Om deze problemen efficiënt op te lossen, vertrouwen ingenieurs op gespecialiseerde softwarebibliotheken die fungeren als de motor voor simulaties in de natuurkunde, techniek en klimaatwetenschap. Decennialang zijn deze bibliotheken sneller geworden door een techniek genaamd SIMD te gebruiken, die een processor in staat stelt om dezelfde berekening op meerdere getallen tegelijk uit te voeren, vergelijkbaar met een lopende band in een fabriek die in één beweging identieke onderdelen stempelt in plaats van één voor één. Echter, naarmate er nieuwe soorten computerchips verschijnen, met name degenen die gebaseerd zijn op de open RISC-V-architectuur, is het moeilijk geworden om dit snelheidsvoordeel te behouden omdat de instructies die de chip vertellen hoe hij moet werken, enorm variëren van de ene fabrikant naar de andere.
Een team onderzoekers uit Spanje heeft een manier verkend om deze snelle berekeningen soepel te laten verlopen over verschillende soorten hardware zonder de software voor elke nieuwe chip opnieuw te schrijven. Ze richtten zich op drie belangrijke bibliotheken die wereldwijd door wetenschappers worden gebruikt: Ginkgo, PETSc en SLEPc, die zijn ontworpen om complexe wiskundige puzzels op te lossen die te maken hebben met grote, ijle rasters van getallen. De onderzoekers testten een hulpmiddel genaamd Google Highway, een stuk softwarecode dat fungeert als een universele vertaler voor deze berekeningen. In plaats van specifieke instructies voor een specifieke chip te schrijven, kunnen ontwikkelaars met dit hulpmiddel één set instructies schrijven, en deze past zich automatisch aan om te draaien op welke processor ook beschikbaar is, of het nu een chip van een groot technologiebedrijf is of een nieuwere, open-source ontwerp zoals RISC-V. Het team nam de kernwiskundige operaties van deze drie bibliotheken en bouwde deze opnieuw op met behulp van dit universele hulpmiddel, en draaide ze vervolgens op een commerciële RISC-V-chip genaamd de SpacemiT K1 om te zien of de snelheid stand zou houden.
De resultaten lieten zien dat deze aanpak werkt, maar met belangrijke kanttekeningen met betrekking tot de organisatie van de gegevens. Toen de onderzoekers de software op de RISC-V-chip testten, ontdekten ze dat het universele hulpmiddel de berekeningen succesvol versnelde, wat bewees dat het mogelijk is om code één keer te schrijven en het snel op verschillende machines te draaien. De snelheidswinsten waren echter niet uniform over alle taken. Sommige operaties, met name die welke tussenresultaten binnen het snelle geheugen van de processor hielden, zagen enorme verbeteringen, waarbij sommige stappen meer dan tien keer sneller waren dan de standaardversie. Andere taken, die vereisten dat er constant gegevens in en uit het geheugen werden verplaatst, zagen veel kleinere winsten. Een cruciale ontdekking was dat het formaat waarin de gegevens werden opgeslagen belangrijker was dan de code zelf. Wanneer de onderzoekers de verspreide gegevens in een specifieke, gepadde structuur hadden geherorganiseerd, waren de snelheidsverbeteringen aanzienlijk. Wanneer ze de gegevens in hun oorspronkelijke, onregelmatige formaat lieten staan, was de versnelling minimaal. Dit suggereert dat hoewel de universele vertaaltool effectief is, de fysieke lay-out van de gegevens de belangrijkste factor blijft voor het bereiken van hoge prestaties.
De studie benadrukte ook de afwegingen die gepaard gaan met het gebruik van deze universele aanpak. De onderzoekers kwamen erachter dat hoewel de tool de code gemakkelijker te schrijven en draagbaarder maakte, het van hen vereiste om enkele van de complexe, flexibele functies van de originele bibliotheken weg te strippen om de berekeningen efficiënt te laten draaien. Ze moesten de interne logica van de software vereenvoudigen door bepaalde voorwaardelijke controles te verwijderen die de processor vertraagden. Dit betekende dat ze, om de beste prestaties te krijgen, de tool niet simpelweg in de bestaande bibliotheken konden pluggen; ze moesten specifieke delen van de software vanaf de grond af aan herbouwen. Ondanks deze technische uitdagingen toonde het experiment aan dat de universele tool de kloof tussen verschillende processortypen succesvol overbrugde. De onderzoekers concludeerden dat hoewel de tool een sterke basis biedt voor toekomstige software, het bereiken van de hoogst mogelijke snelheid nog steeds afhangt van zorgvuldige planning van hoe gegevens worden opgeslagen en hoe de berekeningen worden gestructureerd. Het werk biedt een praktisch pad vooruit voor ontwikkelaars die snelle, wetenschappelijke software willen bous die kan draaien op het diverse scala aan computerchips dat in de toekomst wordt verwacht.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.