Hybrid Coarse-Grained Transprecision boosted by a Custom GEMM Kernel to accelerate Parametric Linear Systems

Nel mondo dell'ingegneria e della scienza moderna, la risoluzione di problemi fisici complessi si affida spesso a una tecnica chiamata metodo degli elementi finiti. Immaginate di cercare di capire come un ponte oscilla al vento o come l'elettricità scorre attraverso un semiconduttore. Gli scienziati frammentano questi oggetti massicci e continui in milioni di piccoli pezzi gestibili, trasformando le leggi della fisica in un enorme sistema di equazioni. Per ottenere una risposta precisa, i computer devono elaborare i numeri con estrema cura, utilizzando un formato noto come doppia precisione. Questo metodo tratta ogni numero con la massima accuratezza, assicurando che piccoli errori non si trasformino in errori massicci. Tuttavia, questa ricerca incessante della perfezione ha un prezzo elevato: richiede enormi quantità di tempo ed energia. Per applicazioni che necessitano di risposte istantanee, come il gemello digitale di un pavimento di fabbrica o un robot che naviga in una zona di disastro, aspettare questi calcoli lenti e iper-accurati non è semplicemente un'opzione.

La sfida risiede in un tipo specifico di calcolo che appare ripetutamente in queste simulazioni. Esso coinvolge un insieme massiccio e fisso di dati che rappresentano la struttura fisica, combinato con un insieme variabile di parametri che descrivono le condizioni attuali, come la resistenza del materiale o la temperatura. Il computer deve moltiplicarli tra loro per trovare la soluzione. Poiché l'insieme di dati fissi è così vasto, il calcolo diventa un collo di bottiglia, rallentando tutto. I ricercatori sospettano da tempo che, per molti di questi compiti, l'estrema precisione della matematica a doppia precisione sia superflua. Proprio come l'occhio umano non riesce a distinguere tra due sfumature di grigio leggermente diverse in una stanza buia, molte simulazioni fisiche possono tollerare piccoli errori numerici senza che il risultato finale diventi inutile. La domanda è se possiamo scambiare in sicurezza quella precisione extra con un enorme guadagno in velocità.

Un team di ricercatori della Queen's University Belfast e dell'Università di Edimburgo ha sviluppato un nuovo modo per affrontare questo problema, offrendo una soluzione che è sia più intelligente che più veloce. Hanno creato un sistema che agisce come un filtro a due stadi per la precisione matematica. Prima, in una fase "offline", il sistema studia un campione rappresentativo dei parametri variabili per determinare il livello minimo di precisione che mantenga comunque la risposta finale entro un margine di errore sicuro. Testa diversi formati, che vanno dai numeri standard ad alta precisione fino a versioni molto più compatte e a bassa precisione. Una volta stabilito questo valore di base, il sistema passa a una fase "online" dove gestisce i dati in tempo reale. Man mano che arriva un nuovo set di parametri, il sistema controlla rapidamente il suo intervallo e seleziona automaticamente il formato di precisione più efficiente disponibile sulla scheda grafica. Se i numeri sono piccoli e stabili, utilizza un formato molto compatto; se sono più grandi o volatili, passa a uno leggermente più robusto. Questa regolazione dinamica consente al computer di operare alla massima velocità senza sacrificare l'affidabilità del risultato.

Per rendere questo incremento di velocità ancora più drammatico, i ricercatori hanno anche costruito un motore di calcolo personalizzato. Normalmente, un computer esegue questo tipo di moltiplicazione di matrici in due passaggi separati: prima scala i dati rispetto ai parametri, e poi moltiplica i risultati tra loro. Ciò richiede lo spostamento dei dati avanti e indietro tra le diverse parti del computer, il che spreca tempo. Il team ha fuso questi due passaggi in un'unica operazione personalizzata. Scalando i dati mentre vengono caricati nella memoria veloce del processore, hanno eliminato la necessità di spostare i dati due volte. Questo approccio snello ha rimosso una quantità significativa di sforzo sprecato, permettendo al sistema di eseguire lo stesso calcolo in modo molto più efficiente.

I risultati di questo approccio sono stati testati su una varietà di problemi su larga scala utilizzando potenti schede grafiche di tre diverse generazioni tecnologiche. I risultati sono stati sorprendenti. Per un dataset massiccio contenente oltre 21 milioni di righe, il nuovo metodo è stato in grado di elaborare le informazioni fino a 117 volte più velocemente del tradizionale metodo ultra-preciso. In termini di energia, il sistema ha consumato 36 volte meno potenza per ottenere lo stesso risultato. Fondamentalmente, nonostante questi enormi guadagni in velocità ed efficienza, l'errore medio nella risposta finale è rimasto incredibilmente basso, restando ben al di sotto dell'uno percento. In un caso specifico di test che coinvolgeva un dataset di 80,3 gigabyte, il sistema poteva valutare due diversi set di parametri ogni secondo, un'impresa che sarebbe impossibile con i vecchi metodi lenti.

I ricercatori hanno affrontato anche il problema dei limiti di memoria. Quando i dati sono troppo grandi per entrare interamente nella scheda grafica, i metodi standard spesso devono mettersi in pausa e recuperare i dati dalla memoria principale del computer, il che è lento. Il team ha scoperto che, utilizzando i loro formati a bassa precisione, l'impronta dei dati si riduce a sufficienza per entrare interamente nella scheda, evitando queste pause lente. Hanno confrontato due strategie per gestire i dati che non entravano: ricaricare i dati originali dalla memoria principale oppure ricalcolarli al volo. Hanno scoperto che, per dataset molto grandi, ricalcolare i dati era significativamente più veloce che attendere il ricaricamento, a patto che la precisione fosse gestita con cura per evitare che gli errori si accumulino nel tempo.

Questo lavoro dimostra che il requisito rigido della matematica a doppia precisione nella computazione scientifica non è sempre necessario. Abbinando intelligentamente la precisione del calcolo alle esigenze specifiche del problema e ottimizzando il modo in cui il computer gestisce i dati, è possibile ottenere prestazioni in tempo reale su problemi che prima erano troppo lenti da risolvere al volo. Lo studio conferma che, con gli strumenti giusti, scienziati e ingegneri possono eseguire simulazioni complesse in tempo reale, aprendo la porta a gemelli digitali più reattivi, strumenti diagnostici più rapidi e progettazioni ingegneristiche più efficienti, il tutto utilizzando una frazione dell'energia precedentemente richiesta.