Investigating reservoir computing for branch predictionin pipelined processors using emerging CMOS memristor devices
Questo articolo presenta un nuovo framework di reservoir computing basato su memristori per la predizione dei rami nei processori RISC-V in pipeline, dimostrando un'elevata accuratezza di predizione attraverso la simulazione ma rivelando un rallentamento significativo di 15 volte nella velocità di adattamento rispetto ai predittori TAGE allo stato dell'arte.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immaginate il cervello di un computer, la Central Processing Unit (CPU), come una catena di montaggio superveloce in una fabbrica enorme. I lavoratori (le istruzioni) si muovono lungo la linea, venendo costruiti e completati uno dopo l'altro. Ma a volte un lavoratore deve fare una scelta: "Se la scatola è rossa, vai a sinistra; se è blu, vai a destra". Questo è chiamato un "branch" (ramificazione). In una fabbrica tradizionale, la linea deve fermarsi e aspettare che la scelta venga fatta prima che chiunque possa procedere. Questo crea un ingorgo, o "pipeline bubble", dove tutti restano fermi a non far nulla. Per mantenere la fabbrica in funzione a una velocità fulminea, gli ingegneri usano un "Branch Predictor" (predittore di ramificazione)—un astuto indovino che osserva i modelli passati e grida: "Vai a sinistra!" prima ancora che la scelta venga presa. Se l'indovino ha ragione, la linea continua a scorrere. Se sbaglia, la fabbrica deve pulire l'intera linea e ricominciare da capo, sprecando tempo prezioso ed energia.
Per decenni, questi indovini sono diventati sempre più intelligenti, ma sono anche diventati enormi, complessi e voraci di energia, come cercare di risolvere un puzzle con una biblioteca piena di libri. Nel frattempo, gli scienziati hanno sperimentato con un nuovo e strano materiale chiamato "memristore". Pensate a un memristore come a un minuscolo, intelligente resistore che ricorda quanta elettricità sia fluita attraverso di esso. È come una spugna che cambia consistenza in base a quanta acqua le è stata spremuta attraverso, e quella consistenza rimane invariata finché non la si spremi nel senso opposto. Collegando migliaia di queste "spugne intelligenti" tra loro, i ricercatori possono costruire un "Computer a Serbatoio" (Reservoir Computer). Invece di seguire regole rigide, questo serbatoio agisce come un vaso d'acqua caotico e ribollente. Quando si lancia un sasso (un input), le increspature si diffondono in modi complessi e non lineari. Non è necessario insegnare al vaso come incresparsi; basta imparare a leggere le increspature per capire cosa è successo. Questo articolo pone una grande domanda: possiamo usare un vaso di queste spugne elettroniche per creare un indovino superveloce ed efficiente dal punto di vista energetico per le nostre fabbriche di computer?
L'Esperimento: Un Vaso di Spugne Elettroniche
In questo progetto, l'autore, Harvey, ha deciso di costruire una versione virtuale di questo "vaso di memristori" per vedere se potesse prevedere le scelte tra rosso o blu in una catena di montaggio di un computer. Non lo ha costruito con vere spugne fisiche; invece, ha utilizzato simulazioni al computer per modellare il comportamento di questi dispositivi. Ha creato un framework digitale in cui le "spugne" (i memristori) erano disposte in una rete, e ha fornito loro dati che rappresentavano la storia delle scelte del computer.
Il sistema funziona in tre fasi. Primo, i dati di input (la storia dei branch) vengono trasformati in tensioni elettriche e lanciati nel serbatoio. Secondo, il serbatoio, che è una rete disordinata e interconnessa di memristori, lascia che queste tensioni si propaghino attraverso di esso. Poiché i memristori sono non lineari e hanno memoria, le increspature creano un modello complesso e ad alta dimensionalità che cattura la "forma" della storia delle ramificazioni. Terzo, un semplice cervello digitale (un percettrone) osserva il modello finale delle increspature e fa una previsione: "Taken" (preso/andato a sinistra) o "Not Taken" (non preso/andato a destra). Se l'indovino sbaglia, il sistema regola istantaneamente i pesi del percettrone per imparare dall'errore, un processo chiamato "in-situ training" (addestramento in loco).
Cosa hanno scoperto le simulazioni
I risultati di queste simulazioni sono stati un mix di eccitante potenziale e sobria realtà. In senso positivo, il serbatoio a memristori ha funzionato. È riuscito con successo a prevedere i modelli di ramificazione in un benchmark standard per computer chiamato Dhrystone. Nella migliore configurazione, il sistema ha raggiunto un'accuratezza di circa il 96,50%. Questo è un enorme miglioramento rispetto al requisito di base del 70%, dimostrando che il concetto di utilizzare un "vaso ribollente" di memristori per la predizione è fisicamente possibile e può operare ad alte velocità (fino a 1 GHz, ovvero 1 miliardo di previsioni al secondo) e tensioni ragionevoli (circa 2,8V).
Tuttavia, l'articolo esclude esplicitamente l'idea che questo nuovo sistema sia pronto a sostituire i campioni attuali della predizione dei branch. Quando Harvey ha confrontato il suo sistema a memristori con il predittore "TAGE" all'avanguardia (un metodo tradizionale altamente complesso usato nelle moderne CPU), il sistema a memristori è risultato inferiore in un'area critica: la velocità di apprendimento. Mentre il predittore TAGE ha imparato i modelli di ramificazione e ha raggiunto il 100% di accuratezza in sole 10 iterazioni, il sistema a memristori ha impiegato circa 166 iterazioni per avvicinarsi alle sue prestazioni di picco. Ciò significa che il sistema a memristori è circa 15 volte più lento nell'adattarsi a nuovi modelli.
L'articolo suggerisce che il collo di bottiglia non sia il "vaso ribollente" in sé, ma il "cervello digitale" (il percettrone) che legge le increspature. Il semplice cervello digitale a bassa precisione utilizzato nella simulazione ha faticato a imparare abbastanza velocemente. L'autore nota che, sebbene il sistema sia stabile e robusto, necessita di un meccanismo di apprendimento migliore per stare al passo con la tecnologia esistente.
Il Verdetto
Quindi, il predittore di branch a memristori è il futuro? L'articolo suggerisce che sia una direzione molto promettente, ma non un prodotto finito. Le simulazioni mostrano che i memristori possono effettivamente agire come un serbatoio veloce e a basso consumo per l'elaborazione di dati temporali, e che il sistema può operare a velocità compatibili con i moderni processori. Tuttavia, l'attuale progettazione è troppo lenta nell'imparare nuovi modelli per essere utilizzata nei computer odierni. L'autore conclude che con una migliore ingegneria dei dispositivi e un algoritmo di apprendimento più avanzato per lo strato di lettura (readout layer), questo approccio a "spugna elettronica" potrebbe un giorno diventare un'alternativa sostenibile ed efficiente dal punto di vista energetico ai massicci e complessi predittori che usiamo ora. Per ora, rimane una affascinante prova di concetto che mostra come potremmo scambiare la logica complessa con la semplice fisica caotica per risolvere alcuni dei problemi più difficili dell'informatica.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.