💻 computer science

Co-Optimization of Analog Kolmogorov-Arnold Networks for Low-Power Function Approximation in Flexible Electronics

Questo articolo introduce le reti di Kolmogorov-Arnold analogiche (AKAN) con co-ottimizzazione hardware-software che sfruttano l'addestramento consapevole del circuito e la potatura multilivello per ottenere fino al 55% di risparmio di area e al 50% di risparmio di potenza, mantenendo un'elevata accuratezza per l'approssimazione di funzioni complesse in elettronica flessibile con risorse limitate.

Autori originali: Paula Carolina Lozano Duarte, Georgios Zervakis, Mehdi Tahoori, Sani Nassif

Pubblicato 2026-06-29

📖 4 min di lettura☕ Lettura da pausa caffè

CC BY 4.0

Autori originali: Paula Carolina Lozano Duarte, Georgios Zervakis, Mehdi Tahoori, Sani Nassif

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di avere uno smartwatch o un sensore per la salute che deve eseguire calcoli matematici sui segnali del tuo corpo (come il battito cardiaco o i livelli di sudorazione) proprio dove i dati vengono raccolti. Di solito, questo è un problema perché eseguire calcoli complessi richiede molta energia, e questi dispositivi minuscoli e flessibili hanno pochissima batteria a disposizione.

Questo articolo presenta una soluzione ingegnosa chiamata Reti Kolmogorov-Arnold Analogiche (AKAN). Ecco la suddivisione di ciò che hanno fatto, utilizzando analogie semplici:

1. Il Problema: Lo "Zaino Pesante"

Pensa all'informatica digitale tradizionale come a uno zaino pieno di libri di testo pesanti. Per risolvere un problema matematico, il sensore deve:

Prendere il segnale grezzo (come un battito cardiaco).
Tradurre il segnale in numeri digitali (0 e 1) – questo è come tradurre una lingua straniera.
Elaborare i numeri usando un processore digitale.
Tradurre la risposta.

Questo processo è lento e consuma molta batteria. Per l'elettronica flessibile (come un adesivo sulla pelle), trasportare questo "zaino pesante" è impossibile.

2. La Soluzione: La "Scorciatoia Analogica"

Gli autori propongono di eseguire il calcolo direttamente nel mondo analogico (usando l'elettricità che scorre attraverso i fili) prima ancora che diventi un numero digitale.

L'Analogia: Invece di tradurre una lingua straniera e poi fare il calcolo, si esegue il calcolo usando direttamente i suoni e i toni di quella lingua stessa. È più veloce e consuma meno energia.
Lo Strumento: Utilizzano un tipo specifico di struttura matematica chiamata Rete Kolmogorov-Arnold (KAN). Immagina una KAN come un insieme di elastici flessibili e deformabili (chiamati "spline") che possono essere modellati per adattarsi a quasi ogni curva o schema nei dati.

3. L'Innovazione: "Potare il Grasso"

La grande sfida con questi circuiti analogici è che non sono perfetti. Proprio come una linea disegnata a mano non è perfettamente dritta, i componenti elettrici presentano piccoli errori dovuti alla produzione. Inoltre, i circuiti possono essere ingombranti.

Gli autori hanno sviluppato un metodo di Co-Ottimizzazione Hardware-Software. Consideralo come un processo in due fasi:

Fase 1: La Simulazione (La "Prova su Pista"): Hanno costruito un gemello digitale del loro circuito fisico e hanno eseguito migliaoli di simulazioni per vedere esattamente come si comportavano le "spline" nel mondo reale, incluse tutte le piccole imperfezioni.
Fase 2: La Potatura (La "Scultura"): Si sono resi conto che alcune parti della matematica non erano effettivamente necessarie.
- Immagina una scultura fatta di argilla. Alcune parti dell'argilla sono essenziali per la forma, ma altre sono solo peso in eccesso.
- Gli autori hanno "potato" (rimosso) termini matematici specifici (coefficienti) che contribuivano molto poco alla forma finale ma occupavano molto spazio e potenza.
- Il Colpo di Scena: Di solito, rimuovere parti da un modello lo rende meno accurato. Ma qui, poiché hanno addestrato la rete sapendo esattamente come si sarebbe comportato il circuito "difettoso", rimuovere le parti non necessarie ha reso il risultato finale più accurato. È come rimuovere una gamba traballante da un tavolo; il tavolo diventa più stabile.

4. I Risultati: Più Leggeri, Più Veloci e Migliori

Hanno testato il tutto su dati reali, come monitor del battito cardiaco (ECG/PPG) e consumo di energia domestica. I risultati sono stati impressionanti:

Dimensioni: Hanno ridotto le dimensioni fisiche del circuito fino al 55% (come rimpicciolire uno zaino fino alle dimensioni di un portafoglio).
Energia: Hanno tagliato l'uso di energia fino al 50% (raddoppiando la durata della batteria).
Accuratezza: Sorprendentemente, la versione potata e più piccola era spesso più accurata della versione completa e non potata, perché ha rimosso il "rumore" causato dalle parti non necessarie.

5. Perché è Importante per l'Elettronica Flessibile

L'elettronica flessibile (come quella realizzata con speciali fogli di plastica o metallo) è ottima per i dispositivi indossabili, ma è fragile e ha limiti rigorosi su quanta energia può utilizzare.

Gli autori hanno dimostrato che il loro metodo funziona perfettamente sulla tecnologia IGZO (un tipo di transistor flessibile).
Hanno dimostrato che anche se la temperatura cambia o la produzione non è perfetta (cosa che accade con i chip flessibili), il sistema rimane stabile e accurato.

Riassunto

In breve, gli autori hanno costruito uno "scultore intelligente" per circuiti elettronici. Hanno preso uno strumento matematico complesso, hanno simulato come si sarebbe comportato su un chip flessibile e poi hanno tagliato con cura le parti non necessarie. Il risultato è un circuito minuscolo, a ultra-basso consumo, capace di eseguire calcoli complessi sui segnali del tuo corpo senza scaricare la batteria, e che funziona meglio proprio perché è più semplice.

Sintesi Tecnica: Co-Ottimizzazione di Reti Kolmogorov-Arnold Analogiche per l'Approssimazione di Funzioni a Bassa Potenza nell'Elettronica Flessibile

Definizione del Problema
I dispositivi indossabili e i sensori IoT richiedono sempre più l'elaborazione on-sensor di segnali biosensoriali e dati ambientali. Tali compiti comportano operazioni computazionalmente impegnative come funzioni di attivazione non lineari, curve di calibrazione dei sensori e pre-elaborazione del segnale (ad esempio, compressione logaritmica, operazioni di potenza). L'implementazione di queste funzioni in formato digitale comporta spesso un overhead energetico significativo dovuto alla conversione analogico-digitale (ADC) e alla successiva elaborazione digitale. Sebbene l'elettronica flessibile (FE) offra una piattaforma promettente per le applicazioni indossabili grazie alla sua flessibilità meccanica e alla fabbricazione a basso costo, essa impone vincoli rigorosi sulla densità dei circuiti e sul consumo di potenza. Inoltre, le implementazioni analogiche sono vulnerabili al rumore, alle variazioni di processo e ai mismatch dei dispositivi, che possono degradare l'accuratezza dell'approssimazione se le non-idealità dell'hardware non vengono esplicitamente affrontate durante la progettazione del modello. Gli approcci esistenti, come il computing-in-memory basato su RRAM o le tecniche basate su polinomi, affrontano limitazioni riguardanti la variabilità dei dispositivi, la domanda energetica o la mancanza di un'ottimizzazione specifica per le piattaforme FE.

Metodologia
Gli autori propongono le Reti Kolmogorov-Arnold Analogiche (AKAN), sviluppate attraverso una metodologia di co-ottimizzazione hardware-software. Il nucleo di questo approccio è un ciclo di progettazione unificato che integra simulazione circuitale, modellazione dell'errore e pruning dei parametri.

Architettura Hardware: L'AKAN è implementata utilizzando transistor a film sottile (TFT) di ossido di indio, gallio e zinco (IGZO), una tecnologia unipolare adatta alla FE. La rete utilizza blocchi costruttivi analogici (ABB) per costruire spline quadratiche che rappresentano la funzione $B(x) = k_0 + k_1x + k_2x^2$ . Queste spline sono interconnesse tramite operazioni di moltiplica-accumula (MAC) utilizzando resistori per assegnare i pesi.
Modellazione dell'Errore Hardware-Aware: A differenza dei lavori precedenti che assumono un comportamento ideale o utilizzano distribuzioni statistiche dell'errore, questo lavoro deriva una funzione di errore continua e dipendente dall'input ( $\hat{\epsilon}_{hardware}(x)$ ) direttamente dalle simulazioni transienti SPICE dei circuiti IGZO. Questo modello cattura le non-idealità sistematiche dell'hardware attraverso l'intero spazio dei coefficienti ( $k_0, k_1, k_2$ ).
Pruning a Livello di Coefficiente: La metodologia introduce una strategia di pruning che opera a livello di singolo coefficiente polinomiale piuttosto che su interi neuroni o spline. Rimuovere un coefficiente (ad esempio, impostare $k_1$ a zero) corrisponde alla rimozione fisica di specifici blocchi circuitale (moltiplicatori, quadratori o sommatori).
Addestramento Co-Design: Il processo di pruning è integrato nel loop di addestramento KAN. Per ogni configurazione di pruning, l'errore hardware corrispondente viene iniettato nell'obiettivo di addestramento come rumore additivo ( $f_{target}(x) = f_{ideal}(x) + \hat{\epsilon}_{hardware}(x)$ ). Ciò consente alla rete di apprendere configurazioni di parametri che rimangano robuste sotto condizioni operative realistiche e specifici vincoli di pruning.

Contributi Chiave
Il documento identifica tre contributi primari:

Modellazione dell'Errore Analogico Technology-Aware: La derivazione di funzioni di errore continue e dipendenti dall'input direttamente da simulazioni transienti SPICE di circuiti TFT IGZO unipolari, catturando le non-idealità sistematiche dell'hardware in un processo FE commercialmente rilevante.
Pruning dei Coefficienti a Livello di Blocco Circuitale: Una metodologia di pruning che opera sui singoli coefficienti polinomiali ( $k_0, k_1, k_2$ ) di ciascuna spline quadratica. Questo approccio consente la rimozione fisica dei blocchi circuitale, traducendo direttamente le decisioni software in risparmi di area e potenza hardware.
Validazione Guidata dalle Applicazioni: Valutazione completa su quattro dataset (PPG-DaLiA, ECG5000, Individual Household Electric Power Consumption, e Iris) coprendo scenari di monitoraggio biomedico e sensori rilevanti per l'impiego in FE.

Risultati
Il framework proposto è stato validato attraverso estese simulazioni SPICE ed esperimenti di addestramento:

Efficienza Hardware: Il pruning dei singoli coefficienti ha prodotto significativi risparmi hardware. Gli scenari migliori hanno dimostrato fino al 55% di riduzione dell'area e al 50% di riduzione della potenza rispetto al baseline non prunato. In media, le riduzioni attraverso i dataset sono state vicine al 30% per entrambi i parametri.
Miglioramenti dell'Accuratezza: Contrariamente all'aspettativa che il pruning degradi le prestazioni, i risultati hanno mostrato che il pruning può migliorare l'accuratezza dell'approssimazione. La rimozione di coefficienti prossimi allo zero ha agito come un regolarizzatore implicito, riducendo la suscettibilità del modello all'overfitting e al rumore hardware. In diversi casi, l'AKAN prunata ha raggiunto un errore percentuale medio normalizzato (NMPE) inferiore rispetto al baseline non prunato.
Robustezza: Un'analisi PVT (Processo, Tensione, Temperatura) attraverso 27 angoli operativi ha confermato che l'addestramento hardware-aware compensa gli spostamenti sistematici. L'NMPE è rimasto stabile nell'intervallo di temperatura indossabile (27–40°C), con una deviazione massima di soli 0,74 punti percentuali rispetto alle condizioni nominali.
Performance nei Task a Valle: Quando valutate su task a valle (classificazione per ECG5000 e Iris; ricostruzione del segnale per IHEPC e PPG-DaLiA), le AKAN prunate hanno mantenuto prestazioni comparabili al baseline non prunato e alle KAN ideali solo software. Nei compiti di ricostruzione del segnale, le migliori configurazioni prunate hanno persino superato il baseline hardware non prunato, riducendo l'NRMSE fino al 33%.

Significatività
Il documento afferma che questo lavoro stabilisce un framework robusto e generalizzabile per l'approssimazione di funzioni analogiche a bassa potenza nell'elettronica flessibile. Tenendo conto esplicitamente dei vincoli circuitali durante l'addestramento e impiegando una strategia di pruning a livello di coefficiente, le AKAN proposte affrontano il critico compromesso tra efficienza hardware e accuratezza dell'approssimazione. I risultati dimostrano che la riduzione strategica dei parametri non si limita a risparmiare risorse, ma può migliorare la capacità di generalizzazione delle reti neurali analogiche, rendendole idonee per applicazioni di sensing in tempo reale e con risorse limitate nei dispositivi indossabili e IoT. Questo approccio offre una via per implementare complesse funzioni non lineari direttamente in hardware analogico senza i proibitivi costi di area e potenza tipicamente associati a tali implementazioni nelle tecnologie FE.