MicroViTv2: Beyond the FLOPS for Edge Energy-Friendly Vision Transformers
MicroViTv2 è un Vision Transformer leggero e consapevole dell'hardware che sfrutta componenti riparametrizzati e una Single Depth-Wise Transposed Attention per raggiungere un'accuratezza e un'efficienza energetica superiori sui dispositivi edge, dimostrando che ottimizzare per le prestazioni nel mondo reale è più critico che minimizzare i FLOPs.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Nel mondo della tecnologia moderna, i computer sono diventati straordinariamente bravi a guardare le immagini e a comprendere ciò che vedono. Possono identificare un gatto, individuare un'auto o leggere un cartello con un livello di precisione che rivaleggia con la visione umana. Questa capacità si basa su un tipo di intelligenza artificiale chiamato Vision Transformer. Pensate a questi sistemi come a cartografi estremamente dettagliati che scansionano un'immagine, scomponendola in piccoli pezzi per capire come si relazionano tra loro. Sebbene questi cartografi siano incredibilmente potenti, sono anche pesanti e impegnativi. Richiedono enormi quantità di potenza di calcolo ed elettricità per funzionare, il che li rende difficili da utilizzare su dispositivi più piccoli come smartphone, droni o robot autonomi che funzionano a batteria. Per questi dispositivi edge, l'obiettivo non è solo essere intelligenti, ma essere efficienti, bilanciando alte prestazioni con un basso consumo energetico in modo che possano operare per ore senza dover ricaricare.
I ricercatori credono da tempo che il modo migliore per rendere efficienti questi sistemi sia semplicemente ridurre il numero di calcoli matematici che eseguono. Nel settore, questo conteggio è noto come FLOPs, una metrica standard utilizzata per stimare quanto lavoro debba compiere un computer. L'assunto prevalente era che meno calcoli significassero automaticamente un dispositivo più veloce ed efficiente dal punto di vista energetico. Tuttavia, un nuovo studio mette in discussione questa convinzione di lunga data. Il team dietro la ricerca, lavorando con il Consiglio Nazionale della Scienza e della Tecnologia di Taiwan, sostiene che contare i calcoli sia un modo imperfetto per giudicare le prestazioni nel mondo reale. Hanno scoperto che un modello con leggermente più calcoli può in realtà girare più velocemente e consumare meno energia se la sua struttura interna è progettata per lavorare meglio con l'hardware fisico su cui viene eseguito.
Per testare questa idea, i ricercatori hanno sviluppato un nuovo modello chiamato MicroViTv2. Questa è una versione leggera del Vision Transformer, progettata specificamente per essere eseguita su dispositivi edge come il Jetson AGX Orin, un computer potente spesso utilizzato nella robotica e nei sistemi autonomi. Inveve di cercare solo di tagliare la matematica, il team ha riprogettato l'architettura del modello per ridurre l'affaticamento fisico sulla memoria e sul processore del dispositivo. Hanno introdotto un metodo chiamato ri-parametrizzazione strutturale. Durante la fase di addestramento, il modello impara utilizzando una struttura complessa con molteplici percorsi, simile a un edificio con molti diversi corridoi. Ma prima che il modello venga distribuito nel mondo reale, questi percorsi vengono fusi matematicamente in un unico percorso snello e lineare. Ciò significa che quando il dispositivo sta effettivamente eseguendo il modello, non deve navigare nella complessa struttura di addestramento; si muove attraverso un percorso semplificato e diretto che è molto più veloce da attraversare e richiede meno accesso alla memoria.
I ricercatori hanno anche perfezionato il modo in cui il modello collega le diverse parti di un'immagine. Hanno sostituito i vecchi meccanismi di attenzione con un nuovo componente chiamato Single Depth-Wise Transposed Attention. Questo permette al modello di guardare l'intera immagine e comprendere come parti distanti si relazionino tra loro senza appesantirsi con dati non necessari. Concentrandosi su come il modello sposta i dati attraverso l'hardware piuttosto che su quanti problemi matematici risolve, il team ha creato un sistema che è più amichevole per i limiti fisici dei dispositivi reali.
I risultati dei loro esperimenti, condotti su dataset di immagini standard e compiti di rilevamento degli oggetti, mostrano un chiaro cambiamento nel modo in cui l'efficienza dovrebbe essere misurata. Quando testato sul Jetson AGX Orin, il nuovo modello MicroViTv2 ha superato il suo predecessore e diversi altri modelli leggeri all'avanguardia. Ha ottenuto una maggiore accuratezza nell'identificare gli oggetti elaborando le immagini più velocemente e consumando meno energia per immagine. Ad esempio, una versione del loro modello ha elaborato 1.883 immagini al secondo consumando solo 14,9 millijoule di energia per immagine. In confronto, altri modelli con meno calcoli teorici erano più lenti e consumavano più energia. Lo studio ha dimostrato che il nuovo modello ha migliorato l'accuratezza fino allo 0,5 percento rispetto alla sua versione precedente e ha superato i concorrenti come MobileViTv2 e EdgeNeXt sia in velocità che in efficienza energetica.
Fondamentalmente, l'articolo esclude esplicitamente l'idea che un minor conteggio di calcoli equivalga sempre a prestazioni migliori. I ricercatori hanno dimostrato che il loro modello ha in realtà eseguito più operazioni matematiche rispetto ad alcune versioni precedenti, eppure è girato più velocemente e ha consumato meno elettricità. Questa scoperta suggerisce che il tradizionale focus sulla riduzione del conteggio dei calcoli sia fuorviante quando applicato all'hardware reale. Il vero collo di bottiglia è spesso il modo in cui il computer accede alla sua memoria e come il software viene pianificato sul chip. Ottimizzando la struttura per adattarla all'hardware, i ricercatori hanno dimostrato che un modello può essere più efficiente anche se fa più matematica.
Il team ha validato queste scoperte in diversi scenari, inclusi la classificazione delle immagini e il rilevamento di oggetti in scene complesse. In ogni test, i miglioramenti strutturali hanno portato a risultati migliori. Lo studio conclude che progettare per la realtà fisica del dispositivo è più importante che semplicemente minimizzare il carico di lavoro teorico. Questo approccio offre una nuova strada per la creazione di un'intelligenza artificiale che non sia solo intelligente, ma anche pratica per i dispositivi alimentati a batteria che stanno diventando sempre più comuni nella nostra vita quotidale. Il lavoro conferma che per costruire sistemi veramente efficienti, gli ingegneri devono guardare oltre i numeri su una pagina e considerare come il modello si comporta effettivamente all'interno della macchina.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.