EdgeMusicTransformer: A Lightweight Context-Aware Transformer for Efficient Generative AI Deployment under Edge Computing Constraints
Questo articolo introduce EdgeMusicTransformer, un'architettura Transformer leggera e consapevole del contesto ottimizzata per l'edge computing che raggiunge una generazione di musica simbolica efficiente con 2,4 milioni di parametri, dimostrando un throughput di picco di 17.783 token/s con una lunghezza di contesto di 256 token pur mantenendo un uso stabile della memoria e un output strutturale di alta qualità.