EdgeMusicTransformer: A Lightweight Context-Aware Transformer for Efficient Generative AI Deployment under Edge Computing Constraints
이 논문은 240만 개의 파라미터를 통해 효율적인 기호 음악 생성을 달성하며, 256개 토큰의 컨텍스트 길이에서 17,783 토큰/s의 최대 처리량을 기록하는 동시에 안정적인 메모리 사용량과 고품질의 구조적 출력을 유지하도록 최적화된, 엣지 컴퓨팅용 경량 컨텍스트 인식 트랜스포머 아키텍처인 EdgeMusicTransformer를 소개한다.