Filter then Attend: Improving attention-based Time Series Forecasting with Spectral Filtering
تقترح هذه الورقة تعزيز النماذج القائمة على "ترانسفورمر" (Transformer) للتنبؤ بالسلاسل الزمنية الطويلة من خلال دمج مرشحات طيفية قابلة للتعلم في مرحلة الإدخال، مما يحسن الأداء، ويقلل حجم النموذج، ويسمح باستغلال أفضل للطيف الترددي الكامل مع إضافة حد أدنى من المعلمات.