From Infrared to Ultraviolet]{From Infrared to Ultraviolet: A Renormalization Group Approach to Frequency-Aware Progressive Training
Cet article propose une stratégie d'entraînement progressif sensible à la fréquence, inspirée par le groupe de renormalisation, qui active séquentiellement des branches de basse en haute fréquence avec des taux d'apprentissage décroissants, démontrant des améliorations constantes dans les tâches de régression à faible dimension et à peu d'exemples tout en précisant que son efficacité diminue dans les scénarios de haute dimension ou de processus lisses où la séparation d'échelle est moins pertinente.