IMSE: Intrinsic Mixture of Spectral Experts Fine-tuning for Test-Time Adaptation
Die Arbeit stellt IMSE vor, eine Testzeit-Anpassungsmethode, die durch die SVD-basierte Anpassung nur der Singulärwerte von Vision-Transformern und eine Diversitätsmaximierung zur Vermeidung von Feature-Collapse sowie durch domänenspezifischen Code-Retrieval für kontinuierliche Szenarien einen State-of-the-Art-Erfolg bei gleichzeitig drastisch reduzierter Anzahl trainierbarer Parameter erzielt.