Task-Restricted Symmetries in Recurrent Weight Space
Dit artikel onderzoekt functionele redundantie in eenlaagse tanh-recurrentie neurale netwerken door gebruik te maken van geordende reële Schur-coördinaten om taakspecifieke, benaderde symmetrieën te identificeren waarbij gestructureerde ablaties van niet-normale koppelingen kunnen worden uitgevoerd zonder de input-output gedragingen te verstoren, wat onthult dat dergelijke invarianties variëren over taken en oplossingen heen in plaats van universele gewichtsruimte-symmetrieën te vertegenwoordigen.