Directional Neural Collapse Explains Few-Shot Transfer in Self-Supervised Learning
Die Arbeit zeigt, dass die gerichtete CDNV (Varianz der Entscheidungsachsen) als zentrale geometrische Größe sowohl die starke Few-Shot-Transferfähigkeit als auch die geringe Interferenz bei Multi-Task-Aufgaben in selbstüberwachtem Lernen erklärt, indem sie eine geringe Variabilität entlang klassentrennender Richtungen sicherstellt.