Anatomy of Associative Recall in Fixed-State Recurrences: A Matched-State Decomposition, an Interference Wall, and a Curriculum That Breaks It
Diese Arbeit zerlegt die Leistungsdifferenz zwischen Fixed-State-Rekurrenzen und Attention bei der assoziativen Rekonstruktion und zeigt auf, dass fehlende Faltungen und Trainingsinterferenzen – und nicht inhärente architektonische Einschränkungen – die primären Ursachen sind, und demonstriert, dass ein gezieltes Distanz-Curriculum diese Barrieren zuverlässig überwinden kann, um eine perfekte Rekonstruktion zu erreichen.