Riepilogo Tecnico: Svelare la Coesistenza di Memorizzazione e Generalizzazione

Enunciato del Problema

Modelli fortemente sovrapparametrizzati, come i Large Language Models, dimostrano la capacità di memorizzare simultaneamente etichette rumorose e di generalizzare bene su dati non visti. Tuttavia, i meccanismi interni che governano come questi due comportamenti distinti coesistono rimangono scarsamente compresi. In contesti realistici, i dati di addestramento sono spesso contaminati da rumore (ad esempio, campioni con etichette errate), creando una competizione interna tra generalizzazione (scoperta di regole strutturali applicabili a dati non visti) e memorizzazione (adattamento a specifiche etichette rumorose che non riflettono le regole sottostanti).

Diagnosticare questa interazione in compiti complessi e del mondo reale è difficile perché un'alta accuratezza di test non distingue intrinsecamente l'apprendimento di regole vere dallo sfruttamento di pattern locali o scorciatoie. Per affrontare ciò, gli autori investigano compiti di aritmetica modulare (specificamente addizione e moltiplicazione modulo $P$) come ambiente sperimentale controllato. Questi compiti sono scelti per la loro chiara distinzione tra generalizzazione basata su regole e memorizzazione punto per punto, per la loro esibizione di "grokking" (generalizzazione che si verifica molto tempo dopo la memorizzazione) e per la disponibilità di soluzioni analitiche note per configurazioni specifiche del modello.

Metodologia

Lo studio impiega una rete neurale a due livelli parametrizzata da $\theta = \{W, U, V, \mu\}$ addestrata su compiti di aritmetica modulare con rumore introdotto nelle etichette. Il rapporto di rumore $\alpha$ viene variato, assegnando a un sottoinsieme dei dati di addestramento etichette casuali uniformi distinte dal risultato vero.

La ricerca affronta tre domande chiave attraverso esperimenti estesi che coprono varie funzioni di attivazione (ReLU, Quadratica, GeLU, LeakyReLU), ottimizzatori (Adam, AdamW, Muon, SGD) e intensità di regolarizzazione:

1. Q1: In quali condizioni l'aumento delle dimensioni del modello migliora la generalizzazione con etichette rumorose?
2. Q2: I modelli possono recuperare regole strutturali interne sotto rumore di etichette estremo?
3. Q3: È possibile separare i neuroni responsabili della generalizzazione da quelli utilizzati per la memorizzazione?

La metodologia coinvolge:

• Analisi delle Dinamiche di Addestramento: Tracciamento dell'accuratezza su sottoinsiemi puliti rispetto a quelli rumorosi durante l'addestramento per osservare l'ordine di apprendimento.
• Filtraggio in Frequenza (FF): Sfruttamento della soluzione analitica nota per le attivazioni quadratiche (che esibiscono strutture periodiche) per decomporre i pesi della rete ReLU. Gli autori ipotizzano che il segnale di generalizzazione sia trasportato dalla componente di frequenza dominante dei pesi, mentre la memorizzazione è codificata nelle frequenze residue.
• Partizionamento della Rete: Tentativo di separare la rete in sottoreti di generalizzazione e memorizzazione utilizzando punteggi di importanza dei neuroni agnostici al compito (Rapporto di Partecipazione Inverso e Forza del Neurone) rispetto a priori specifici del compito basati sulla frequenza.

Risultati Chiave

1. Scalabilità e Double Descent

Gli autori osservano robustamente il fenomeno del double descent in presenza di rumore nelle etichette.

• Sovrapparametrizzazione: All'interno del regime sovrapparametrizzato, l'aumento delle dimensioni del modello migliora costantemente l'accuratezza di test, a condizione che ottimizzazione e regolarizzazione siano configurate correttamente.
• Regolarizzazione: Una regolarizzazione più forte sposta il modello dal regime sovrapparametrizzato verso il regime sottoparametrizzato, ritardando il secondo discesa.
• Funzioni di Attivazione: I modelli ReLU mostrano un'accuratezza di test non decrescente nel regime sovrapparametrizzato. Al contrario, i modelli con attivazioni Quadratiche o GeLU esibiscono dei massimi nell'accuratezza di test all'aumentare delle dimensioni del modello, potenzialmente a causa di vincoli di simmetria su come il rumore viene assorbito.

2. Dinamiche di Apprendimento Controintuitive

Una scoperta significativa è che le etichette rumorose vengono memorizzate più velocemente delle etichette pulite durante le prime epoche di addestramento, indipendentemente dall'ottimizzatore (AdamW, Adam, Muon) o dal rapporto di rumore.

• Questa inversione dell'ordine di apprendimento tipico è attribuita alle dinamiche di addestramento con batch completo. Il sottoinsieme rumoroso, essendo più piccolo, riceve un segnale di ottimizzazione per campione più forte dal gradiente del batch completo rispetto al sottoinsieme pulito più grande, causando un aumento della sua accuratezza in tempi più brevi.
• Questo fenomeno è stato osservato anche negli esperimenti su MNIST, suggerendo che sia una proprietà più ampia dell'ottimizzazione iniziale con batch completo sotto corruzione esplicita delle etichette.

3. Coesistenza di Regole e Rumore

Anche sotto rumore di etichette estremo (fino all'80%), i modelli apprendono internamente la regola algebrica corretta, sebbene questa regola sia soppressa nell'output grezzo dalla necessità di interpolare le etichette rumorose.

• Filtraggio in Frequenza: Isolando la componente di frequenza dominante dei pesi (allineata alla soluzione analitica per le attivazioni quadratiche), gli autori possono estrarre una sottorete che raggiunge un'accuratezza di test quasi perfetta, anche quando l'output del modello completo è fortemente corrotto.
• Residui: Le componenti di frequenza residue mantengono principalmente la capacità di adattarsi alle etichette rumorose ma contribuiscono poco alla generalizzazione.
• Indipendenza dall'Attivazione: Sostituire l'attivazione ReLU con Quadratica o Reverse ReLU in una rete addestrata preserva o migliora la generalizzazione, indicando che i pesi appresi codificano già una rappresentazione di regola simmetrica compatibile con queste funzioni.

4. Limiti della Separazione Agnostica al Compito

Il documento investiga se generalizzazione e memorizzazione possano essere separate a livello di neurone senza fare affidamento su priori specifici del compito (come la struttura di Fourier).

• Selezione dei Neuroni: Utilizzando metriche come il Rapporto di Partecipazione Inverso (IPR) o la Forza del Neurone (Str.), gli autori potano la rete per selezionare neuroni per la generalizzazione. Sebbene ciò migliori leggermente la generalizzazione, il guadagno è significativamente più debole rispetto a quello ottenuto dal Filtraggio in Frequenza.
• Intreccio: I risultati suggeriscono che la struttura generalizzabile non è localizzata in un piccolo sottoinsieme di neuroni ma è diffusamente codificata attraverso la rete e profondamente intrecciata con i componenti utilizzati per la memorizzazione del rumore. La potatura agnostica al compito non può estrarre completamente la struttura della regola appresa dal modello.

Significato e Affermazioni

Il documento afferma di fornire un confine rigoroso e verificabile tra generalizzazione strutturale e memorizzazione non strutturata nell'apprendimento sovrapparametrizzato. I suoi contributi principali sono:

1. Insight Meccanicistico: Dimostra che i modelli sovrapparametrizzati possono apprendere internamente regole sottostanti anche sotto rumore esplicito delle etichette, ma queste regole sono mascherate dalla necessità di adattarsi al rumore.
2. Disaccoppiamento Basato sulla Frequenza: Introduce un metodo (Filtraggio in Frequenza) che disaccoppia con successo la generalizzazione dalla memorizzazione nei compiti di aritmetica modulare sfruttando i priori strutturali del compito, recuperando un'accuratezza quasi perfetta da un addestramento pesantemente corrotto.
3. Limite della Potatura Post-Hoc: Evidenzia un limite fondamentale degli attuali strumenti a livello di neurone. Sebbene la selezione di neuroni agnostica al compito offra miglioramenti marginali, fallisce nell'estrarre completamente la struttura generalizzabile perché la regola è distribuita e intrecciata attraverso la rete.
4. Implicazioni più Ampie: Gli autori suggeriscono che i futuri paradigmi di apprendimento potrebbero dover isolare esplicitamente la memorizzazione dall'inferenza logica durante l'addestramento, e che un'estrazione efficace della conoscenza post-hoc potrebbe richiedere priori strutturali specifici del dominio piuttosto che punteggi di importanza generici.

Gli autori riconoscono che il loro setup astrae via la variabilità complessa dei compiti di visione o linguaggio naturali. Tuttavia, sostengono che questo contesto controllato sia necessario per studiare rigorosamente la coesistenza di memorizzazione e generalizzazione, fornendo prove fondamentali che questi processi sono profondamente intrecciati nelle reti sovrapparametrizzate.