Shape of Memory: a Geometric Analysis of Machine Unlearning in Second-Order Optimizers

Riassunto Tecnico: La Forma della Memoria

Analisi Geometrica dell'Unlearning delle Macchine negli Ottimizzatori del Secondo Ordine

1. Il Problema: L'insufficienza delle definizioni attuali

Il paper affronta una lacuna fondamentale nel campo del machine unlearning (la rimozione di dati specifici da un modello addestrato). Attualmente, l'unlearning è definito quasi esclusivamente in termini di primo ordine: si considera un processo di "dimenticanza" riuscito se i parametri del modello post-cancellazione sono indistinguibili da quelli di un modello idealmente riaddestrato senza i dati eliminati.

Tuttavia, gli ottimizzatori del secondo ordine (come l'Online Newton Step - ONS) non mantengono solo i parametri del modello ($w_t$), ma anche uno stato ausiliario ($A_t$) che codifica la curvatura della superficie di perdita e la storia della traiettoria di ottimizzazione. Il problema sollevato dagli autori è che, anche se i parametri sembrano corretti (performance simili), l'informazione sui dati cancellati potrebbe persistere nella "geometria" dello stato dell'ottimizzatore, creando una memoria residua non rilevabile dalle metriche standard.

2. Metodologia

Gli autori conducono uno studio comparativo in un ambiente di ottimizzazione convessa online sotto attacchi di cancellazione avversaria.

• Modelli a confronto:
  • Online Gradient Descent (OGD): Un ottimizzatore del primo ordine (baseline) che non mantiene memoria storica oltre l'iterazione corrente.
  • Online Newton Step (ONS): Un ottimizzatore del secondo ordine che mantiene una matrice di precondizionamento $A_t$ per catturare la curvatura.
• Scenario sperimentale: Un orizzonte di $T=400$ round in dimensione $d=2$, con una richiesta di cancellazione al tempo $\tau=200$ (rimozione di 10 osservazioni). Vengono testati flussi di dati stazionari e "drifting" (non stazionari).
• Interventi sul secondo ordine: Per testare come "cancellare" la memoria geometrica, gli autori applicano due trattamenti spettrali alla matrice $A_t$:
  1. Partial Reset ($\alpha$): Sottrazione di una costante dai valori autovalori.
  2. Eigenvalue Decay ($\beta$): Riscalamento dello spettro degli autovalori.
• Metriche di valutazione: Regret cumulativo, errore di tracking (distanza tra modello reale e controfattuale), shock istantaneo dei parametri e diagnostica dello spazio degli stati (traccia, numero di condizionamento e allineamento del coseno).

3. Risultati Chiave

I risultati evidenziano una divergenza fondamentale tra i due tipi di ottimizzatori:

• Recupero del Primo Ordine (OGD): L'OGD mostra un recupero finito. Dopo la cancellazione, il modello subisce una perturbazione ma converge nuovamente verso la traiettoria ideale in un tempo misurabile.
• L'illusione del recupero nel Secondo Ordine (ONS): Questo è il risultato più critico. L'ONS mostra un recupero del regret quasi immediato (0.05 round), suggerendo erroneamente che l'unlearning sia avvenuto con successo. Tuttavia, l'analisi dello stato rivela che la traiettoria dei parametri rimane spostata rispetto al modello controfattuale.
• Persistenza della Volatilità: Sebbene le performance (regret) sembrino normali, la geometria interna (misurata tramite il numero di condizionamento e l'allineamento del coseno) mostra una volatilità persistente. L'informazione cancellata non scompare, ma si manifesta come "isteresi geometrica": il modello funziona bene, ma la sua "forma" interna è ancora influenzata dai dati eliminati.
• Efficacia degli interventi: Gli interventi spettrali più aggressivi (decadimento degli autovalori) riducono la dissimiglianza con il modello ideale, indicando che per un vero unlearning è necessario un'eradicazione controllata dell'informazione geometrica, non solo una correzione dei parametri.

4. Contributi e Significato

Il paper offre tre contributi principali alla letteratura scientifica:

1. Ridefinizione del problema: Dimostra che l'unlearning per ottimizzatori stateful (con memoria) è un problema di allineamento dello stato e non solo di similarità dei parametri.
2. Identificazione di un rischio per la privacy: Avverte che le attuali certificazioni di unlearning basate sulla performance o sui parametri potrebbero essere ingannevoli, poiché lasciano tracce residue nella curvatura dell'ottimizzatore.
3. Nuova prospettiva di ricerca: Propone di spostare lo studio dell'unlearning verso la teoria dei processi decisionali di Markov (MDP) e il controllo del regret, trattando lo stato dell'ottimizzatore come un aggregato di informazioni ad alto ordine che richiede protocolli di cancellazione specifici.

In sintesi: Il lavoro dimostra che "dimenticare" i dati non significa solo cambiare la direzione in cui ci si muove (parametri), ma cambiare la forma dello spazio in cui ci si muove (geometria dell'ottimizzatore).