Sintesi Tecnica: WARP – Analisi dello Spazio dei Pesi per il Recupero dei Portfolio di Dati di Addestramento

Problematica

I modelli di fondazione vengono sempre più spesso rilasciati al pubblico, tuttavia le specifiche "ricette di dati" — in particolare i pesi della miscela dei domini che determinano come diverse fonti (ad esempio, testo web, codice, letteratura scientifica) vengano campionate durante l'addestramento — rimangono proprietarie e opache. Ciò crea una significativa asimmetria di accesso: i ricercatori possono studiare i pesi del modello risultante, ma mancano della visibilità sulla distribuzione di addestramento che lo ha prodotto.

Gli approcci esistenti per inferire i dati di addestramento, come la Membership Inference (MI), operano a livello di singoli campioni per rilevare se un dato specifico era presente nel set di addestramento. Tuttavia, la MI non può caratterizzare la composizione globale o le proporzioni dei domini del corpus di addestramento. Inoltre, i metodi precedenti per il recupero delle traiettorie di addestramento richiedono spesso l'accesso a checkpoint intermedi, che sono raramente disponibili per i modelli rilasciati (dove sono tipicamente pubblici solo il modello base e i pesi finali del fine-tuning). La sfida centrale affrontata da questo lavoro è il problema inverso: dato solo il modello base rilasciato ($\theta_{base}$), il modello sottoposto a fine-tuning ($\theta_{ref}$) e un piccolo dataset di probing, come si può recuperare la sconosciuta miscela di domini ($\pi^*$) utilizzata per addestrare il modello, senza avere accesso alla vera traiettoria di addestramento o ai checkpoint intermedi?

Metodologia: Il Framework WARP

Gli autori propongono WARP (Weight-space Analysis for Recovering Training Data Portfolios), un framework che recupera le miscele di domini direttamente dai pesi del modello sfruttando la struttura geometrica dello spazio dei pesi. La metodologia procede in tre fasi:

1. Simulazione della Traiettoria di Addestramento

Poiché la vera via da $\theta_{base}$ a $\theta_{ref}$ non è osservabile, WARP utilizza tecniche di model merging per interpolare tra i due endpoint. Applicando operatori di merging (come Linear Interpolation/LERP, Spherical Interpolation/SLERP o TIES) con uno schema di coefficienti di miscelazione $\alpha_t \in (0,1)$, il framework genera una sequenza di pseudo-checkpoint ($\tilde{\theta}_t$). Questi pseudo-checkpoint fungono da proxy per l'evoluzione non osservata dei parametri, ricostruendo efficacemente una traiettoria di addestramento "simulata".

2. Distillazione delle Impronte Geometriche

Da questi checkpoint simulati, WARP estrae un segnale a livello di dominio utilizzando una metrica adattata dal Mimic Score. Per ogni pseudo-checkpoint $\tilde{\theta}_t$, il metodo definisce un vettore di direzione $v_t = \theta_{ref} - \tilde{\theta}_t$ che punta verso il modello target.

• Allineamento dei Campioni: Per un piccolo dataset di probing $D_{probe}$ (campionato dagli stessi domini di origine dei dati di addestramento), il metodo calcola il gradiente negativo di ogni campione in $\tilde{\theta}_t$.
• Proiezione: Il Mimic Score ($m_{i,t}$) è calcolato come la proiezione di questo gradiente negativo sul vettore unitario di $v_t$. Questo punteggio misura quanto fortemente un campione si allinea con la direzione che il modello ha effettivamente intrapreso durante il fine-tuning.
• Pooling: Questi punteggi vengono normalizzati e mediati all'interno di ogni dominio $k$ ad ogni step $t$, risultando in una matrice di caratteristiche $M \in \mathbb{R}^{K \times T}$. Questa matrice rappresenta l' "impronta geometrica" dei dati di addestramento, tracciando quanto fortemente ogni dominio si allinea con la direzione del fine-tuning mentre il modello evolve.

3. Mappatura della Geometria nella Miscela

L'ultimo passaggio traduce l'impronta geometrica $M$ nella miscela di domini predetta $\hat{\pi}$. Gli autori propongono due varianti:

• Readout Non Supervisionato: Un approccio privo di parametri che media i punteggi raggruppati attraverso gli step temporali e applica una funzione softmax per stimare la miscela.
• Proiezione Supervisionata: Un MLP projector addestrato su dati sintetici. Gli autori generano coppie sintetiche effettuando il fine-tuning di modelli base su miscele casuali per creare etichette ground-truth, quindi addestrando l'MLP per mappare l'impronta geometrica $M$ alla miscela nota $\pi$. Ciò consente al modello di imparare come pesare in modo adattivo le diverse fasi della traiettoria simulata.

Contributi Chiave

1. Chiusura dell'Asimmetria di Accesso: WARP formalizza il recupero della miscela di domini di un modello sottoposto a fine-tuning utilizzando solo gli artefatti disponibili per la maggior parte dei modelli rilasciati (pesi base e finali), bypassando la necessità di dati proprietari o checkpoint intermedi.
2. Traiettorie di Addestramento Simulate: Il framework introduce un uso innovativo del model merging non per la fusione di capacità, ma per simulare percorsi di addestramento non osservati per esporre una struttura geometrica utilizzabile nello spazio dei pesi.
3. Forti Prestazioni Empiriche: In esperimenti controllati, WARP supera i baseline di membership inference a livello di campione e persino una variante "oracle" che ha accesso ai veri checkpoint intermedi.
4. Robustezza: Il metodo rimane accurato attraverso diversi regimi di addestramento, inclusi checkpoint con early-stopping, convergenti o overtrained.

Risultati Sperimentali

Il framework è stato valutato su modelli BERT e GPT-2 sottoposti a fine-tuning su quattro dataset di testo (SNLI, AGNews, Yelp, Yahoo) con miscele ground-truth note.

• Accuratezza: WARP ha raggiunto un Mean Absolute Error (MAE) di soli 0.046 su BERT e 0.104 su GPT-2 (utilizzando la variante MLP supervisionata con TIES merging).
• Confronto: Questi risultati hanno superato significativamente:
  • I baseline Random Guess e Centroid Guess.
  • La Membership Inference a livello di campione (MI), che ha prodotto errori più elevati (ad esempio, 0.063 MAE su BERT contro lo 0.046 di WARP).
  • Varianti Oracle: Sorprendentemente, WARP utilizzando traiettorie simulate (LERP/TIES) ha spesso superato la variante che utilizza i veri checkpoint intermedi. Gli autori attribuiscono ciò al "gap di fluidità": i percorsi di addestramento reali contengono rumore (mini-batch stocastici, warmup del tasso di apprendimento), mentre i percorsi interpolati forniscono una traiettoria più pulita e monotona che rende l'impronta geometrica più facile da decodificare.
• Unsupervised vs. Supervised: Il readout softmax non supervisionato, privo di parametri, è stato competitivo, superando tutti i baseline e chiudendo la maggior parte del divario con la variante supervisionata, dimostrando che il segnale geometrico è forte anche senza proiettori appresi.

Significato e Rivendicazioni

Il paper sostiene che WARP dimostra la fattibilità del reverse-engineering della distribuzione di addestramento di un modello esclusivamente dalla sua geometria dello spazio dei pesi. Mostrando che il "percorso" tra un modello base e uno sottoposto a fine-tuning codifica un'impronta distributiva dei dati di addestramento, il lavoro offre un nuovo strumento per:

• Auditing: Rilevare la contaminazione dei dati o verificare la provenienza dell'addestramento del modello.
• Interpretabilità: Comprendere perché i modelli esibiscono comportamenti specifici basandosi sulle loro miscele di addestramento.
• Trasparenza: Affrontare l'opacità dello sviluppo di modelli all'avanguardia dove i pesi sono condivisi ma le ricette dei dati non lo sono.

Gli autori sottolineano che questo approccio rompe il tradizionale paradigma solo "forward-only" dell'ottimizzazione della miscela di domini, fornendo un metodo pratico per inferire gli "ingredienti" di un modello quando è disponibile solo il "piatto finale" (i pesi).