A mathematical framework for parameter recovery in large language models via a joint Euclidean mirror

Titolo

Un quadro matematico per il recupero dei parametri nei Large Language Models (LLM) tramite uno specchio Euclideo congiunto.

1. Il Problema

I Large Language Models (LLM) moderni sono spesso considerati "scatole nere" il cui comportamento dipende da una vasta gamma di parametri di tuning non osservabili (es. temperatura, bias sui logit, dati di addestramento sensibili).

• Sfida principale: È difficile analizzare come questi parametri influenzino le risposte del modello, specialmente quando i pesi del modello non sono open-source.
• Obiettivo: Quantificare le differenze tra modelli basandosi sulle loro risposte e recuperare i parametri latenti (sconosciuti) che hanno generato una specifica distribuzione di risposte, utilizzando solo l'output del modello.
• Contesto: Il lavoro tratta le risposte di un LLM a una query specifica come realizzazioni di una distribuzione di probabilità ad alta dimensione. L'obiettivo è mappare lo spazio delle distribuzioni (non Euclideo) in uno spazio Euclideo a bassa dimensione preservando la geometria delle distanze.

2. Metodologia

Il framework proposto si basa su tre pilastri concettuali: lo Spazio di Perspectiva del Kernel dei Dati (DKPS), lo Specchio Euclideo e la Recupero dei Parametri.

A. Definizione dello Spazio e della Distanza

• Si considera un insieme di distribuzioni $\mathcal{F}$ parametriche da un vettore $x \in \mathcal{X} \subset \mathbb{R}^d$.
• Viene definita una metrica di dissimilarità $D$ sullo spazio delle distribuzioni. Gli autori scelgono la distanza di Wasserstein ($W_p$) perché cattura non solo la differenza nella posizione (media), ma anche nella forma e nella dispersione delle distribuzioni, cruciale per le risposte degli LLM dove parametri come la temperatura influenzano la casualità.

B. Specchio Euclideo Congiunto (Joint Euclidean Mirror)

• Concetto: Una funzione continua $f: \mathcal{X} \to \mathbb{R}^c$ che mappa i parametri nello spazio Euclideo in modo tale che la distanza Euclidea tra i punti immagine corrisponda esattamente alla distanza tra le distribuzioni originali:
  $$\|f(x) - f(x')\| = D(\mathcal{F}_x, \mathcal{F}_{x'})$$
• Realizzabilità: Il modello assume che la coppia $(\mathcal{F}, D)$ sia "Euclidea c-realizzabile", ovvero che esista un tale isomorfismo isometrico.

C. Procedura di Stima (Algoritmo 1)

Dati campioni da $m$ distribuzioni note, il metodo stima la funzione specchio $f$ in tre fasi:

1. Stima della Matrice delle Distanze: Calcolo della matrice empirica delle distanze di Wasserstein tra le distribuzioni osservate ($\hat{\Delta}$).
2. MDS Classico (CMDS): Applicazione del Multidimensional Scaling Classico alla matrice $\hat{\Delta}$ per ottenere coordinate nello spazio $\mathbb{R}^c$ che approssimano le distanze. Questo fornisce valori discreti per la funzione specchio nei punti osservati.
3. Interpolazione Superficiale: Costruzione della funzione continua $\hat{f}$ su tutto lo spazio dei parametri utilizzando l'interpolazione lineare basata sulla triangolazione di Delaunay dei punti osservati.

D. Recupero dei Parametri (Algoritmo 2)

Se si dispone di un campione "non etichettato" (da una distribuzione con parametri $x^*$ sconosciuti):

1. Si calcola la distanza tra il campione non etichettato e tutti i campioni etichettati.
2. Si estende la matrice delle distanze e si esegue nuovamente il CMDS per ottenere la posizione dello specchio per il campione sconosciuto ($\hat{f}^*$).
3. Si risolve un problema di ottimizzazione per trovare il parametro $\hat{x}$ che minimizza la distanza tra la posizione stimata dello specchio e la funzione specchio interpolata:
   $$\hat{x} = \arg \min_{s \in \mathcal{X}} \| \hat{f}(s) - \hat{f}^* \|$$

3. Risultati Teorici

Gli autori provano la consistenza asintotica del metodo sotto diverse ipotesi (limitatezza delle distribuzioni, regolarità della funzione specchio, densità dei campioni):

• Proposizione 1: Dimostra che la stima empirica della distanza di Wasserstein converge alla distanza teorica con alta probabilità, a condizione che il numero di campioni $n$ cresca sufficientemente rispetto al numero di parametri $m$.
• Teorema 1: Stabilisce che la matrice delle coordinate ottenuta via CMDS converge alla vera struttura dello specchio (a meno di una trasformazione isometrica rigida) quando $n, m \to \infty$.
• Teorema 2: Garantisce che la funzione interpolata $\hat{f}$ converge uniformemente alla vera funzione specchio $f$ su tutto lo spazio dei parametri.
• Teorema 3: Dimostra la consistenza del recupero dei parametri: se la funzione specchio è invertibile e la sua matrice Jacobiana è ben condizionata, l'errore di stima del parametro sconosciuto $\hat{x}$ tende a zero al crescere di $n$ e $m$.

4. Risultati Sperimentali

• Dati Simulati:
  • Su distribuzioni Gaussiane con parametri noti, l'algoritmo ricostruisce con successo la superficie dello specchio.
  • L'analisi "leave-one-out" mostra che la precisione del recupero dei parametri aumenta drasticamente all'aumentare della dimensione del campione $n$, raggiungendo una recovery quasi perfetta per $n=10.000$.
• Applicazione agli LLM:
  • Setup: Utilizzo di un LLM con prompt fissi ma variando due parametri: Temperatura ($t$) e un peso di prompt ($w$) relativo a un argomento specifico.
  • Embedding: Le risposte sono state vettorializzate usando NomicEmbedv1.5.
  • Analisi: La matrice delle distanze di Wasserstein tra le risposte mostra una struttura Euclidea a bassa dimensione (dimensione scelta $c=5$).
  • Visualizzazione: La superficie dello specchio stimato rivela che temperatura e peso influenzano la distribuzione delle risposte lungo direzioni quasi ortogonali.
  • Recupero: Il metodo è stato in grado di stimare con successo i valori di temperatura e peso usati per generare risposte "nascoste", mostrando una forte correlazione lineare tra valori reali e stimati, nonostante la presenza di bias e varianza.

5. Contributi Chiave

1. Formalizzazione Matematica: È il primo lavoro a formalizzare il problema del recupero dei parametri latenti negli LLM all'interno di un quadro matematico rigoroso basato sulla geometria delle distribuzioni.
2. Metodologia Generale: Propone un approccio flessibile che non dipende dalla struttura interna del modello (pesi), ma solo dalle risposte generate, rendendolo applicabile a modelli proprietari.
3. Uso della Distanza di Wasserstein: Sostituisce le semplici metriche basate sulla media (usate in lavori precedenti come DKPS) con la distanza di Wasserstein, permettendo di catturare variazioni nella varianza e nella forma della distribuzione delle risposte (es. effetti della temperatura).
4. Consistenza Asintotica: Fornisce garanzie teoriche sulla convergenza sia della stima dello specchio che del recupero dei parametri.

6. Significato e Implicazioni

Questo framework offre strumenti potenti per:

• Analisi e Confronto: Comprendere quali attributi del modello (architettura, dati di addestramento, parametri di inferenza) impattano maggiormente sull'output.
• Recupero di Parametri Nascosti: Stimare i parametri di tuning utilizzati per generare un testo, utile per l'audit di modelli o per rilevare l'uso di dati sensibili o proprietari durante l'addestramento.
• Predizione: Prevedere come cambierà la distribuzione delle risposte al variare di nuovi parametri, senza dover ri-addestrare o ri-eseguire il modello in modo massivo.
• Interpretabilità: Trasformare il comportamento complesso e stocastico degli LLM in una rappresentazione geometrica a bassa dimensione e interpretabile.

In sintesi, il lavoro trasforma l'analisi degli LLM da un approccio puramente empirico a uno statistico e geometrico, permettendo di "invertire" il processo generativo per dedurre le condizioni nascoste di un modello basandosi esclusivamente sul suo output.