PromptSplit: Revealing Prompt-Level Disagreement in Generative Models

Sintesi Tecnica: PromptSplit

Definizione del Problema

I modelli generativi guidati da prompt (che spaziano dalla visione al linguaggio) si sono proliferati, eppure rimangono limitati i metodi sistematici per confrontare i loro comportamenti rispetto a specifici input di prompt. Le metriche di valutazione esistenti, come FID, Inception Score e CLIP-Score, forniscono indicatori qualitativi aggregati che comprimono il comportamento del modello in singoli valori scalari. Queste metriche spesso oscurano le discrepanze dipendenti dal prompt. Ad esempio, due modelli potrebbero generare immagini di alta qualità per un dato prompt, ma divergere significativamente nel contenuto o nello stile dell'output in base a specifiche categorie di prompt (ad esempio, un modello che genera costantemente figure maschili mentre un altro genera figure femminili per il prompt "una persona"). Gli attuali metodi di confronto spettrale e distributivo operano tipicamente in un contesto privo di prompt, marginalizzando sui prompt e fallendo nell'isolare le specifiche categorie di input responsabili della divergenza comportamentale.

Metodologia

Gli autori propongono PromptSplit, un framework spettrale non supervisionato e consapevole dei prompt, progettato per rilevare e analizzare il disaccordo dipendente dal prompt tra due modelli generativi.

1. Rappresentazione Congiunta Prompt-Output

PromptSplit costruisce una rappresentazione congiunta formando embedding di prodotto tensoriale delle caratteristiche del prompt ($\phi_T$) e delle caratteristiche dell'output ($\phi_X$ o $\phi_Y$). Per un prompt $t$ e un output $x$, la caratteristica congiunta è definita come:
$$\phi^\otimes(t, x) = \phi_T(t) \otimes \phi_X(x)$$
Questo induce un kernel di prodotto $k^\otimes([t, x], [t', x']) = k_T(t, t') \cdot k_X(x, x')$, catturando le interazioni moltiplicative tra gli spazi di input e di output.

2. Differenza di Covarianza del Kernel

Per due dataset $D_X$ (da modello $X$) e $D_Y$ (da modello $Y$), il metodo calcola gli operatori empirici di covarianza del kernel congiunto $\hat{C}_{T \otimes X}$ e $\hat{C}_{T \otimes Y}$. Il nucleo dell'analisi è l'operatore di differenza di covarianza:
$$\hat{\Lambda}_{X,Y|T} = \hat{C}_{T \otimes X} - \eta \hat{C}_{T \otimes Y}$$
dove $\eta$ è un iperparametro. Gli autovettori principali di questo operatore rivelano le direzioni nello spazio congiunto in cui i due modelli mostrano le differenze comportamentali più significative.

3. Trucco del Kernel e Analisi Spettrale

La decomposizione diretta degli autovettori dell'operatore di covarianza ad alta dimensione è computazionalmente impraticabile. Gli autori applicano il trucco del kernel per formulare una matrice kernel a blocchi $K_{X,\eta Y|T}$ di dimensione $(n+m) \times (n+m)$, che condivide gli stessi autovettori non nulli dell'operatore ad alta dimensione. Gli autovettori di questa matrice a blocchi corrispondono alle modalità di disaccordo nello spazio congiunto.

4. Proiezione Casuale Scalabile

Per gestire dataset su larga scala (dove $n, m$ superano le decine di migliaia), PromptSplit impiega un'approssimazione tramite proiezione casuale. Le caratteristiche tensoriali congiunte vengono proiettate in una dimensione inferiore $r$ utilizzando matrici casuali gaussiane. Ciò riduce la complessità computazionale della decomposizione spettrale da $O((n+m)^3)$ a $O((n+m)r^2 + r^3)$.

• Garanzia Teorica: Il documento prova che la deviazione attesa della stima dello spazio degli autovettori dal risultato a dimensionalità completa è limitata da $O(1/r^2)$, garantendo che l'approssimazione preservi le direzioni di disaccordo con alta probabilità.

Contributi Chiave

1. Formulazione del Confronto a Livello di Prompt: Il lavoro formula il confronto tra modelli come un problema spettrale congiunto prompt-output, andando oltre le metriche aggregate per identificare le specifiche categorie di prompt che causano divergenze nel comportamento dei modelli.
2. Framework PromptSplit: Introduzione di un framework basato su kernel che accoppia prompt e output tramite embedding di prodotto tensoriale per analizzare lo spettro degli autovettori delle differenze di covarianza del kernel congiunto.
3. Approssimazione Scalabile: Sviluppo di un metodo di proiezione casuale che consente l'analisi di grandi dataset con un limite di errore teorico di $O(1/r^2)$, rendendo il metodo pratico per la valutazione di modelli generativi reali.
4. Interpretabilità: Il metodo fornisce "modi" di disaccordo interpretabili, collegando esplicitamente i cluster di prompt alla natura della divergenza dell'output.

Risultati Sperimentali

Gli autori hanno valutato PromptSplit in contesti di text-to-image (T2I) e text-to-text (LLM):

• Validazione Sintetica: In contesti controllati (ad esempio, MNIST-M con noti mismatch di prompt colore/scala di grigi), PromptSplit ha identificato con successo le categorie di prompt reali responsabili del disaccordo.
• Modelli Text-to-Image: I confronti tra Stable Diffusion XL, PixArt-Σ e Kandinsky hanno rivelato divergenze dipendenti dal prompt in termini di stile, composizione e allineamento. Ad esempio, il metodo ha identificato specifici prompt basati sull'occupazione (ad esempio, "infermiera", "falegname") dove i modelli producevano rappresentazioni visive significativamente diverse.
• Grandi Modelli Linguistici (LLM): I confronti tra Qwen 3 e Gemma 3 sul dataset NQ-Open hanno identificato cluster distinti di domande (ad esempio, riguardanti presidenti degli Stati Uniti o attori) in cui i modelli generavano risposte divergenti.
• Applicazione di Guida: Gli autori hanno dimostrato l'uso di PromptSplit per guidare il processo di diffusione latente, allineando con successo la distribuzione delle immagini generate con un dataset di riferimento (ad esempio, specifici stili pittorici) incorporando il gradiente di disaccordo nel processo di campionamento.

Significato e Rivendicazioni

Il documento afferma che PromptSplit offre uno strumento principato e interpretabile per rilevare dove e come i modelli generativi sono in disaccordo, colmando una lacuna lasciata dalle metriche di qualità aggregate. Modellando esplicitamente lo spazio congiunto prompt-output, esso isola le specifiche categorie di input che guidano le differenze comportamentali.

Gli autori posizionano PromptSplit come un metodo spettrale di secondo ordine basato su embedding. Notano con modestia che, sebbene il design ne permetta la scalabilità e l'interpretabilità, non mira a caratterizzare tutti gli aspetti di ordine superiore del comportamento generativo condizionale. Il lavoro è presentato come un passo verso una valutazione più granulare e condizionata ai prompt dell'ecosistema in crescita dei modelli di IA generativa. L'implementazione è resa pubblica per facilitare ulteriore ricerca in questo dominio.