PROMPT2BOX: Uncovering Entailment Structure among LLM Prompts

1. Il Problema

Nella valutazione e nel debugging dei Large Language Models (LLM), i ricercatori spesso cercano di identificare le debolezze dei modelli raggruppando i prompt in cluster basati sulla loro similarità semantica. L'approccio standard consiste nell'incorporare i prompt in uno spazio vettoriale (usando embedding come quelli di Sentence Transformers) e applicare algoritmi di clustering gerarchico.

Tuttavia, questo metodo presenta una limitazione fondamentale: gli embedding vettoriali catturano principalmente la similarità topica, ma non la specificità o la difficoltà del prompt.

• Due prompt possono essere topici simili ma avere livelli di difficoltà molto diversi (es. "Scrivi una storia" vs "Scrivi una storia d'avventura romantica di un robot").
• Gli embedding vettoriali trattano questi prompt come punti vicini nello spazio, ignorando la relazione di implicazione (entailment): il prompt più specifico implica quello più generale, ma non viceversa.
• Questa ambiguità rende difficile analizzare le debolezze specifiche di un LLM. Se un cluster ha un punteggio basso, non è chiaro se il modello fallisca sul tema generale o solo sulle varianti più specifiche e difficili all'interno di quel cluster.

2. Metodologia: PROMPT2BOX

Gli autori propongono PROMPT2BOX, un framework che mappa i prompt in uno spazio di embedding a scatola (box embedding) invece che in punti vettoriali.

Rappresentazione a Scatola

Invece di rappresentare un prompt come un punto $x \in \mathbb{R}^d$, ogni prompt è rappresentato da un iper-rettangolo (scatola) definito da:

• Un vettore centro ($a_{center}$): cattura la posizione semantica (similarità).
• Un vettore di larghezza ($a_{\delta}$): cattura la portata semantica (specificità).
  • Prompt generali sono rappresentati da scatole grandi.
  • Prompt specifici sono rappresentati da scatole piccole.

Relazione di Implicazione (Entailment)

La geometria delle scatole permette di modellare naturalmente le relazioni asimmetriche:

• Se la scatola del prompt $A$ è contenuta nella scatola del prompt $B$ ($Box(A) \subseteq Box(B)$), allora $A$ implica $B$ (è più specifico).
• La similarità è misurata dal volume dell'intersezione tra le scatole.
• Il punteggio di implicazione è definito come la probabilità condizionale: $p(B|A) = \frac{Vol(Box(A) \cap Box(B))}{Vol(Box(A))}$. Se $A$ implica $B$, questo valore è 1.

Addestramento e Dati

Per addestrare un encoder che mappa i prompt in queste scatole, gli autori hanno curato un dataset composito:

1. Dati di Rilevanza Semantica: Coppie prompt-risposta da Infinity Instruct.
2. Dati di Implicazione: Da MultiNLI (per relazioni tra frasi).
3. Istruzioni Gerarchiche Sintetiche: Generati su WildChat usando GPT-4.1 per creare catene di prompt che vanno dal generale allo specifico.
4. Relazioni "Fratelli" (Sibling): Da SURI, per insegnare al modello a distinguere tra prompt che condividono un genitore ma non si implicano a vicenda (negativi difficili).
5. Linkage: Un meccanismo per collegare i dataset di rilevanza e implicazione, garantendo che lo spazio vettoriale sia coerente.

L'ottimizzazione utilizza una formulazione Gumbel Box per rendere differenziabili le operazioni di minimo/massimo necessarie per calcolare l'intersezione delle scatole, combinata con una funzione di perdita contrastiva.

Riduzione della Dimensionalità (BOX-SNE)

Poiché le scatole ad alta dimensionalità sono difficili da visualizzare, gli autori propongono BOX-SNE, una tecnica di riduzione della dimensionalità ispirata a t-SNE. BOX-SNE preserva non solo la similarità, ma anche i rapporti di intersezione e implicazione (contenimento) tra le scatole quando le proietta in 2D.

3. Contributi Chiave

1. PROMPT2BOX: Un nuovo metodo di embedding che cattura simultaneamente similarità semantica e relazioni di specificità/implicazione tramite geometria a scatola.
2. Dataset Sintetici e Curati: Un approccio innovativo per generare dati di implicazione su larga scala e collegare diversi domini di addestramento.
3. BOX-SNE: Un nuovo algoritmo di riduzione della dimensionalità specifico per gli embedding a scatola.
4. Nuove Metriche di Valutazione: Metriche per valutare la capacità di un embedding di rappresentare similarità, implicazione e specificità.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su dataset come UltraFeedback (con 17 LLM diversi), STS-B, SURI e FollowBench.

• Metriche Intrinseche:

  • PROMPT2BOX supera i baselines vettoriali nel recupero di istruzioni più specifiche (FollowBench) e nel ranking di triplette di implicazione (SURI).
  • Mantiene prestazioni competitive sulla similarità semantica (STS-B).
  • Il modello "Box w/o links" (senza dati di collegamento) ottiene i risultati migliori su FollowBench e SURI, suggerendo che la struttura di implicazione è cruciale per questi task.

• Predizione dei Punteggi (UltraFeedback):

  • Utilizzando un regressore k-NN sugli embedding, PROMPT2BOX riduce l'errore quadratico medio (RMSE) nella previsione dei punteggi di risposta rispetto ai vettori e ai baselines casuali.
  • Il modello con dati di collegamento ("Box") offre il miglior compromesso tra accuratezza semantica e struttura di specificità.

• Clustering Gerarchico e Visualizzazione:

  • Visualizzazione 2D: BOX-SNE permette di visualizzare chiaramente come i prompt specifici (scatole piccole) siano contenuti in quelli generali (scatole grandi), cosa impossibile con t-SNE vettoriale.
  • Identificazione delle Debolezze: Il clustering gerarchico basato su scatole identifica l'8,9% in più di cluster di debolezza rispetto ai metodi vettoriali.
  • Correlazione Profondità-Specificità: Esiste una correlazione del 33% più forte tra la profondità dell'albero gerarchico e la specificità dell'istruzione rispetto ai baselines vettoriali. Questo significa che l'albero costruisce una gerarchia logica più accurata (dal generale allo specifico).

5. Significato e Implicazioni

Il lavoro di PROMPT2BOX rappresenta un passo avanti significativo nell'analisi degli LLM:

• Superamento dei Limiti Vettoriali: Dimostra che la similarità topica non è sufficiente per diagnosticare le debolezze dei modelli; la struttura gerarchica e la specificità sono fondamentali.
• Diagnosi Fine-Grained: Permette agli sviluppatori di distinguere se un modello fallisce su un argomento generale o solo su sottocasi complessi e specifici, guidando una raccolta di dati di addestramento più mirata.
• Scalabilità e Analisi: La visualizzazione 2D delle scatole rivela pattern nascosti, come il fatto che l'aumento delle dimensioni del modello (scaling) migliora le prestazioni generali ma non elimina necessariamente le debolezze su prompt altamente specifici.
• Applicazioni Future: Il metodo può essere applicato al routing degli LLM, alla selezione dei dati di valutazione, all'analisi di sicurezza e alla valutazione della creatività.

In sintesi, PROMPT2BOX trasforma l'analisi dei prompt da una semplice mappa di similarità a una mappa strutturale gerarchica, offrendo strumenti geometrici potenti per comprendere e migliorare il comportamento dei modelli linguistici.