Sintesi Tecnica: BILLY (BlendIng persona vectors for Large Language model creativitY)

Problematica

Sebbene i sistemi multi-LLM abbiano dimostrato un potenziale nel potenziare la creatività simulando l'intelligenza collettiva umana attraverso discussioni iterative, essi soffrono di significativi limiti pratici. Questi includono elevati costi computazionali, un aumento della latenza di inferenza dovuto agli scambi di token multi-round e la "perdita di processo" (process loss), dove le inefficienze di coordinamento impediscono al risultato collettivo di superare la somma dei contributi individuali. Al contrario, gli approcci a modello singolo che si affidano al prompt engineering (ad esempio, chiedere a un modello di assumere più ruoli simultaneamente) spesso faticano a integrare coerentemente prospettive diverse all'interno di una singola risposta, portando a risultati inconsistenti o superficiali. La sfida centrale affrontata è come simulare una collaborazione diversificata e multi-prospettica all'interno di un singolo LLM in modo efficiente, senza l'overhead della comunicazione tra più agenti o la necessità di un ulteriore addestramento del modello.

Metodologia

Gli autori propongono BILLY, un framework privo di addestramento (training-free) che guida un singolo Large Language Model (LLM) fondendo distinti vettori di persona direttamente nello spazio delle attivazioni del modello. L'approccio consiste in tre fasi primarie:

1. Estrazione dei Vettori di Persona:
   Utilizzando un metodo di attivazione contrastiva, gli autori estraggono vettori direzionali che rappresentano specifiche persone (ad esempio, "Professionista Creativo", "Ambientalista"). Ciò comporta la cura di due dataset per ogni persona $P$: un set di espressione positiva ($D^+_P$) dove il modello esibisce i tratti della persona, e un set di espressione negativa ($D^-_P$) contenente risposte neutre o di base. Il vettore di persona $\vec{v}^{(l)}_P$ al layer $l$ è calcolato come la differenza tra le attivazioni medie dei token del residuo (residual stream) di questi due set:
   $$\vec{v}^{(l)}_P = \frac{1}{|D^+_P|} \sum_{x \in D^+_P} \vec{a}^{(l)}(x) - \frac{1}{|D^-_P|} \sum_{x \in D^-_P} \vec{a}^{(l)}(x)$$

2. Fusione Offline:
   A differenza dei sistemi multi-agente che richiedono interazione online, BILLY fonde più vettori di persona estratti offline in un singolo vettore di guida composito ($\vec{v}_{merged}$). Questo viene ottenuto semplicemente mediando i singoli vettori:
   $$\vec{v}^{(l)}_{merged} = \frac{1}{N} \sum_{i=1}^{N} \vec{v}^{(l)}_i$$
   Questo vettore composito incapsula una prospettiva multifaccettata nello spazio latente.

3. Guida durante l'Inferenza (Inference-Time Steering):
   Durante la generazione, il vettore composito viene aggiunto alle attivazioni del modello in un layer specifico $l$ (impostato sperimentalmente a 20) con un coefficiente di scala $\alpha$ (impostato sperimentalmente a 2.0):
   $$\vec{a}^{(l)}_{steered} = \vec{a}^{(l)}_{original} + \alpha \cdot \vec{v}^{(l)}_{merged}$$
   Questa operazione spinge il modello verso gli stati interni delle prospettive fuse senza alterare i pesi del modello o richiedere un ulteriore addestramento.

Contributi Chiave

Il documento delinea tre contributi primari:

• Creatività Potenziata: BILLY consente la generazione di risposte diversificate e multi-prospettiche che superano sia il prompting a modello singolo che i tradizionali approcci multi-LLM su benchmark orientati alla creatività.
• Efficienza e Semplicità: Il framework è interamente privo di addestramento ed elimina la necessità di comunicazione tra più LLM. Raggiunge prestazioni creative comparabili o superiori con costi computazionali e di token sostanzialmente inferiori.
• Interpretabilità: Operando nello spazio di attivazione latente, BILLY fornisce un meccanismo trasparente per guidare la creatività. Gli autori dimostrano che distinti vettori di persona possono essere fusi per controllare aspetti complementari della generazione (ad esempio, stile vs contenuto) con un controllo fine.

Risultati Sperimentali

Gli autori hanno valutato BILLY su quattro benchmark di creatività derivati dai test di creatività di Wallach-Kogan: AUT (Usi Alternativi), INSTANCES, SIMILARITIES e SCIENTIFIC. La valutazione ha utilizzato tre modelli base (Qwen-2.5-7B, Llama-3.1-8B e Gemma-3-4B) e ha misurato le prestazioni utilizzando punteggi di Originalità ed Elaborazione, valutati sia tramite giudici basati su LLM (GPT-4o-mini) che tramite valutatori umani.

• Performance: BILLY ha costantemente ottenuto punteggi di Originalità più elevati rispetto a tutti i baseline, inclusi Single Agent (SA), SA con decodifica ad alta temperatura, SA con Multi-Role Prompting (SA-MRP) e il framework di "Discussione LLM" multi-agente. Ha mantenuto punteggi di Elaborazione competitivi o superiori.
• Efficienza: BILLY ha dimostrato una riduzione drammatica del tempo di inferenza (circa 25 volte più veloce di LLM Discussion) e ha ridotto i costi dei token di oltre il 95% rispetto ai baseline multi-agente.
• Analisi:
  • Composizione dei Vettori: La fusione dei vettori ha mostrato rendimenti decrescenti oltre un certo numero di persone (ad esempio, da 3 a 4 vettori), suggerendo che il beneficio non è puramente additivo.
  • Allineamento della Guida (Steering Alignment): L'analisi di proiezione ha rivelato che, mentre il multi-role prompting basato su prompt (SA-MRP) non riusciva ad attivare costantemente tutte le persone intese nello spazio latente, BILLY ha attivato con successo molteplici persone, validando la sua superiore controllabilità.
  • Fusione Qualitativa: I casi di studio hanno indicato che il vettore fuso ha sintetizzato con successo il contenuto sostanziale di una persona (ad esempio, l'Ambientalista) con il tocco stilistico di un'altra (ad esempio, il Professionista Creativo), laddove i metodi basati su prompt producevano spesso output analitici o disgiunti.

Significato e Rivendicazioni

Il documento sostiene che BILLY offre una soluzione pratica per la generazione creativa in tempo reale, catturando i vantaggi della collaborazione tra più LLM all'interno di un singolo modello. Gli autori argomentano che il loro metodo dimostra che i vantaggi creativi dei sistemi multi-agente possono essere catturati efficacemente tramite la guida delle attivazioni (activation steering), riducendo significativamente il tempo di inferenza e i costi dei token associati ai compiti creativi. Inoltre, il lavoro suggerisce che la guida delle attivazioni con vettori di persona compositi offre una controllabilità e un'interpretabilità superiori rispetto al multi-role prompting, poiché manipola direttamente lo stato interno del modello per allinearlo a persone complesse e multifaccettate. Gli autori riconoscono che, sebbene il loro metodo attuale utilizzi una semplice media per la fusione dei vettori, il lavoro futuro potrebbe esplorare tecniche di composizione più sofisticate per gestire meglio le interazioni non lineari tra le persone.