Sintesi Tecnica: CreativityNeuro

Problematica

I Large Language Models (LLM) esibiscono un fenomeno denominato "effetto alveare artificiale", in cui generano costantemente risposte simili e omogeneizzate a domande aperte. Questo comportamento limita la loro capacità di pensiero divergente — l'abilità di generare molteplici soluzioni diverse a un problema — che è una componente cruciale della creatività. I metodi esistenti per potenziare la creatività, come il prompting, la regolazione dei parametri di decoding (es. temperatura) o lo steering delle attivazioni, richiedono spesso dataset comportamentali, fine-tuning basato su gradienti o falliscono nel generalizzare su diversi compiti creativi. Inoltre, manca una comprensione sul fatto se i comportamenti creativi siano separabili dal ragionamento fattuale all'interno dello spazio dei pesi del modello.

Metodologia: CreativityNeuro

Gli autori introducono CreativityNeuro (CN), un metodo data-free per guidare (steering) i pesi degli LLM al fine di amplificare il pensiero divergente. A differenza degli approcci precedenti che si affidano a dati comportamentali o aggiornamenti dei gradienti, CN opera identificando e scalando specifici parametri nello spazio dei pesi del modello sulla base di set di prompt contrastivi.

Algoritmo Core

Il metodo segue un processo in tre fasi (dettagliato nell'Algoritmo 1):

1. Set di Prompt Contrastivi: Invece di fare affidamento su dataset strutturati (come MATH per il ragionamento), CN utilizza sei set di prompt contrastivi ($P_{cre}$ vs. $P_{non-cre}$) che spaziano tra stili quali lo storytelling, l'ideazione e istruzioni minimali (es. "Sorprendimi" vs. "Sii preciso").
2. Scoring dell'Importanza dei Parametri: Utilizzando un meccanismo di scoring in stile Wanda, il metodo calcola gli score di importanza ($S_{\ell,ij}$) per i pesi in ogni layer $\ell$. Lo score è il prodotto della magnitudo del peso e della norma dell'attivazione, sommati attraverso i token nei set di prompt:
   $$S_{\ell,ij} = \sum_{b,t} |W_{\ell,ij}| \cdot \|x^{(b,t)}_{\ell,j}\|^2$$
   Gli score sono calcolati separatamente per i prompt creativi ($P_{cre}$) e non creativi ($P_{non-cre}$).
3. Selezione e Scaling dei Pesi: Il metodo isola i parametri specifici della creatività selezionando la percentuale $\rho$ superiore di pesi classificati per importanza creativa che non compaiono nella percentuale $\rho$ superiore per i prompt non creativi ($C_\ell \setminus N_\ell$). Questi pesi selezionati vengono poi scalati da un fattore $(1 + \alpha)$ durante l'inferenza.

Questo approccio non richiede generazioni comportamentali, risposte punteggiate o esempi etichettati, rendendolo interamente data-free.

Contributi Chiave

Il documento delinea cinque contributi primari:

1. Steering Data-Free: Introduzione di CreativityNeuro, un metodo per guidare il comportamento creativo senza dataset comportamentali o riaddestramento.
2. Miglioramento del Divergent Association Task (DAT): Dimostrazione che CN migliora significativamente i punteggi DAT, superando i baseline inclusi il prompting, le variazioni dei parametri di campionamento e lo steering delle attivazioni.
3. Generalizzazione a Compiti Complessi: Validazione tramite valutazione umana su larga scala ($N=720$) sull'Alternative Uses Test (AUT) e sul Task Task (TT), mostrando miglioramenti in originalità, sorpresa e creatività.
4. Riduzione del Mode Collapse: Evidenza che CN riduce sia il mode collapse a livello di parola (DAT) che a livello di risposta (AUT/TT).
5. Entanglement nello Spazio dei Pesi: Scoperta che il pensiero divergente e il ragionamento fattuale sono non-separabili nello spazio dei pesi; tentare di isolarli degrada le prestazioni in entrambi i domini.

Risultati Sperimentali

1. Divergent Association Task (DAT)

Valutato su sei modelli instruct-tuned (famiglie Phi, Llama, Qwen, da 3B a 14B parametri):

• Performance: CN ha migliorato le prestazioni DAT fino a 14 punti percentili umani.
• Confronto: CN ha raggiunto una media di percentile umano del 94,1, superando leggermente lo steering delle attivazioni (93,9) e superando significativamente i baseline di prompting e campionamento.
• Efficienza dei Dati: A differenza dello steering delle attivazioni, che richiede dati comportamentali punteggiati per costruire i vettori di steering, CN ha ottenuto risultati superiori utilizzando solo coppie di prompt.

2. Alternative Uses Test (AUT) e Task Task (TT)

Una valutazione umana su larga scala ($N=720$) ha valutato originalità, sorpresa, utilità e creatività:

• AUT: CN ha ottenuto effetti uniformemente positivi su originalità (media Cohen's $d = +0,36$) e sorpresa ($d = +0,43$).
• TT: CN ha mostrato forti guadagni in originalità ($d = +0,40$) e miglioramenti moderati in creatività ($d = +0,24$).
• Generalizzazione: Mentre lo steering delle attivazioni ha performato in modo comparabile a CN sul DAT, esso non è riuscito a generalizzare all'AUT e al TT. Ciò evidenzia la superiorità dello steering nello spazio dei pesi rispetto allo steering delle attivazioni per compiti creativi complessi e non visti.
• Trade-off: CN ha ridotto i punteggi di utilità sull'AUT, una conseguenza prevedibile del trade-off novità-utilità inerente alla generazione creativa.

3. Mode Collapse

• DAT: CN ha ridotto la massa di probabilità sulle prime 10 parole più frequenti del 10,2 punti percentuali e ha aumentato l'entropia del vocabolario del 10%.
• AUT/TT: CN ha ridotto la ripetizione intra-modello e l'omogeneità inter-modello, dimostrando una riduzione del mode collapse semantico attraverso risposte di lunghezza frase e paragrafo.

4. Separabilità del Pensiero Divergente e del Ragionamento Fattuale

Gli autori hanno indagato se i pesi creativi potessero essere isolati dai pesi del ragionamento fattuale (testato sul benchmark MMLU):

• Risultato: Il pensiero divergente e il ragionamento fattuale sono funzionalmente intrecciati (entangled) nello spazio dei pesi.
• Evidenza: I tentativi di proteggere le prestazioni MMLU escludendo i pesi correlati a MMLU dalla maschera creativa hanno portato a un ulteriore degrado dei punteggi MMLU, nonostante la riduzione della dimensione della maschera. Ciò suggerisce che i parametri che guidano la creatività sono profondamente intrecciati con quelli che guidano l'accuratezza fattuale.

Significato e Rivendicazioni

Il paper sostiene che CreativityNeuro fornisce un meccanismo semplice e data-free per potenziare le prestazioni degli LLM nei domini creativi. Il suo significato primario risiede in:

• Generalizzazione: Dimostrare che lo steering nello spazio dei pesi generalizza a compiti creativi non visti (AUT, TT) dove lo steering delle attivazioni fallisce.
• Efficienza: Raggiungere prestazioni creative state-of-the-art senza i costi computazionali o i requisiti di dati del fine-tuning o della raccolta di dataset comportamentali.
• Insight Meccanicistico: Offrire evidenza che la creatività e il ragionamento fattuale non sono modularmente separabili nelle attuali architetture di LLM, suggerendo che potenziarne uno può intrinsecamente impattare l'altro.

Gli autori concludono che, sebbene CN migliori efficacementamente il pensiero divergente e riduca l'omogeneizzazione, l'entanglement tra pesi creativi e fattuali rimane un vincolo architettonico fondamentale che la ricerca futura dovrà affrontare, potenzialmente attraverso sistemi multi-agente o rappresentazioni fattorizzate unificate.