Technische Samenvatting: CreativityNeuro

Probleemstelling

Large Language Models (LLMs) vertonen een fenomeen dat het "artificiële hivemind-effect" wordt genoemd, waarbij ze consequent vergelijkbare, homogene reacties genereren op open vragen. Dit gedrag beperkt hun capaciteit voor divergent denken—het vermogen om meerdere diverse oplossingen voor een probleem te genereren—wat een cruciale component van creativiteit is. Bestaande methoden om creativiteit te verbeteren, zoals prompting, het afstemmen van decoding-parameters (bijv. temperatuur) en activation steering, vereisen vaak gedragsdatasets, gradiëntgebaseerde fine-tuning, of falen in het generaliseren over verschillende creatieve taken. Bovendien is er een gebrek aan begrip over de vraag of creatief gedrag scheidbaar is van feitelijke redenering binnen de gewichtsruimte van het model.

Methodologie: CreativityNeuro

De auteurs introduceren CreativityNeuro (CN), een data-vrije methode om de gewichten van LLM's te sturen om divergent denken te versterken. In tegenstelling tot eerdere benaderingen die steunen op gedragsdata of gradiëntupdates, werkt CN door specifieke parameters in de gewichtsruimte van het model te identificeren en te schalen op basis van contrastieve prompt-sets.

Kernalgoritme

De methode volgt een driestaps-proces (gedetailleerd in Algoritme 1):

1. Contrastieve Prompt-sets: In plaats van te vertrouwen op gestructureerde datasets (zoals MATH voor redeneren), gebruikt CN zes sets van contrastieve prompts ($P_{cre}$ vs. $P_{non-cre}$) die stijlen beslaan zoals storytelling, ideatie en minimale instructies (bijv. "Verras me" vs. "Wees precies").
2. Parameter Belangrijkheidsscore: Met behulp van een Wanda-stijl scoringmechanisme berekent de methode belangrijkheidsscores ($S_{\ell,ij}$) voor gewichten in elke laag $\ell$. De score is het product van de gewichtsmagnitudo en de activatietorm, opgeteld over de tokens in de prompt-sets:
   $$S_{\ell,ij} = \sum_{b,t} |W_{\ell,ij}| \cdot \|x^{(b,t)}_{\ell,j}\|^2$$
   Scores worden apart berekend voor creatieve ($P_{cre}$) en niet-creatieve ($P_{non-cre}$) prompts.
3. Gewichtselectie en Schaling: De methode isoleert creativiteit-specifieke parameters door de top $\rho$ procent van de gewichten te selecteren die gerangschikt zijn op basis van creatieve belangrijkheid en die niet voorkomen in de top $\rho$ procent voor niet-creatieve prompts ($C_\ell \setminus N_\ell$). Deze geselecteerde gewichten worden tijdens de inferentie geschaald met een factor $(1 + \alpha)$.

Deze aanpak vereist geen gedragsgeneraties, gescoorde reacties of gelabelde voorbeelden, waardoor deze volledig data-vrij is.

Belangrijkste Bijdragen

Het artikel schetst vijf primaire bijdragen:

1. Data-vrije Sturing: Introductie van CreativityNeuro, een methode om creatief gedrag te sturen zonder gedragsdatasets of hertraining.
2. Verbetering van de Divergent Association Task (DAT): Demonstratie dat CN de DAT-scores significant verbetert, waarbij het uitblinkt boven baselines inclusief prompting, sampling parameter variaties en activation steering.
3. Generalisatie naar Complexe Taken: Validatie via grootschalige menselijke evaluatie ($N=720$) op de Alternative Uses Test (AUT) en de Task Task (TT), waarbij verbeteringen in originaliteit, verrassing en creativiteit worden aangetoond.
4. Reductie van Mode Collapse: Bewijs dat CN zowel woordniveau (DAT) als reactieniveau (AUT/TT) mode collapse vermindert.
5. Verstrengeling in de Gewichtsruimte: Ontdekking dat divergent denken en feitelijke redenering niet scheidbaar zijn in de gewichtsruimte; pogingen om ze te isoleren verslechteren de prestaties in beide domeinen.

Experimentele Resultaten

1. Divergent Association Task (DAT)

Geëvalueerd over zes instruct-getunede modellen (families van Phi, Llama, Qwen, variërend van 3B tot 14B parameters):

• Prestaties: CN verbeterde de DAT-prestaties met tot wel 14 menselijke percentielen.
• Vergelijking: CN bereikte een gemiddeld menselijk percentiel van 94,1, waarmee het licht boven activation steering (93,9) uitkwam en aanzienlijk beter presteerde dan prompting en sampling baselines.
• Data-efficiëntie: In tegenstelling tot activation steering, dat gescoorde gedragsdata nodig heeft om steering-vectoren te construeren, behaalde CN superieure resultaten met enkel prompt-paren.

2. Alternative Uses Test (AUT) en Task Task (TT)

Een grootschalige menselijke evaluatie ($N=720$) beoordeelde originaliteit, verrassing, nut en creativiteit:

• AUT: CN bereikte uniform positieve effecten op originaliteit (gemiddelde Cohen's $d = +0,36$) en verrassing ($d = +0,43$).
• TT: CN toonde sterke winst in originaliteit ($d = +0,40$) en matige verbeteringen in creativiteit ($d = +0,24$).
• Generalisatie: Hoewel activation steering vergelijkbaar presteerde met CN op de DAT, faalde het in het generaliseren naar de AUT en TT. Dit onderstreept de superioriteit van weight-space steering ten opzichte van activation steering voor onbekende, complexe creatieve taken.
• Trade-offs: CN verminderde de nut-scores op de AUT, een voorspelbaar gevolg van de trade-off tussen nieuwheid en nut die inherent is aan creatieve generatie.

3. Mode Collapse

• DAT: CN verminderde de waarschijnlijkheidsmassa op de top 10 meest frequente woorden met 10,2 procentpunt en verhoogde de vocabulaire-entropie met 10%.
• AUT/TT: CN verminderde intra-model herhaling en inter-model homogeniteit, wat wijst op een reductie van semantische mode collapse over zins- en paragraaflange reacties.

4. Scheidbaarheid van Divergent Denken en Feitelijke Redenering

De auteurs onderzochten of creatieve gewichten geïsoleerd konden worden van feitelijke redeneergewichten (getest op de MMLU benchmark):

• Bevinding: Divergent denken en feitelijke redenering zijn functioneel verstrengeld in de gewichtsruimte.
• Bewijs: Pogingen om de MMLU-prestaties te beschermen door MMLU-gerelateerde gewichten uit de creatieve maskering uit te sluiten, resulteerden in een verdere degradatie van de MMLU-scores, ondanks het verkleinen van de maskering. Dit suggereert dat de parameters die creativiteit aansturen, diep verweven zijn met die welke feitelijke nauwkeurigheid aansturen.

Betekenis en Claims

Het artikel beweert dat CreativityNeuro een eenvoudig, data-vrij mechanisme biedt om de prestaties van LLM's in creatieve domeinen te verbeteren. De primaire betekenis ligt in:

• Generalisatie: Het bewijs dat weight-space steering generaliseert naar onbekende creatieve taken (AUT, TT) waar activation steering faalt.
• Efficiëntie: Het bereiken van state-of-the-art creatieve prestaties zonder de computationele kosten of datavereisten van fine-tuning of het verzamelen van gedragsdatasets.
• Mechanistisch Inzicht: Het bieden van bewijs dat creativiteit en feitelijke redenering niet modulair scheidbaar zijn in huidige LLM-architecturen, wat suggereert dat het verbeteren van de één inherent invloed heeft op de ander.

De auteurs concluderen dat hoewel CN het divergent denken effectief verbetert en homogenisering vermindert, de verstrengeling van creatieve en feitelijke gewichten een fundamentele architecturale beperking blijft die toekomstig onderzoek moet aanpakken, mogelijk via multi-agent systemen of verenigde gefactoreerde representaties.