Technische Samenvatting: BILLY (BlendIng persona vectors for Large Language model creativY)

Probleemstelling

Hoewel multi-LLM-systemen potentieel hebben getoond voor het verbeteren van creativiteit door menselijke collectieve intelligentie te simuleren via iteratieve discussies, kampen ze met aanzienlijke praktische beperkingen. Deze omvatten hoge computationele kosten, verhoogde inferentielatentie door multi-round token-uitwisselingen, en "procesverlies", waarbij coördinatie-inefficiënties voorkomen dat de collectieve output de som van individuele bijdragen overstijgt. Daartegenover staan single-model benaderingen die vertrouwen op prompt engineering (bijvoorbeeld het vragen aan een model om gelijktijdig meerdere rollen aan te nemen), die vaak moeite hebben om diverse perspectieven coherent te integreren binnen een enkele respons, wat leidt tot inconsistente of oppervlakkige resultaten. De kernuitdaging die wordt geadresseerd is hoe men diverse, multi-perspectivische samenwerking efficiënt kan simuleren binnen een enkele LLM, zonder de overhead van multi-agent communicatie of de noodzaak voor aanvullende modeltraining.

Methodologie

De auteurs stellen BILLY voor, een training-vrij framework dat een enkele Large Language Model (LLM) stuurt door onderscheidende persona-vectoren direct binnen de activatieruimte van het model te mengen. De aanpak bestaat uit drie primaire stadia:

1. Extractie van Persona-vectoren:
   Met behulp van een contrastieve activatiemethode extraheren de auteurs directionele vectoren die specifieke persona's vertegenwoordigen (bijv. "Creatief Professional", "Milieubeschermer"). Dit houdt het cureren van twee datasets voor elke persona $P$ in: een set met positieve expressie ($D^+_P$) waar het model de kenmerken van de persona vertoont, en een set met negatieve expressie ($D^-_P$) die neutrale of baseline responsen bevat. De persona-vector $\vec{v}^{(l)}_P$ op laag $l$ wordt berekend als het verschil tussen de gemiddelde, op tokens gebaseerde residual stream activaties van deze twee sets:
   \vec{v}^{(l)}_P = \frac{1}{|D^+_P|} \sum_{x \in D^+_P} \vec{a}^{(l)}(x) - \frac{1}{|D^-_P|} \sum_{x \in D^-__P} \vec{a}^{(l)}(x)

2. Offline Fusie:
   In tegenstelling tot multi-agent systemen die online interactie vereisen, fuseert BILLY meerdere geëxtraheerde persona-vectoren offline tot één samengestelde sturingsvector ($\vec{v}_{merged}$). Dit wordt bereikt door simpelweg de individuele vectoren te middelen:
   $$\vec{v}^{(l)}_{merged} = \frac{1}{N} \sum_{i=1}^{N} \vec{v}^{(l)}_i$$
   Deze samengestelde vector vangt een veelzijdige, multi-facetale perspectief in de latente ruimte.

3. Inference-Time Steering:
   Tijdens de generatie wordt de samengestelde vector toegevoegd aan de activaties van het model op een specifieke laag $l$ (experimenteel ingesteld op laag 20) met een schalingscoëfficiënt $\alpha$ (experimenteel ingesteld op 2.0):
   $$\vec{a}^{(l)}_{steered} = \vec{a}^{(l)}_{original} + \alpha \cdot \vec{v}^{(l)}_{merged}$$
   Deze operatie duwt de interne staat van het model richting de gefuseerde perspectieven zonder de gewichten van het model te wijzigen of extra training te vereisen.

Belangrijkste Bijdragen

Het paper schetst drie primaire bijdragen:

• Verbeterde Creativiteit: BILLY maakt de generatie van diverse, multi-perspectivische responsen mogelijk die zowel single-model prompting als traditionele multi-LLM benaderingen overtreffen op creativiteitsgerichte benchmarks.
• Efficiëntie en Eenvoud: Het framework is volledig training-vrij en elimineert de noodzaak voor multi-LLM communicatie. Het bereikt een vergelijkbare of superieure creatieve prestatie met aanzienlijk lagere computationele en token kosten.
• Interpreteerbaarheid: Door te opereren in de latente activatieruimte, biedt BILLY een transparant mechanisme voor het sturen van creativiteit. De auteurs demonstreren dat onderscheidende persona-vectoren gemengd kunnen worden om verschillende aspecten van generatie te controleren (bijv. stijl versus inhoud) met fijnmazige controle.

Experimentele Resultaten

De auteurs evalueerden BILLY op vier creativiteitsbenchmarks afgeleid van de Wallach-Kogan Creativiteitstests: AUT (Alternative Uses), INSTANCES, SIMILARITIES, en SCIENTIFIC. De evaluatie maakte gebruik van drie basismodellen (Qwen-2.5-7B, Llama-3.1-8B, en Gemma-3-4B) en mat prestaties via Originality (Originaliteit) en Elaboration (Uitwerking) scores, beoordeeld door zowel LLM-gebaseerde judges (GPT-4o-mini) als menselijke evaluatoren.

• Prestaties: BILLY behaalde consistent hogere Originality scores dan alle baselines, inclusief Single Agent (SA), SA met high-temperature decoding, SA met Multi-Role Prompting (SA-MRP), en het multi-agent "LLM Discussion" framework. Het behield competitieve of superieure Elaboration scores.
• Efficiëntie: BILLY demonstreerde een drastische reductie in inferentietijd (ongeveer 25x sneller dan LLM Discussion) en verminderde de token kosten met meer dan 95% vergeleken met multi-agent baselines.
• Analyse:
  • Vector Compositie: Het mergen van vectoren vertoonde afnemende meeropbrengsten voorbij een bepaald aantal persona's (bijv. 3 tot 4 vectoren), wat suggereert dat het voordeel niet puur additief is.
  • Steering Alignment: Projectie-analyse onthulde dat terwijl prompt-gebaseerde multi-role prompting (SA-MRP) er niet in slaagde om consistent alle beoogde persona's in de latente ruimte te activeren, BILLY erin slaagde meerdere persona's succesvol co-activeren, wat de superieure controleerbaarheid valideert.
  • Kwalitatieve Fusie: Casestudy's gaven aan dat de samengestelde vector succesvol de substantiële inhoud van de ene persona (bijv. Milieubeschermer) synthetiseerde met de stilistische flair van een andere (bijv. Creatief Professional), terwijl prompt-gebaseerde methoden vaak resulteerden in analytische of onsamenhangende outputs.

Betekenis en Claims

Het paper claimt dat BILLY een praktische oplossing biedt voor real-time creatieve generatie door de voordelen van multi-LLM samenwerking te vangen binnen een enkele model. De auteurs argumenteren dat hun methode aantoont dat de creatieve voordelen van multi-agent systemen effectief gevangen kunnen worden via activation steering, wat de inferentietijd en token kosten die geassocieerd worden met creativiteitstaken aanzienlijk vermindert. Verder suggereert het werk dat activation steering met samengestelde persona-vectoren een superieure controleerbaarheid en interpreteerbaarheid biedt vergeleken met meerdere role-play prompts, omdat het de interne staat van het model direct manipuleert om af te stemmen op complexe, veelzijdige persona's. De auteurs erkennen dat hoewel hun huidige methode eenvoudige middeling gebruikt voor vectorfusie, toekomstig werk meer geavanceerde compositietechnieken zou kunnen verkennen om de niet-lineaire interacties tussen persona's beter te beheren.