Technische Samenvatting: Interpretatie van Stijlrepresentaties via Stijl-eliciterende Prompts

Probleemstelling

Leren van stijlrepresentaties levert krachtige vector-embeddings op voor auteurschapsanalyse en het modelleren van schrijfstijl. Deze representaties zijn echter latent, wat het moeilijk maakt om te interpreteren welke specifieke stilistische attributen ze coderen of hoe men ermee kan interageren voor gecontroleerde tekstgeneratie.

Bestaande benaderingen proberen deze representaties te interpreteren door Large Language Models (LLM's) te instrueren (prompten) om natuurlijke taalbeschrijvingen van de invoertekst te genereren. De auteurs identificeren twee kritieke beperkingen in dit paradigma:

1. Betrouwbaarheid: Vrije beschrijvingen zijn gevoelig voor de biases en hallucinaties van LLM's, waarbij genuanceerde stilistische kenmerken vaak over het hoofd worden gezien.
2. Functionaliteit: Deze beschrijvingen zijn primair verklarend in plaats van functioneel. Het is onduidelijk hoe men deze betrouwbaar kan gebruiken om schrijfstijlen te reproduceren, te manipuleren of over te dragen.

Het paper stelt dat interpretatie geworteld moet zijn in controle. In plaats van een stijl enkel te beschrijven, is het doel om expliciete, natuurlijke taalinstructies (prompts) terug te winnen die een LLM kunnen aansturen om tekst te genereren met dezelfde stilistische eigenschappen.

Methodologie

1. Probleemformulering

De auteurs definiëren de taak als het decoderen van een stijlrepresentatievector $\mathbf{x}$ (afgeleid van een invoertekst) naar een natuurlijke taal-stijlprompt $s$. Het doel is om een decoder $D$ te leren zodanig dat:

1. De gedecodeerde prompt $\hat{s}$ de stilistische kenmerken karakteriseert die in $\mathbf{x}$ zijn gecodeerd.
2. Het gebruik van $\hat{s}$ om een LLM te conditioneren, tekst $y$ genereert waarvan de stijlrepresentatie dicht bij de oorspronkelijke $\mathbf{x}$ ligt.

Het direct optimaliseren van dit doel is onhaalbaar vanwege de discrete en enorme aard van de promptruimte. Daarom herformuleren de auteurs het probleem als een supervised learning-taak met behulp van synthetische data.

2. Datasetconstructie

Om supervised training mogelijk te maken, hebben de auteurs een grootschalige synthetische dataset geconstrueerd bestaande uit 1,8 miljoen gestileerde reacties gekoppeld aan grondwaarheid-stijlprompts. De constructie bestond uit drie stadia:

• Curatie van Stijlkenmerken: Met behulp van GPT-4o genereerden zij 1.010 verschillende, modulaire stijlkenmerken, georganiseerd in 26 stilistische categorieën (bijv. "Zinstructuur", "Toon", "Retorische Strategie"). Deze kenmerken werden handmatig gecureerd om semantische distinctiviteit te waarborgen.
• Curatie van Vragen: 300.000 echte vragen werden gesampled van Reddit, StackExchange en Yahoo Answers om de inhoudelijke diversiteit te waarborgen.
• Gestileerde Generatie: LLM's (Phi-4, Qwen2.5-14B, OLMo-2-13B) werden geprompt met combinaties van 1–10 stijlkenmerken en een specifieke vraag om reacties te genereren die de gestileerde kenmerken van de prompt betrouwbaar vertonen. Dit proces zorgde ervoor dat de gegenereerde tekst de gedefinieerde stilistische beperkingen in de prompt daadwerkelijk reflecteerde.

3. Modelarchitectuur

Het voorgestelde framework maakt gebruik van een decoder $D$ bestaande uit:

• Een bevroren LLM (Ministral-8B-Instruct) die het stilistische signaal interpreteert.
• Een trainbare projectiemodule (een drie-laagse feedforward netwerk met GeLU-activaties) die de invoerstijlvector naar de token-embeddingruimte van de LLM mapt.
• Een vaste natuurlijke taalinstruct die aan de geprojecteerde vector wordt toegevoegd om de generatietaak te sturen.

Het model wordt getraind om de token-level cross-entropy loss te minimaliseren tussen de gedecodeerde prompt en de grondwaarheid-stijlprompt die werd gebruikt om de tekst te genereren.

Belangrijkste Bijdragen

1. Een Decoder-gebaseerd Framework: De auteurs introduceren een methode om latente stijlrepresentaties te vertalen naar actiegerichte, natuurlijke taal-stijlprompts, wat een interpreteerbaar en controleerbaar gebruik van stilistische informatie mogelijk maakt.
2. Grootschalige Synthetische Dataset: Zij brengen een dataset uit van 1,8 miljoen gestileerde teksten gekoppeld aan diverse, compositionele stijlprompts die 26 dimensies beslaan, wat fijnmazige supervisie biedt voor stijldecodering.
3. Prestatiewinst: De methode vertoont substantiële verbeteringen ten opzien van bestaande baselines in zowel de herwinning van stijlprompts als in taken voor stijlcontrole.
4. Open Bronnen: De dataset en de code worden vrijgegeven om toekomstig onderzoek in interpreteerbare stijlmodellering te faciliteren.

Experimentele Resultaten

Het framework werd geëvalueerd op drie taken:

1. Stijlprompt-herwinning (Style Prompt Recovery)

De taak behelst het reconstrueren van de grondwaarheid-stijlprompt vanuit de stijlrepresentatie van een gegenereerde tekst.

• Baselines: Vergeleken met LLM-gebaseerde beschrijvingsmethoden (STYLL, RG, custom prompts) en random sampling.
• Resultaten: De voorgestelde decoder presteerde significant beter dan alle baselines op drie metrieken:
  • ROUGE-1: 76,0% (tegenover lagere scores voor baselines).
  • LaBSE Similarity: 21,7% verbetering.
  • LLM-as-Judge: 42,8% verbetering.
• Observatie: LLM-gebaseerde baselines slaagden er niet in de onderliggende stilistische intentie te vatten en presteerden vaak slechter dan random sampling, wat suggereert dat LLM's de generatieve prompt niet betrouwbaar kunnen afleiden uit de outputtekst alleen.

2. Stijlcontrole (LLM-gegenereerde Tekst)

De taak behelst het gebruik van een gedecodeerde prompt om nieuwe tekst te genereren die overeenkomt met de stijl van de oorspronkelijke invoer.

• Metrieken: Gemeten aan de hand van de L2-afstand tussen de stijlrepresentatie van de oorspronkelijke tekst en de nieuw gegenereerde tekst.
• Resultaten: De decoder bereikte de kleinste L2-afstand en presteerde 12,9% beter dan de baselines gebaseerd op LLM-gegenereerde referenties. Het presteerde ook beter dan TinyStyler, een state-of-the-art stijltransfermodel, wat aangeeft dat de gedecodeerde prompts effectiever sturen dan directe manipulatie van de stijlvector in deze context.

3. Sturen naar Menselijke Stijl

De taak testte de generalisatie door de decoder te gebruiken om LLM's aan te sturen om overeen te komen met de stijl van door mensen geschreven tekst (out-of-distribution ten opzichte van de synthetische trainingsdata).

• Resultaten: De decoder behaalde een L2-verbetering van 26,1% ten opzien van de baselines bij het matchen van menselijke referentieteksten. Dit demonstreert de robuustheid en het vermogen van het framework om te generaliseren buiten de synthetische trainingsdistributie naar natuurlijke taal.

Betekenis en Claims

Het paper claimt dat het decoderen van stijlrepresentaties naar actiegerichte prompts een praktische en interpreteerbare interface biedt voor stilistische informatie. Door interpretatie te funderen in prompts die direct bruikbaar zijn voor generatie, overbrugt het framework de kloof tussen latente neurale representaties en menselijk begrijpelijke stijlkenmerken.

De auteurs benadrukken dat hun aanpak een pad biedt naar meer transparante en stuurbare NLP-systemen. Zij merken op dat hoewel de methode momenteel beperkt is tot het Engels en het QA-domein (vraag-antwoord), de resultaten suggereren dat stijlrepresentaties rijke, fijnmazige informatie bevatten die effectief kan worden teruggewonnen en benut voor gecontroleerde generatie.

Door de auteurs opgemerkte beperkingen:

• Taal: Het framework is momenteel beperkt tot het Engels vanwege de beschikbaarheid en prestaties van de onderliggende LLM's en stijlmodellen.
• Domein: De evaluatie is beperkt tot het online vraag-antwoord domein; generalisatie naar narratieve of formele prosatekst is niet geverifieerd.
• Modeldiversiteit: De dataset is gegenereerd met drie vergelijkbare LLM's; de prestaties op tekst van aanzienlijk andere modelarchitecturen of schalen kunnen variëren.
• Ethische Risico's: De auteurs erkennen het potentieel voor misbruik om de anonimiteit van auteurs te ondermijnen of propriëtaire prompts te reverse-engineeren, hoewel zij stellen dat de methode is ontworpen voor gecontroleerde settings met synthetische supervisie.