Technische Samenvatting: Het heroverwegen van Prompt-gevoeligheid in Large Language Models voor Tekstclassificatie

Probleemstelling

Large Language Models (LLM's) worden steeds vaker ingezet voor zero-shot en few-shot tekstclassificatie, waarbij het gedrag van de taak volledig wordt bepaald door natuurlijke taalprompts. Een aanzienlijk deel van de literatuur heeft vastgesteld dat LLM's een hoge gevoeligheid vertonen voor variaties in prompts, waarbij kleine veranderingen in formulering de prestatierangschikkingen en claims van state-of-the-art aanzienlijk kunnen veranderen. Dit artikel betoogt echter dat een substantieel deel van de geobserveerde gevoeligheid geen inherente tekortkoming is in de redeneercapaciteiten van de modellen, maar een gevolg is van prompt-onderspecificatie.

Veel bestaande studies die prompt-gevoeligheid onderzoeken, vertrouwen op "minimale" of "onderspecificeerde" prompts (geïnspireerd door vroege GPT-3 formuleringen) die weinig tot geen instructies voor de taak of labelrestricties bieden. De auteurs hypothetiseren dat deze prompts ervoor zorgen dat LLM's falen tijdens de output-generatiefase — het produceren van ongestructureerde tekst of het negeren van verwachte labels — in plaats van te falen in het intern begrijpen van de taak. Dit leidt tot lage logit-waarden voor relevante tokens en classificatiebeslissingen gebaseerd op willekeurig verdeelde waarschijnlijkheden, waardoor de waargenomen gevoeligheid van de modellen wordt opgeblazen.

Methodologie

De studie vergelijkt systematisch onderspecificeerde (minimale) prompts met wel-gespecificeerde (instructie) prompts over drie tekstclassificatietaken (SST-2, AG News, MMLU) en zes LLM-varianten (LLaMA-2-13B, LLaMA-3.1-8B, LLaMA-3.2-3B, zowel in base- als in instruction-tuned vorm).

Het evaluatiekader hanteert drie verschillende analytische benaderingen:

1. Empirische Prestatieanalyse: De auteurs evalueren de gemiddelde nauwkeurigheid en standaarddeviatie over 10 prompt-varianten per setting. Ze vergelijken een "Base"-setting met verschillende mitigatiestrategieën:

   • UNK Strategie: Het toevoegen van 未知 tokens aan de prompt.
   • Kalibratie: Het aanpassen van label-waarschijnlijkheden op basis van neutrale prompts om een uniforme distributie te garanderen.
   • In-Context Learning (ICL): Het verstrekken van 2 voorbeelden per klasse binnen de prompt.
   • Instruction-Tuning: Het gebruik van instruction-tuned modelvarianten.
   • Meta-Tags/Chat Templates: Het gebruik van tokenizer-specifieke delimiters.
   • Evaluatie wordt uitgevoerd via zowel Logit Evaluatie (het selecteren van de klasse met de hoogste waarschijnlijkheid uit het laatste token) als Generatie Evaluatie (het extraheren van labels uit vrije tekstgeneratie).

2. Logit Analyse: De auteurs analyseren de grootte en distributie van de logit-waarden voor klasse-labels. Ze onderzoeken de correlatie tussen logit-waarden en classificatienauwkeurigheid, waarbij ze specifiek prompts vergelijken die hoge versus lage logit-waarden opleveren.

3. Lineaire Probe Analyse: Om interne representaties te onderzoeken, trainen de auteurs lineaire Ridge-classifiers op de activaties van elke laag van de LLM. Deze techniek van mechanistische interpreteerbaarheid bepaalt of de interne staat van het model voldoende informatie bevat om de taak op te lossen, zelfs als de uiteindelijke outputgeneratie faalt.

Belangrijkste Resultaten

1. De impact van Prompt-onderspecificatie

Onderspecificeerde prompts vertonen consequent een hogere prestatievariantie en aanzienlijk lagere logit-waarden voor relevante tokens vergeleken met instructie-prompts. In veel gevallen resulteren minimale prompts in label-logits in de range van $10^{-5}$ tot $10^{-3}$, waardoor de correcte labels in de onderste helft van de vocabulaire-waarschijnlijkheidsdistributie terechtkomen. Bijgevolg worden classificatiebeslissingen onder minimale prompts vaak gedreven door ruis in plaats van semantisch begrip.

2. Mitigatiestrategieën

• Instructie-prompts: Hoewel instructie-prompts over het algemeen de gemiddelde prestaties verbeteren en de variantie verminderen, elimineren ze de gevoeligheid niet volledig op zichzelf.
• In-Context Learning (ICL): ICL biedt de meest consistente en significante mitigatie van prompt-gevoeligheid. Wanneer gecombineerd met instruction-tuned modellen, levert ICL de hoogste nauwkeurigheid en de laagste standaarddeviatie op. Opvallend genoeg adresseert ICL de problemen van onderspecificatie even effectief als kalibratie, maar zonder toegang te vereisen tot de interne processen van het model of neutrale prompts.
• Kalibratie: Kalibratie biedt verbeteringen die vergelijkbaar zijn met ICL, maar is iets minder consistent. Het combineren van kalibratie met ICL levert slechts marginale extra voordelen op, wat suggereert dat beide methoden hetzelfde onderliggende probleem aanpakken.
• UNK Strategie: De strategie van het toevoegen van 未知 tokens verslechtert de prestaties vaak aanzienlijk, waarbij soms prestaties slechter zijn dan bij willekeurige gokken.
• Modelvarianten: Het overstappen naar de instruction-tuned varianten van de modellen verbetert de prestaties aanzienlijk voor zowel minimale als instructie-prompts, hoewel dit deels toegeschreven kan worden aan data leakage als de trainingsdata overlapt met de evaluatiesets.

3. Logit en Lineaire Probe Inzichten

• Logit Correlatie: Er is een sterke positieve correlatie (tot $r=0.757$) tussen de grootte van de label-logit-waarden en de classificatienauwkeurigheid. Hoge logit-waarden dienen als een betrouwbare indicator voor promptkwaliteit en de afwezigheid van onderspecificatie.
• Interne Representaties: Lineaire probe-analyse laat zien dat interne representaties (activaties in middelste lagen) robuust blijven en voldoende informatie bevatten om taken accuraat te classificeren, zelfs wanneer de uiteindelijke output onjuist is door onderspecificatie. De degradatie in prestaties vindt voornamelijk plaats in de laatste lagen van het netwerk. Dit suggereert dat het model het antwoord intern "weet", maar het niet correct kan articuleren wanneer de prompt onderspecificeerd is.

Bijdragen en Betekenis

Dit artikel levert de volgende primaire bijdragen:

1. Herformulering van Prompt-gevoeligheid: Het identificeert prompt-onderspecificatie als een primaire drijfveer van de geobserveerde LLM-gevoeligheid, en stelt dat modellen vaak falen bij de output-formattering in plaats van bij de taakbegrip.
2. Methodologische Rigor: Het pleit voor het gebruik van wel-gespecificeerde instructie-prompts en in-context learning om betrouwbare beoordelingen van modelcapaciteiten te waarborgen, en beweegt weg van minimale prompts die een hoge variantie induceren.
3. Diagnostische Instrumenten:
   • Het vestigt logit-analyse als een praktisch instrument voor het diagnosticeren van promptkwaliteit, waarbij wordt aangetoond dat lage logit-waarden een sterke voorspeller zijn van slechte prestaties en hoge gevoeligheid.
   • Het gebruikt lineaire probing om aan te tonen dat gevoeligheidsproblemen vaak ontstaan in de laatste lagen van het model, terwijl de interne representaties stabiel blijven.
4. Praktische Mitigatie: Het demonstreert dat eenvoudige aanpassingen, specifiek de combinatie van instruction-tuned modellen en in-context learning, de meerderheid van de gevoeligheidsproblemen effectief kunnen mitigeren zonder complexe kalibratieprocedures.

Conclusie

De auteurs concluderen dat een aanzienlijk deel van de LLM-instabiliteit in tekstclassificatie voortkomt uit het gebruik van onderspecificeerde prompts en ambigue experimentele opstellingen, in plaats van een fundamenteel onvermogen van de modellen om de taken op te lossen. Zij pleiten voor grotere methodologische rigor in toekomstig onderzoek, waarbij de noodzaak van wel-gespecificeerde prompts wordt benadrukt om onderscheid te maken tussen werkelijke modelbeperkingen en artefacten van slechte prompting. De bevindingen suggeren dat met geschikte prompting-strategieën (met name instructie-formaten en ICL), de geobserveerde gevoeligheid grotendeels kan worden gemitigeerd, wat leidt tot betrouwbaardere en reproduceerbare evaluaties van LLM's.