Assert, don't describe: Linguistic features that shift LLM reasoning about animal welfare

Probleemstelling

Dierenwelzijn-advocaten genereren aanzienlijke hoeveelheden geschreven inhoud (bijv. Wikipedia-bewerkingen, beleidsnota's, nieuwsartikelen) die in toenemende mate dienen als trainingsdata voor grote taalmodellen (LLM's). Naarmate deze modellen worden bijgesteld op basis van dergelijke corpora, worden zij de interface waardoor miljoenen gebruikers vragen stellen over dierenwelzijnsvraagstukken. De centrale empirische vraag die wordt geadresseerd is: welke specifieke linguïstische kenmerken binnen pleitbezorgende teksten verschuiven de redeneerhouding van een LLM causaal naar sterkere pro-dierenwelzijnsstandpunten, en welke kenmerken verwateren die houding? Eerdere methodologische pogingen om dit te beantwoorden — zoals per-document attributie (MAGIC, TrackStar) en groepsniveau-perplexiteit-ablaties — bleken ontoereikend. Attributiemethoden leden onder de dominantie van ruis in gematchte paren stimuli, terwijl perplexiteitsmetingen de vocabulaire-herkenning verwarden met daadwerkelijke standpuntredenering.

Methodologie

De auteurs hanteerden een gecontroleerde gedragsmatige fine-tuning ablatie-benadering met behulp van Llama-3.2-1B.

• Dataset Constructie: Er werd een "Controlled-pair compassion dataset" gecreëerd bestaande uit 1.000 gematchte paren (2.000 passages in totaal) verspreid over 100 verschillende dierenwelzijns-onderwerpen. Elk paar deelde hetzelfde onderwerp en scenario, maar verschilde op exact één van tien linguïstische kenmerken:
  1. Emotiewoorden (affectief vs. neutraal)
  2. Morele vocabulaire (expliciete morele termen vs. procedurele beschrijving)
  3. Narratieve structuur (verhalende sequentie vs. expositieve staat)
  4. Concreetheid (zintuiglijke details vs. abstract operationeel)
  5. Perspectief (eerste persoon vs. derde persoon)
  6. Evaluatieve standpunt (evaluatieve bijvoeglijke naamwoorden vs. beschrijvend)
  7. Schade-intensiteit (ernstige vs. milde weergaven)
  8. Hedging (epistemische voorbehoudsuitdrukkingen vs. stellende taal)
  9. Temporele nabijheid (onmiddellijk heden vs. ver verleden)
  10. Zekerheid (hoog-zekere claims vs. lage-zekerheid claims)
• Evaluatie Benchmark: Om het standpunt te isoleren van de vocabulaire, construeerden de auteurs de Animal-Harm Benchmark (AHB), bestaande uit 50 binaire keuzevragen. Elk item presenteert een prompt met twee voltooiingen: één gealigneerd (pro-dierenwelzijn) en één niet-gealigneerd (bijv. acceptatie van trade-offs). Cruciaal is dat de gealigneerde en niet-gealigneerde voltooiingen een Jaccard-overlap van 94% delen in dierenwelzijns-vocabulaire, wat ervoor zorgt dat de voorkeur van het model wordt gedreven door standpunt in plaats van token-familiariteit.
• Trainingsprotocol: Het model werd afzonderlijk gefine-tuned op de "kenmerk-aanwezig" (P) en "kenmerk-afwezig" (N) groepen voor elk van de 10 kenmerken met behulp van LoRA (rank 32, alpha 64) over 100 passages per groep. Dit werd herhaald over vijf willekeurige seeds (100 totale fine-tunes).
• Metrieken: De primaire metriek was een lengte-genormaliseerde voorkeursscore (log-waarschijnlijkheid van de gealigneerde voltooiing minus de niet-gealigneerde voltooiing). Een secundaire metriek was de gealigneerde winrate. Statistische significantie werd bepaald via gepaarde t-testen op per-seed verschillen.

Belangrijkste Bijdragen

1. Identificatie van Causale Linguïstische Kenmerken: De studie isoleert tien specifieke linguïstische kenmerken en kwantificeert hun individuele causale impact op de redenering van LLM's met betrekking tot dierenwelzijn.
2. Methodologische Verfijning: Het artikel documenteert het falen van eerdere attributiemethoden (MAGIC, perplexiteit-ablaties) voor deze specifieke vraag vanwege ruis en vocabulaire-confounds, en vestigt een vocabulaire-gematchte standpunt-contrast benchmark als een robuuster alternatief voor het meten van gedragsverschuivingen.
3. Ontdekking van het "Assertie vs. Beschrijving" Mechanisme: Het onderzoek identificeert een verenigend principe: linguïstische kenmerken die de positie van een schrijver expliciet maken (assertie) verschuiven het standpunt van het model, terwijl kenmerken die scènes beschrijven zonder een positie in te nemen (beschrijving) het standpunt verwateren.

Resultaten

• Baseline Alignment: De niet-gefine-tuned Llama-3.2-1B vertoonde reeds een sterke pro-dierenwelzijns-prior (gealigneerde winrate van 0,96, gemiddelde voorkeursscore +0,774). Bij consequent neigden de meeste fine-tuning regimes ernaar om deze bestaande alignment te eroderen in plaats van een nieuwe te installeren.
• Significante Verschuivingen: Acht van de tien kenmerken produceerden statistisch significante effecten.
  • Pro-Alignment Verschuivingen (7 kenmerken): Kenmerken die de voorkeur van het model voor pro-dierenwelzijnsredenering vergrootten, waren onder meer Assertieve Zekerheid, Morele Vocabulaire, Emotiewoorden, Evaluatieve Claims, Narratieve Structuur, Weergave van Schade-intensiteit en Onmiddellijke Temporele Inkadering.
  • Anti-Alignment Verschuivingen (2 kenmerken): Hedging (Voorbehouden Taal) en Concrete Zintuiglijke Beschrijving verwaterden het pro-dierenwelzijnsstandpunt significant, waardoor de voorkeursscore van het model lager werd dan de baseline.
  • Null Effect: Eerste Persoon Perspectief vertoonde geen statistisch significant effect.
• Grootte van de Effecten: Hoewel de meeste fine-tuning op kleine corpora de baseline alignment erodeerde, waren de "kenmerk-aanwezig" varianten van Morele Vocabulaire, Evaluatieve Standpunt en Schade-intensiteit de enige condities die de voorkeursscore van het model boven de ongefine-tuned baseline tilde.
• Mechanisme: De kenmerken die het standpunt versterkten, deelden de eigenschap dat ze de positie van de schrijver zichtbaar maakten (bijv. het benoemen van morele oordelen, het beweren van feiten). De kenmerken die het standpunt verzwakten, bevatten weliswaar dierenwelzijnsinhoud, maar hielden het standpunt achter (bijv. het voorbehouden van onzekerheid of het beschrijven van zintuiglijke details zonder interpretatie).

Betekenis en Claims

Het artikel stelt dat voor beoefenaars die corpora samenstellen voor midtraining of fine-tuning die materiaal over dierenwelzijn bevatten, het primaire doel vaak niet het "installeren" van een nieuwe alignment is, maar het "behouden" van de alignment die het model al bezit. De studie concludeert dat het beweren van een positie in plaats van het neutraal beschrijven van een scène de cruciale factor is in het behouden of versterken van pro-dierenwelzijnsredenering in LLM's.

De auteurs merken op dat hun bevindingen specifief zijn voor de fine-tuning regime (LoRA op 100 documenten) en de Llama-3.2-1B architectuur. Zij beweren niet dat deze effecten direct schalen naar pretraining op biljoenen tokens, noch stellen zij nieuwe toepassingen voor buiten de directe context van schrijven voor modeltraining. De significantie ligt in het bieden van een concrete, op bewijs gebaseerde richtlijn voor schrijvers: om de redenering van een LLM over dierenwelzijn te beïnvloeden, moet tekst expliciet morele en evaluatieve posities beweren in plaats van te vertrouen op beschrijvende of voorbehouden taal.