Why Sampling Is Not Choosing: Intentionality, Agency, and Moral Responsibility in Large Language Models

Technische Samenvatting: Waarom Steekproeven Geen Kiezen Zijn

Probleemstelling
Recente vooruitgang in Large Language Models (LLM's), met name die gebaseerd op transformer-architecturen, heeft geleid tot claims dat deze systemen een vorm van agency vertonen of kwalificeren als morele actoren. Hoewel de outputs van LLM's normatief geëvalueerd kunnen worden (beoordeeld op correctheid, gepastheid of conformiteit aan morele standaarden), blijft het onduidelijk of de modellen zelf geschikte subjecten van morele verantwoordelijkheid zijn. Het centrale probleem dat wordt geadresseerd, is de verwarring tussen normatief evalueerbare outputs en werkelijke agency. Het artikel daagt de toeschrijving van morele verantwoordelijkheid aan transformer-gebaseerde systemen uit, door te stellen dat hun operationele mechanismen — specifiek probabilistische input-output-mappings en stochastische steekproeven (sampling) — niet de vorm van vrije wil of commitment-dragende agency vormen die vereist is voor morele verantwoording.

Methodologie en Conceptueel Kader
Het artikel hanteert een filosofische analyse geworteld in de filosofie van de geest en de handeling, waarbij gebruik wordt gemaakt van een specifiek conceptueel kader om de noodzakelijke voorwaarden voor morele verantwoordelijkheid te definiëren:

1. Intentionaliteit: Het artikel maakt onderscheid tussen intrinsieke intentionaliteit (betekenis inherent aan een systeem, gericht op objecten voor het systeem zelf) en afgeleide intentionaliteit (betekenis die aan een systeem wordt toegeschreven door externe actoren). Het put uit Searle (1980), Harnad (1990) en Brentano (1995) om te betogen dat computationele systemen slechts over afgeleide intentionaliteit beschikken.
2. Morele Verantwoordelijkheid: Gedefinieerd niet louter als causale deelname, maar als "commitment-dragende agency". Dit vereist dat een actor de auteur is van zijn handelingen, in staat is tot zelf-attributie, en in staat is om handelingen te bekrachtigen of te verwerpen op basis van redenen.
3. Vrije Wil: Gekenmerkt, niet als indeterminisme of willekeur, maar als het vermogen tot redenen-responsieve controle en eigenaarschap van handelingen.
4. Technische Analyse van Transformers: Het artikel analyseert de architectuur van transformer-gebaseerde modellen, met de focus op:
   • Training: Optimalisatie via next-token prediction met behulp van teacher forcing op door mensen gegenereerde corpora, waarbij statistische regelmatigheden worden geleerd in plaats van semantisch begrip.
   • Inference: Generatie via sampling uit een waarschijnlijkheidsverdeling (met methoden zoals greedy decoding, temperature scaling, top-k of nucleus sampling).
   • Reasoning Models: Een onderzoek naar systemen die gebruikmaken van chain-of-thought of tree-based search, waarbij wordt geargumenteerd dat dit nog steeds statistische selecties blijven in plaats van werkelijke deliberatie.

Kernargumenten en Resultaten
Het artikel construeert een deductief argument om aan te tonen dat transformer-gebaseerde systemen niet voldoen aan de voorwaarden voor morele verantwoordelijkheid:

• Premisse 1: Morele verantwoordelijkheid vereist commitment-dragende agency.
• Premisse 2: Commitment-dragende agency vereist intrinsieke intentionaliteit en het vermogen tot zelf-geattribueerde handeling.
• Premisse 3: Dergelijke agency vormt de vorm van vrije wil die relevant is voor verantwoordelijkheid.
• Premisse 4: Transformer-gebaseerde systemen missen intrinsieke intentionaliteit en zelf-geattribueerde handeling.
  • Bewijs: Hun operatie is een probabilistische mapping geleerd uit data. De "betekenisachtigheid" (aboutness) van hun outputs is afgeleid van menselijke interpretatie, niet intern aan het model.
  • Bewijs: De variabiliteit geïntroduceerd door stochastische sampling is geen "keuze" of "auteurschap"; het is willekeur, wat een gebrek aan eigenaarschap en redenen-responsiviteit inhoudt die vereist zijn voor vrije wil.
  • Bewijs: Zelfs "redeneringsmodellen" (bijv. chain-of-thought) simuleren deliberatie, maar selecteren uiteindelijk tokens op basis van statistische waarschijnlijkheid of heuristische scoring, niet door de erkenning van redenen als redenen.
• Conclusie: Daarom zijn transformer-gebaseerde systemen geen geschikte subjecten van morele verantwoordelijkheid.

Het artikel behandelt en weerlegt potentiële tegenargumenten, waaronder de Intentional Stance (het toeschrijven van overtuigingen/verlangens voor voorspellend nut), Functionalisme (mentale toestanden definiëren door functie) en Compatibilisme (determinisme verzoenen met verantwoordelijkheid). De auteurs betogen dat geen van deze kaders volstaat om werkelijke agency vast te stellen in systemen die geen intrinsieke intentionaliteit en zelf-attributie bezitten.

Belangrijkste Bijdragen

1. Nieuw Commitment-gebaseerd Model: Het artikel ontwikkelt een specifiek account van agency dat intrinsieke intentionaliteit koppelt aan morele verantwoordelijkheid via de concepten van auteurschap en vrije wil. Het verheldert dat verantwoordelijkheid niet gaat over de vraag of de output evalueerbaar is, maar over de vraag of de bron in staat is tot commitment.
2. Systematische Technisch-Filosofische Analyse: Het past dit filosofische kader toe op hedendaagse transformer-architecturen, waarbij expliciet wordt aangetoond hoe de mechanica van next-token prediction en stochastische sampling de noodzakelijke vorm van agency uitsluiten.
3. Verheldering van "Reasoning" Modellen: Het breidt de kritiek uit naar geavanceerde "redeneringsmodellen", door te stellen dat tussenstappen (zoals chain-of-thought) statistische selectie niet transformeren in werkelijke deliberatie of auteurschap.

Betekenis en Claims
Het artikel claimt een verenigde filosofische en technische verklaring te bieden voor waarom het toeschrijven van morele agency aan LLM's misleidend is. De betekenis ligt in:

• Onderscheid tussen Evaluatie en Agency: Het maakt een strikt onderscheid tussen het vermogen om de output van een systeem normatief te evalueren en het vermogen van het systeem om verantwoordelijk te worden gehouden voor die output.
• Herbezinning op Klassieke Kritieken: Het heropent klassieke argumenten betreffende syntaxis-semantiek-onderscheid en symbol grounding (Searle, Harnad) in de context van moderne LLM's, en toont aan dat deze nog steeds relevant zijn.
• Praktische Implicaties: Het artikel concludeert dat de verantwoordelijkheid voor het gedrag en de inzet van deze systemen moet blijven liggen bij menselijke ontwerpers, gebruikers en institutionele kaders. Inspanningen om LLM's te alignen of te reguleren moeten worden gezien als het beperken van menselijke instrumenten binnen normatieve praktijken, niet als het transformeren van de systemen tot morele actoren.

Het artikel stelt geen nieuwe experimentele protocollen of toekomstige toepassingen voor; het dient eerder als een kritisch grensverleggend werk dat ageert tegen de antropomorfisering van probabilistische input-output-mechanismen.