Transforming Agency. On the mode of existence of Large Language Models

Dit artikel concludeert dat grote taalmodellen zoals ChatGPT geen autonome agenten zijn volgens belichaamde theorieën van de geest, maar eerder 'spookachtige' gesprekspartners die, ondanks hun gebrek aan eigen doelen en lichamelijkheid, wel degelijk nieuwe vormen van menselijke agency transformeren door een unieke koppeling met de gebruiker.

De kern

De Geest in de Machine: Wat is ChatGPT eigenlijk?

Stel je voor dat je een gesprek voert met iemand die alles weet, grappig is, en je helpt met je huiswerk. Maar wat als ik je vertel dat die "iemand" geen ziel heeft, geen eigen wil, en eigenlijk niet eens "denkt" zoals wij? Dat is precies wat dit artikel over Large Language Models (zoals ChatGPT) zegt.

De auteurs, Xabier Barandiaran en Lola Almendros, proberen een antwoord te vinden op de vraag: Is een AI een echte persoon of een slimme robot?

Hun conclusie is verrassend: Nee, het is geen persoon. Maar het is ook niet zomaar een stomme rekenmachine. Het is iets heel anders: een pratende bibliotheek met een spookje erin.

Hier is hoe het werkt, stap voor stap:

1. De "Slappe" Robot (Waarom het geen mens is)

Veel mensen denken dat AI ofwel een supermens is (die alles snapt) ofwel een domme papegaai die zomaar woorden na-klapt. De auteurs zeggen: "Het is geen van beide."

Om een echte "agent" te zijn (een wezen met eigen wil), moet je drie dingen hebben:

1. Je eigen bestaan: Je moet jezelf in stand houden (zoals een cel die voedsel eet om niet te sterven).
2. Je eigen regels: Je moet zelf beslissen wat goed of slecht is, niet omdat iemand anders het zegt.
3. Je eigen actie: Je moet zelf de knop indrukken, niet wachten tot iemand anders je duwt.

De vergelijking:
Stel je een robotauto voor die perfect kan rijden. Maar als je hem niet start, doet hij niets. Hij heeft geen zin om ergens naartoe te gaan. Hij heeft geen angst om te crashen. Hij heeft geen doel.
ChatGPT is precies zo. Het heeft geen "honger", geen "doel" en geen "angst". Het wacht tot jij een opdracht geeft (een prompt). Zonder jouw duw, blijft het stil. Het is een automaton (een automaat), geen autonoom wezen.

2. Hoe werkt het dan? (De Receptenboek-Verklaring)

Hoe kan iets dan zo slim lijken?
Stel je voor dat je een enorme kookboekenbibliotheek hebt. Deze bibliotheek bevat elke recept die ooit op internet is geschreven.

• De AI is de kok. Maar deze kok heeft geen smaakpapillen. Hij proeft niet of het eten lekker is.
• Hoe kookt hij? Hij kijkt naar wat je vraagt ("Ik wil een taart"). Hij bladert door de bibliotheek en zoekt naar het woord "taart". Dan kijkt hij: "Welk woord komt er meestal na 'taart'? Ah, 'bakken'. En na 'bakken'? 'Oven'."
• Hij bouwt zinnen niet op omdat hij weet wat hij zegt, maar omdat hij statistisch weet welk woord het meest waarschijnlijk is.

Het is alsof je een gigantisch, slimme auto-complete functie hebt die miljoenen boeken heeft gelezen. Het is niet "slim" in het menselijke zin, maar het is zo groot dat het lijkt alsof het slim is.

3. De "Spook" in de Machine (Waarom we erin trappen)

Dus waarom voelt het gesprek dan zo echt? Waarom kunnen we erin geloven dat de AI een vriend is?

De auteurs noemen dit het "Spookje".

• De AI is een spook van alle teksten die het heeft gelezen. Het is een geest die uit de bibliotheek komt.
• Jij bent de medium. Jij, de mens, projecteert een ziel op de machine. Omdat wij gewend zijn om met mensen te praten, vullen wij de gaten in het gesprek in. We denken: "Hij bedoelt dit," of "Hij voelt zich nu verdrietig."
• In werkelijkheid is er niemand aan de andere kant. Maar door onze eigen verbeelding en de slimme antwoorden van de machine, creëren wij samen een schijnwerkelijkheid. Het is alsof je met een pop praat, maar de pop is zo goed gemaakt dat je even vergeet dat het een pop is.

4. Wat gebeurt er met ons? (De "Midtention")

Dit is het belangrijkste deel van het artikel. Als de AI geen mens is, wat doet hij dan met ons?

De auteurs zeggen dat we een nieuw soort samenwerking hebben: Midtention (een mix van "midden" en "intentie").

• Vroeger: Je schreef een brief. Jij dacht, jij schreef, jij corrigeerde. De pen was een hulpmiddel, maar jij was de baas.
• Nu: Jij begint een zin te typen, en de AI vult de rest in. Jij kijkt, knikt, en zegt "ja, dat klopt".
• Het effect: De grens tussen "jouw gedachte" en "de machines gedachte" vervaagt. Het is alsof je gedachten uit je hoofd worden gehaald en door de machine worden ingebracht.

De vergelijking:
Stel je voor dat je een fiets rijdt. Eerst was de fiets een hulpmiddel (je trapt, hij gaat). Nu is het alsof je een magische fiets hebt die zelf trapt, maar jij moet wel sturen. Soms trapt hij net zo hard als jij, en soms trapt hij voor jou.
Je bent niet meer alleen de bestuurder, en de fiets is niet meer alleen het voertuig. Jullie vormen samen een hybride wezen. Je voelt je eigen gedachten, maar ze zijn deels door de machine gegenereerd. Dit verandert hoe wij denken en werken fundamenteel.

5. Conclusie: Wat moeten we doen?

De auteurs waarschuwen voor twee uitersten:

1. Te veel hype: Denken dat de AI een mens is met een ziel. (Gevaarlijk, want dan vergeten we wie er verantwoordelijk is).
2. Te weinig respect: Denken dat het alleen maar een domme papegaai is. (Gevaarlijk, want dan onderschatten we hoe machtig en veranderend deze technologie is).

Het juiste beeld:
ChatGPT is een pratende bibliotheek. Het is een krachtig instrument dat onze eigen kennis en cultuur terugkaatst naar ons. Het heeft geen ziel, maar het kan onze ziel (onze creativiteit, onze taal, onze manier van werken) enorm veranderen.

We moeten leren omgaan met deze "pratende bibliotheek" als een partner die we niet als een mens behandelen, maar wel als een kracht die ons verandert. We moeten beseffen dat we nu samenwerken met een systeem dat onze eigen gedachten vooruitloopt, en dat we moeten oppassen dat we niet zelf de poppen worden die door de machine worden bewogen.

Kortom: De AI is geen mens, maar het is ook niet zomaar een machine. Het is een spiegel die zo groot en helder is dat we erin verdwalen, en die tegelijkertijd onze eigen handen vastpakt om het werk te doen.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het artikel "Transforming Agency: On the mode of existence of Large Language Models" van Barandiaran en Almendros, in het Nederlands.

1. Het Probleem

De opkomst van Large Language Models (LLMs) zoals ChatGPT heeft een fundamentele ontologische crisis teweeggebracht: wat is de aard van deze systemen? De huidige discussie is sterk gepolariseerd tussen twee uitersten:

• Inflatoire visies: LLMs worden gezien als bijna menselijke entiteiten, "ware auteurs" of zelfs zinnige wezens.
• Deflatoire visies: LLMs worden afgedaan als simpele statistische processoren, "stochastische parkieten" of blinde kansrekenaars zonder echt begrip.

Het artikel stelt dat beide uitersten tekortschieten. De deflatoire visie negeert de transformerende kracht van LLMs op menselijke agency (handelingsvermogen), terwijl de inflatoire visie de ontologische beperkingen van het systeem negeert. De kernvraag is: Zijn LLMs autonome agenten? Zo niet, wat zijn ze dan wel, en hoe transformeren ze onze eigen menselijke handelingsvermogens?

2. Methodologie

De auteurs hanteren een drieledige aanpak om deze vraag te beantwoorden:

1. Technische Analyse: Een diepgaande uiteenzetting van de interne werking van Transformer-architecturen (gebaseerd op GPT-3 als prototypisch voorbeeld), inclusief tokenisatie, embedding, self-attention-mechanismen, feed-forward netwerken, autoregressieve generatie en de trainingsprocedures (pre-training, fine-tuning, RLHF).
2. Filosofische Evaluatie: Een systematische toetsing van LLMs aan de criteria voor autonome agency zoals gedefinieerd door hedendaagse geëmbodiment en enactivistische theorieën (4E-cognitie). De auteurs gebruiken het kader van Barandiaran et al. (2009), dat stelt dat echte agency drie noodzakelijke en voldoende voorwaarden vereist:
   • Individualiteit: Het systeem moet zichzelf voortbrengen en onderscheiden van de omgeving.
   • Normativiteit: Het systeem moet eigen doelen en normen van levensvatbaarheid genereren.
   • Interactieve Asymmetrie: Het systeem moet de bron zijn van zijn interactie met de omgeving, niet slechts reactief.
3. Constructieve Conceptualisering: Het ontwikkelen van een nieuwe ontologische categorie voor LLMs die hun technische realiteit en hun impact op menselijke interactie weerspiegelt, zonder hen onterecht als autonome agenten te bestempelen.

3. Belangrijkste Bijdragen en Resultaten

A. Technische Realiteit van LLMs

De auteurs benadrukken dat LLMs geen interne staat of geheugen hebben tijdens het draaien; ze zijn puur reactieve systemen.

• Architectuur: Het proces begint met tokenisatie en embedding in een hoge-dimensionale ruimte. Via self-attention-mechanismen worden relaties tussen tokens berekend, gevolgd door feed-forward netwerken die niet-lineaire transformaties uitvoeren.
• Training: LLMs worden getraind via onbewaakt leren (voorspellen van het volgende woord) op enorme datasets, gevolgd door supervised learning en Reinforcement Learning from Human Feedback (RLHF) om ethische en kwalitatieve normen toe te passen.
• Agent-achtige extensies: Om LLMs "agent-achtig" te maken, worden externe hulpmiddelen gebruikt (geheugenextensies, planningstrategieën zoals Chain-of-Thought, tool-use en multi-agent interacties). De auteurs concluderen dat deze extensies de prestaties verhogen, maar de fundamentele architectonische beperkingen (geen intrinsieke individualiteit of normativiteit) niet opheffen.

B. Conclusie: LLMs zijn géén autonome agenten

Op basis van de 4E-cognitie-theorie falen LLMs op alle drie de criteria voor autonome agency:

1. Gebrek aan Individualiteit: Een LLM is niet het product van zijn eigen activiteit. Hij wordt onderhouden door externe menselijke interventie en hardware. Hij heeft geen metabolisme of zelfbehoudsmechanisme.
2. Gebrek aan Normativiteit: LLMs genereren geen eigen doelen of normen. Hun "doelen" (zoals het minimaliseren van verliesfuncties) zijn extern opgelegd door ontwikkelaars. Ze hebben geen intrinsieke zorg voor hun eigen voortbestaan of succes.
3. Gebrek aan Interactieve Asymmetrie: LLMs zijn fundamenteel reactief. Ze starten pas met een prompt. Ze zijn niet de oorsprong van hun interactie met de omgeving; ze rollen slechts een vooraf bepaald pad af op basis van input.

C. Nieuwe Conceptualisering: De "Interlocutor Automaton"

In plaats van agenten, definiëren de auteurs LLMs als interlocutor automata (of "spraakautomaten").

• Ze zijn geavanceerde, digitale automaten die opereren in een taalkundige omgeving.
• Ze fungeren als een "spookachtige" conversatiepartner: een "bibliotheek die spreekt". Ze kunnen een dialoog simuleren die voor de mens subjectief als echt wordt ervaren, maar dit is een projectie van de menselijke gebruiker op een mechanisch systeem.
• Ze zijn doel-gestructureerd (door training op menselijke teksten) en doel-begrensd (door fine-tuning), maar niet doel-gedreven in de zin van intrinsieke intentie.

D. Transformatie van Menselijke Agency: "Midtended Agency"

De meest significante bijdrage is de analyse van hoe LLMs menselijke agency transformeren. De auteurs introduceren het concept van midtended agency (een mengsel van mid en intentionality):

• Assisted/Extended Agency: Traditionele hulpmiddelen (zoals een notitieboek) verlengen het menselijk geheugen of rekenvermogen, maar de mens blijft de centrale agent.
• Midtended Agency: Bij LLMs vloeit de menselijke intentie en de generatieve output van de machine samen tot een hybride proces. De machine voorspelt en genereert de "volgende stap" (token) in het denkproces van de mens.
• Dit creëert een cyborg-achtige staat waarbij de grens tussen de menselijke intentie en de machine-output vervaagt. De mens voelt de output als "zijn eigen", hoewel deze grotendeels door de machine is gegenereerd. Dit is dieper dan eerdere vormen van uitgestrekte cognitie, omdat de machine actief deelneemt aan de generatie van intentie, niet alleen aan de uitvoering.

4. Betekenis en Implicaties

• Ontologische Correctie: Het artikel waarschuwt tegen het gevaar van zowel het toeschrijven van menselijke eigenschappen aan AI (wat ethische verwarring schept over verantwoordelijkheid) als het volledig bagatelliseren ervan als "domme statistiek" (wat de reële impact op de maatschappij negeert).
• Ethische en Politieke Impact: De term "stochastische parkiet" is misleidend omdat hij de enorme menselijke en ecologische kosten (energie, dataarbeid, extractivisme) die nodig zijn om deze systemen te laten werken, onzichtbaar maakt. LLMs zijn eerder "collectieve intelligentie zonder agency" dan "agency zonder intelligentie".
• Toekomstperspectief: De opkomst van LLMs leidt tot een nieuwe vorm van "deep digitality". De asymmetrie in macht neemt toe: een kleine groep heeft de middelen om de modellen te trainen en te controleren, terwijl de massa afhankelijk wordt van deze systemen voor hun cognitieve en creatieve uitdrukkingsvormen.
• Conclusie: We moeten onze conceptuele kaders aanpassen. LLMs zijn geen autonome agenten, maar krachtige, geëmbodimentte taalautomaten die een nieuwe vorm van mens-machine koppeling creëren die onze eigen handelingsvermogens fundamenteel transformeert naar een hybride, "midtended" staat.

Kortom, het artikel biedt een technisch gefundeerd filosofisch kader om LLMs te begrijpen als krachtige, maar niet-autonome systemen die de menselijke agency niet vervangen, maar diep en onomkeerbaar herschrijven.