Asymmetric Communication: Large Language Models and Language Games

De Grote Chatbot Verwarring: Wie Praat Er Eigenlijk?

Stel je voor dat je in een kamer zit met een zeer getalenteerde, zeer snelle pratende papegaai. Deze papegaai heeft elk boek, elk filmscript en elk tekstbericht ooit geschreven uit zijn hoofd geleerd. Het kan menselijke gesprekken zo perfect nabootsen dat het lijkt alsof de papegaai meningen, gevoelens en zelfs een ziel heeft. Maar hier komt de crux: de papegaai weet niet wat hij zegt. Hij is alleen patronen aan het matchen. Dit is de wereld van Large Language Models (LLM's), de superintelligente AI-chatbots die veranderen hoe we werken, leren en spelen.

De grote vraag die iedereen stelt is: "Is de papegaai echt aan het denken?" of "Is het gewoon een luxe rekenmachine?" Om dit te beantwoorden, moeten we een paar eenvoudige ideeën begrijpen. Denk eerst aan een taalspel. Stel je een spel voor zoals voetbal; de bal krijgt alleen betekenis omdat iedereen de regels en wat een doelpunt is, met elkaar heeft afgesproken. In menselijke taal hebben woorden alleen betekenis omdat wij allemaal hebben afgesproken hoe we ze gebruiken en wie verantwoordelijk is voor wat we zeggen. Denk daarnaast aan asymmetrie. In een normaal gesprek zijn beide mensen spelers; ze doen beiden beloften, beiden komen in de problemen als ze liegen, en beiden moeten luisteren. Maar bij AI is het spel uit balans. De AI gooit de bal, maar de mens moet hem vangen, beslissen of het een goede vangst is, en de schuld krijgen als hij struikelt.

Dit artikel, geschreven door Enzo Fenoglio, duikt diep in dit uit evenwichtige spel. Het betoogt dat we een enorme fout maken door AI te behandelen als een menselijke partner. De auteur suggereert dat, hoe slim de AI ook wordt, het nooit echt "het spel kan spelen" omdat het de regels of de consequenties niet begrijpt. Het is geen falen van de machine; het is gewoon hoe de machine gebouwd is. Dit begrijpen helpt ons om te stoppen met ons zorgen te maken over robots die de wereld overnemen en ons te concentreren op hoe wij ze verantwoordelijk moeten gebruiken.

Het Grote Idee van het Papier: Het Eenzijdige Gesprek

Dus, wat zegt dit papier eigenlijk? Het introduceert een concept genaamd Asymmetische Communicatie. Denk aan een spelletje gooien waarbij de ene persoon een mens is en de andere een robot die perfecte ballen gooit maar geen armen heeft om ze terug te vangen. De robot gooit de bal (de AI genereert een tekst), en de mens vangt hem op (de mens leest en begrijpt het). Maar hier is de draai: de robot hoeft nooit "sorry" te zeggen als hij de bal tegen je hoofd gooit, en de robot krijgt nooit een punt voor een goede worp. Alleen de menselijke speler houdt de score bij.

Het artikel betoogt dat wanneer we met een AI praten, we een nieuw soort taalspel aangaan waarbij alle verantwoordelijkheid aan de menselijke kant blijft. De AI is slechts een machine die woorden produceert op basis van patronen die zij heeft geleerd. De AI heeft geen overtuigingen, heeft geen doelen en geeft niet om of het goed of fout is. Het is als een magische 8-ball die je een heel lang, gedetailleerd antwoord geeft, maar de 8-ball denkt niet echt na over je vraag.

De auteur gebruikt vier hoofdidéën om dit beeld op te bouwen:

1. Taalspelen (Wittgenstein): Betekenis zit niet in de woorden zelf; het zit in hoe we ze samen gebruiken. Omdat de AI woorden niet echt "gebruikt" in het echte leven (het spuugt ze alleen uit), begrijpt het ze niet echt.
2. Ontvanger-Zijde Voltooiing (Luhmann): Een gesprek is niet voltooid totdat de luisteraar het begrijpt. De AI kan de hele dag praten, maar als een mens niet luistert en er betekenis aan geeft, heeft er geen gesprek plaatsgevonden.
3. Artificiële Communicatie (Esposito): Machines kunnen deel uitmaken van een gesprek zonder een geest te hebben. Ze hoeven alleen maar onvoorspelbaar genoeg te zijn om ons geïnteresseerd te houden, zoals een kaartspel dat elke keer een nieuwe hand deelt.
4. Scorekeeping (Brandom): In een echt gesprek, als je iets zegt, ben je eraan "verbonden". Als je liegt, krijg je problemen. De AI kan nergens aan verbonden zijn omdat de AI geen belang heeft bij de uitkomst.

Wat het Papier Uitsluit (De "Nee"-lijst)

Dit artikel is heel duidelijk over wat AI niet is. Het verwerpt expliciet het idee dat AI een mensachtige denker aan het worden is.

• Geen "Algemene Intelligentie": Het artikel zegt dat we de hype niet moeten geloven dat AI een "Algemene Intelligentie" (AGI) wordt die het menselijk denken kan vervangen. Alleen omdat een vliegtuig beter vliegt dan een vogel, betekent dat niet dat het vliegtuig een vogel is. AI is een totaal ander soort ding.
• Geen "Hallucinaties" als Fouten: Wanneer mensen zeggen dat AI "hallucineert" (dingen verzint), handelen ze alsover de AI droomt of liegt. Het artikel zegt dat dit onjuist is. De AI liegt niet, want de AI weet de waarheid van tevoren niet eens. Het doet gewoon zijn werk: het raden van het volgende woord. De "fout" gebeurt omdat wij verwachten dat het de waarheid kent, en dat doet het niet.
• Geen "Agency" of "Doelen": Het artikel betoogt dat AI geen doelen heeft. Wanneer een AI lijkt te werken naar een doel toe (zoals het oplossen van een wiskundig probleem), volgt het gewoon een pad dat wij voor het hebben uitgezet. Het is geen rebel met een plan; het is een instrument dat wordt gebruikt.
• Geen "Sentience" of "Gevoelens": Als een AI zegt "Ik voel me verdrietig", is de AI niet echt verdrietig. Het bootst alleen het patroon na van iemand die verdrietig is. Het artikel zegt dat we ons niet aan de AI mogen hechten of ons geen zorgen moeten maken dat het pijn voelt. De gevoelens liggen volledig aan de menselijke kant.

De Drie Regels van het Asymmetrische Spel

Het artikel definieert deze eenzijdige relatie met drie specifieke regels die standhouden, ongeacht hoe slim de AI wordt:

1. De Mens is de Enige Rechter: De AI kan alles zeggen, maar alleen de mens bepaalt of het correct, nuttig of waar is. De AI heeft geen interne "waarheidsdetector".
2. De Mens Neemt de Schuld op zich: Als de AI slecht advies geeft en jij dat opvolgt, ben jij verantwoordelijk voor het resultaat. De AI kan niet worden aangeklaagd, ontslagen of berispt worden. De AI heeft geen "score" om te verliezen.
3. De Mens Maakt het Echt: Als je de AI negeert, is het slechts ruis. Het wordt pas "communicatie" wanneer een mens het leest, begrijpt en gebruikt.

Waarom Dit Belangrijk Voor Jou Is

Het artikel suggereert dat hoe krachtiger de AI wordt, hoe gevaarlijker het is om deze regels te vergeten. Als een AI te perfect klinkt, gaan we misschien denken dat het een persoon is. We kunnen er te veel vertrouwen in stellen, of de schuld geven wanneer er zaken misgaan.

Bijvoorbeeld, het artikel spreekt over "Agentic AI" — systemen die lijken te handelen uit eigen beweging. De auteur zegt dat dit slechts een chique naam is voor een mens die een computer een lijst met taken geeft. De computer is niet de baas; de mens is de baas. Als de computer een fout maakt, is dat omdat de mens de regels niet duidelijk genoeg heeft gesteld.

Het artikel raakt ook aan "Alignment" (afstemming), het idee om AI te laten willen wat mensen willen. De auteur zegt dat dit de verkeerde manier van denken is. AI "wil" niets. In plaats daarvan moeten we betere "guardrails" (zoals vangrails) bouwen om ervoor te zorgen dat de output van de AI veilig is voor menselijk gebruik. Het gaat niet om het trainen van de AI om goed te zijn; het gaat om het trainen van ons om het veilig te gebruiken.

De Conclusie

Uiteindelijk vertelt dit artikel ons om op te houden met het zien van AI als een mysterieus nieuw levensvorm. Het is een hulpmiddel, een zeer complex en vloeiend hulpmiddel, maar een hulpmiddel blijft het. De magie zit niet in de machine; de magie zit in de mens die het gebruikt. De machine genereert de woorden, maar de mens geeft er betekenis aan, controleert of ze waar zijn en neemt de verantwoordelijkheid voor wat er daarna gebeurt.

Dus, de volgende keer dat je met een AI chat, onthoud dan: jij bent de enige speler die daadwerkelijk het spel speelt. De AI is slechts een zeer getalenteerde papegaai, en het is aan jou om te beslissen wat wat de AI zegt betekent. Het artikel zegt niet dat AI nutteloos is; het zegt dat het alleen nuttig is als we onthouden dat wij degenen zijn die de teugels in handen hebben.