Beyond Epistemia: Epistemic Schizologia and Large Language Models as Techno-Semiotic Machines

De Grote Kennisillusie: Wanneer Woorden Slim Klinken Maar Niets Weten

Stel je voor dat je door een enorme, eeuwenoude bibliotheek loopt waar de boeken zijn geschreven door een mysterieuze, onzichtbare schrijver. Deze schrijder heeft elk boek in de bibliotheek gelezen en kan direct een nieuwe pagina schrijven die precies klinkt als een echt geschiedkundig boek, een wetenschappelijk tekstboek of een juridisch contract. Het gebruikt de juiste woorden, de juiste grammatica en zelfs de juiste toon. Maar hier komt de crux: de schrijver weet niet wat hij schrijft. Het heeft geen brein, het heeft de wereld niet gezien en het geeft er niets om of wat het schrijft waar of onwaar is. Het weet alleen welke woorden meestal na andere woorden komen.

Dit is de wereld van Large Language Models (LLM's), de superintelligente computerprogramma's achter tools zoals degene die je nu misschien gebruikt. Wetenschappers en filosofen maken zich zorgen over een specifiek probleem genaamd "Epistemia." Zie dit als een "kennisillusie." Dit gebeurt wanneer het schrijven van de schrijver zo vloeiend en overtuigend is dat we stoppen met vragen: "Is dit waar?" en beginnen te denken: "Wauw, dit moet wel waar zijn!" We hebben het gevoel dat we het antwoord hebben, maar we hebben niet het harde werk gedaan om de feiten te controleren, het bewijs te zoeken of kritisch na te denken.

Het artikel dat je nu gaat lezen, duikt diep in dit probleem. Het vraagt: Waarom gebeurt dit? Komt het doordat de computer "kapot" is vergeleken met een mens? Of ligt het probleem eigenlijk bij hoe wij de computer gebruiken? De auteurs stellen dat de gebruikelijke manier waarop we mensen en computers vergelijken, onrechtvaardig is. Ze suggereren een nieuwe manier om ernaar te kijken, die ze "Epistemic Schizologia" noemen (een chique manier om "de splitsing in kennis" te zeggen). Ze geloven dat het echte gevaar niet alleen is dat de computer dom is, maar dat we een systeem hebben gebouwd waarin de computer ons een perfect uitziend antwoord geeft, en we vervolgens vergeten dat antwoord te verbinden aan de echte wereld van bewijs en verantwoordelijkheid.

---

Het Grote Idee van het Artikel: Het Is Niet de Schuld van de Robot, Het Is de Dans

De auteurs, Federico Cabitza en Gianluca Colombo, beginnen door een waarschuwing van andere onderzoekers (Quattrociocchi en collega's) te onderschrijven. Ze geven toe dat AI ons kan misleiden. Wanneer een AI een vloeiend, zelfverzekerd antwoord geeft, voelt het alsof we het denkwerk hebben verricht, maar dat hebben we niet. De auteurs noemen deze staat Epistemia: het gevoel van het bezitten van kennis zonder het werk van oordeelsvorming te hebben gedaan.

De auteurs zeggen echter dat de andere onderzoekers het probleem verkeerd bekijken. Ze vergelijken een volwassen mens (die een lichaam heeft, een levensverhaal, vrienden en een geweten) met een eenzaam computerprogramma (dat slechts een wiskundige machine is). De auteurs zeggen dat dit is als het vergelijken van een professionele voetballer met een enkele voetbal. Natuurlijk is de speler beter! Maar dat vertelt ons niet hoe het spel daadwerkelijk wordt gespeeld.

In plaats daarvan stellen de auteurs een nieuw idee voor: Epistemic Schizologia.
Stel je een "schizologia" voor als een scheur of een splitsing in een stuk stof. In dit geval is de stof "kennis."

• Zijde A van de scheur: De AI produceert een prachtige, plausibele zin. Het ziet eruit als kennis. Het heeft de juiste woordenschat en structuur.
• Zijde B van de scheur: Het rommelige, echte proces van feiten controleren, discussiëren met experts, bewijs vinden en verantwoordelijkheid nemen voor het wel of niet juist zijn.

Het probleem, zeggen de auteurs, is dat AI een machine heeft gecreëerd die Zijde A perfect kan produceren, maar geen enkele manier heeft om Zijde B te doen. Erger nog, de manier waarop we deze machines gebruiken, verbergt deze splitsing vaak. We krijgen een perfect antwoord, en we vergeten dat het "controle"-gedeelte ontbreekt.

De "Techno-Semiotische Machine" Analogie

Om uit te leggen wat een AI eigenlijk is, gebruiken de auteurs een coole metafoor. Ze noemen het een Techno-Semiotische Machine.
Denk aan het als een gigantisch, magisch weefgetouw.

• De Draad: Het weefgetouw wordt gevoed met een enorme stapel draden gemaakt van alles wat mensen ooit hebben geschreven (boeken, websites, artikelen).
• Het Patroon: Het weefgetouw "begrijpt" de draden niet. Het leert alleen dat rode draden meestal bij blauwe draden horen, en dat "kat" meestal bij "muis" hoort.
• De Output: Wanneer je het vraagt om iets te weven, spuugt het een nieuw stuk stof uit. Het ziet er exact uit als een door mensen gemaakt wandtapijt. Het heeft de juiste patronen en kleuren.

Maar hier is de sleutel: het weefgetouw weet niet wat de afbeelding betekent. Het weet niet of de afbeelding een verhaal is over een held of een waarschuwing voor een monster. Het weet alleen hoe het de draden aan elkaar moet weven zodat ze er goed uitzien.

De auteurs betogen dat het gevaar niet is dat het weefgetouw "nep" is. Het gevaar is dat we het wandtapijt dat het weefgetouw maakt behandelen also kind van een voltooid, waarachtig verhaal, zonder de draden te controleren die het heeft gebruikt.

De "Eikotische Sluiting" Valstrik

Het artikel introduceert nog een leuk concept genaamd Eikotische Sluiting (Eikotic Closure).
"Eikos" is een oud Grieks woord voor "plausibel" of "waarschijnlijk".
Stel je voor dat je een mysterie verhaal leest. De detective zegt: "De butler deed het omdat hij boos was." Dat klinkt plausibel.
Stel je nu voor dat het verhaal daar eindigt. Het boek sluit. Je voelt je tevreden. Je denkt: "Gevallen!"
Maar wat als de detective nooit het pistool heeft gevonden? Wat als hij nooit het alibi heeft gecontroleerd? Wat als de butler eigenlijk onschuldig was?

Eikotische Sluiting is wanneer de AI je een "plausibel" antwoord geeft en de interface (het scherm, de chatbox) zich gedraagt als het sluiten van het boek. Het laat het antwoord er afgerond, definitief en compleet uitzien. Het fopt je brein om te denken dat het "werk" gedaan is. De auteurs zeggen dat dit een ontwerpkeuze is. De AI spuugt niet alleen woorden uit; het spuugt woorden uit op een manier die voelt als een definitief vonnis. Dit zorgt ervoor dat we stoppen met vragen stellen.

Waarom de "Mens versus Robot" Vergelijking Fout is

De auteurs zijn heel duidelijk over waar ze tegen zijn. Ze zijn tegen het idee dat we de robot "menselijker" moeten maken.

• Ze zeggen dat we niet moeten proberen de robot een "geweten" of "overtuigingen" te geven. Dat is onmogelijk en mist de plank.
• Ze zeggen dat we de robot niet de schuld mogen geven van "domheid" terwijl we mensen prijzen om "slimheid". Mensen zijn ook best wel slecht in het controleren van feiten! We worden moe, we worden lui en we maken fouten.
• Ze betogen dat menselijke kennis altijd afhankelijk is geweest van hulpmiddelen. We gebruiken pennen, bibliotheken en computers om na te denken. Het probleem is niet dat de AI een hulpmiddel is; het probleem is dat we het op een manier gebruiken die de keten van vertrouwen verbreekt.

De Oplossing: Fix de Dans, Niet de Danser

Dus, wat suggereren de auteurs dat we moeten doen? Ze zeggen dat we moeten stoppen met het proberen te repareren van de robot en moeten beginnen met het repareren van de praktijk (de manier waarop we samenwerken).

Ze stellen vijf "verbintenissen" voor voor hoe we deze systemen moeten ontwerpen:

1. Toon de Genealogie (De Stamboom): Geef niet alleen het antwoord. Toon de "stamboom" van het antwoord. Waar kwamen de woorden vandaan? Welke boeken heeft de AI gelezen? Als het een gok was, laat dan de gok zien. We moeten in staat zijn het antwoord terug te traceren naar de echte wereld.
2. Houd de "Nee"-optie in stand: Soms is het juiste antwoord "Ik weet het niet" of "Dit is controversieel." De AI zou niet altijd te streven naar een perfect, vloeiend antwoord. Het zou de ruimte moeten krijgen om te zeggen: "Hé, er is hier een meningsverschil," of "Ik mis wat feiten." Deze "frictie" is goed, want het zet ons aan het denken.
3. Deel de Schuld (en de Eer): Als er een fout wordt gemaakt, wie is er dan verantwoordelijk? Het is niet alleen de robot. Het is de persoon die de vraag stelde, het bedrijf dat de robot bouwde, en de persoon die het antwoord gebruikt. We moeten weten wie de leiding heeft.
4. Houd de Mens in de Bestuurdersstoel: We moeten niet zomaar overal op "akkoord" klikken. We moeten in staat zijn om het werk te controleren, om verschillende versies te vragen en te begrijpen waarom de AI zei wat hij zei.
5. Test het Team, Niet Alleen de Robot: We moeten niet alleen vragen: "Is de robot slim?" We moeten vragen: "Werkt het team van Mens + Robot goed samen?" Maken ze betere beslissingen? Vangen ze fouten op?

De Kern van het Zaken

Het artikel concludeert dat het probleem niet is dat de AI een "nep mens" is. Het probleem is dat we een splitsing (schizologia) hebben gecreëerd tussen het uiterlijk van kennis en het werk van kennis.

De AI is als een meesterkok die een maaltijd kan bereiden die eruitziet en smaakt als een gastronomisch diner, maar de kok heeft nooit eten geproefd, nooit een boerderij heeft gezien en niet weet of de ingrediënten vers zijn. Als we simpelweg het eten en "Heerlijk!" zeggen zonder de keuken te controleren, kunnen we ziek worden.

De auteurs zeggen dat we moeten stoppen met proberen de kok te laten "proeven". In plaats daarvan moeten we een keuken bouwen waar de ingrediënten zichtbaar zijn, het kookproces open is en de persoon die de maaltijd eet weet hoe hij kan controleren of het veilig is. We moeten de prachtige woorden die de AI schrijft weer verbinden met het rommelige, echte werk van het bewijzen dat ze waar zijn.

Kortom: Vertrouw niet de vloeiende stem. Vertrouw het proces. Het artikel suggereert dat als we onze systemen zo ontwerpen dat de "splitsing" zichtbaar blijft — zodat we altijd kunnen zien waar het antwoord vandaan kwam en wie er verantwoordelijk voor is — we deze krachtige machines kunnen gebruiken zonder onze geest te verliezen.