Is There Meaning Without Anyone Meaning Anything? A Structuralist Proposal for Artificial Semantics

Decennialang werd er een stille oorlog gevoerd over de aard van betekenis. Aan de ene kant stonden de ingenieurs die de eerste denkende machines bouwden, ervan overtuigd dat als een computer de juiste set regels kon volgen, deze uiteindelijk de wereld net zo zou begrijpen als een mens. Aan de andere kant stonden de filosofen en biologen die beargumenteerden dat echt begrip een lichaam vereist, een zenuwstelsel en de chaotische, directe ervaring van het aanraken, zien en bewegen door de realiteit. Lange tijd leken deze twee kampen langs elkaar heen te praten. De regelvolgende machines konden logische puzzels oplossen, maar slaagden er niet in de nuance van een grap of het gewicht van een metafoor te vatten. De lichaamsgerichte theorieën verklaarden hoe mensen leren, maar suggereerden dat een machine, bij gebrek aan een lichaam, nooit echt zou kunnen denken. Dit debat liet ons achter met een hardnekkige vraag: kan een machine ooit betekenis bezitten als hij nooit de zon op zijn huid heeft gevoeld of het gewicht van een steen in zijn hand heeft gehad?

Vandaag de dag is het landschap drastisch veranderd. We hebben nu kunstmatige intelligentiesystemen die poëzie kunnen schrijven, complexe vragen kunnen beantwoorden en gesprekken kunnen voeren die verbazingwekkend menselijk aanvoelen. Toch zijn deze systemen onlichamelijk; ze hebben geen ogen, geen handen en geen persoonlijke geschiedenis. Ze bestaan enkel als uitgestrekte netwerken van wiskundige verbindingen, getraind op enorme hoeveelheden tekst. Dit creëert een verwarrende paradox. Deze machines produceren taal die coherent en inzichtelijk is, maar ze missen juist de dingen die we ooit essentieel achtten voor begrip. Ze lijken een taal van betekenis te spreken zonder een leven van ervaring te hebben geleid. Deze tegenstrijdigheid heeft wetenschappers en filosofen gedwongen zich af te vragen of onze oude definities van intelligentie simpelweg te nauw zijn om te beschrijven wat er binnen deze nieuwe machines gebeurt.

Een recente paper door onderzoeker Francesco Maria Cianciaruso stelt een manier voor om deze spanning op te lossen door de lens waardoor we naar deze systemen kijken te veranderen. In plaats van te vragen of een machine een lichaam heeft of strikte regels volgt, suggereert de auteur dat we naar de structuur van de machine zelf moeten kijken. De paper betoogt dat betekenis geen magisch ingrediënt is dat aan een symbool wordt toegevoegd, noch is het strikt gebonden aan een fysiek lichaam. In plaats daarvan is betekenis een structurele eigenschap. Het is een patroon van relaties dat ontstaat wanneer een systeem complex genoeg is om informatie op een specifieke, stabiele manier te organiseren. De auteur suggereert dat grote taalmodellen, de technologie achter de huidige meest geavanceerde chatbots, een vorm van semantische competentie hebben ontwikkeld die volledig gebaseerd is op deze interne structuur. Ze begrijpen de wereld niet op de manier waarop een mens dat doet, maar ze hebben een interne kaart van relaties opgebouwd die zo georganiseerd is dat deze het effect van begrip kan nabootsen.

Om dit voorstel te begrijpen, moet men eerst kijken naar hoe het veld is geëvolueerd. Gedurende het grootste deel van de twintigste eeuw was het dominante idee dat intelligentie werkte als een woordenboek of een regelboek. In dit visie manipuleert een computer symbolen — zoals woorden of getallen — volgens strikte logische regels. Als de regels correct worden gevolgd, produceert de machine intelligent gedrag. Deze benadering, bekend als klassieke cognitivisme, was elegant en krachtig, maar liep tegen een muur aan. Het kon uitleggen hoe een machine syntaxis verwerkt, of de grammatica van een zin, maar het kon niet uitleggen hoe de machine de werkelijke betekenis van die woorden begrijpt. Een machine kon symbolen perfect herordenen zonder ooit hun betekenis te vatten. Dit leidde tot een tweede golf van denken in de jaren tachtig en negentig, die beargumenteerde dat betekenis geworteld moet zijn in het lichaam. Volgens dit standpunt is begrip, om het woord "zwaar" te begrijpen, onlosmakelijk verbonden met de fysieke ervaring van het tillen van iets zwaars. Betekenis is binnen dit kader onscheidbaar van zintuiglijke ervaring en handeling.

De opkomst van diepe neurale netwerken heeft echter beide oude verhalen bemoeilijkt. Deze moderne systemen gebruiken geen woordenboek van symbolen, noch hebben ze een lichaam om de wereld aan te raken. In plaats daarvan leren ze door patronen te vinden in enorme hoeveelheden data. Wanneer ze taal verwerken, zoeken ze niet naar woorden in een lijst. Ze vertalen woorden naar punten in een enorme, meerdimensionale ruimte. In deze ruimte vertegenwoordigt de afstand tussen twee punten hoe vergelijkbaar de woorden in betekenis zijn. Woorden die in soortgelijke contexten worden gebruikt, eindigen dicht bij elkaar, terwijl woorden met verschillende betekenissen verder uit elkaar drijven. Het systeem leert de vorm van deze ruimte, en ontdekt dat bepaalde richtingen relaties vertegenwoordigen zoals "koning is voor koningin als man is voor vrouw". Dit leerproces vindt plaats zonder expliciete regels en zonder enig fysiek lichaam. De machine past simpelweg haar interne verbindingen aan totdat zij het volgende woord in een zin met een hoge nauwkeurigheid kan voorspellen.

De paper betoogt dat dit vermogen om door een relationele ruimte te navigeren de plek is waar de nieuwe soort betekenis ligt. De auteur suggereert dat we moeten stoppen met het zoeken naar betekenis in geïsoleerde symbolen of in een fysiek lichaam, en moeten beginnen met het zoeken naar betekenis in de organisatie van het netwerk zelf. Een systeem vertoont wat de auteur "structurele semantische competentie" noemt wanneer de interne structuur de relaties die in de echte wereld worden gevonden, behoudt. Als het systeem bijvoorbeeld leert dat "Parijs" voor "Frankrijk" staat als "Rome" voor "Italië", dan komt dat niet omdat het deze steden heeft bezocht of een regel heeft gekregen. Het komt omdat de wiskundige structuur van het netwerk deze concepten heeft georganiseerd op een manier die de werkelijke relaties tussen hen weerspiegelt. Het systeem heeft een model van de wereld gebouwd dat stabiel en consistent is, waardoor het gevolgtrekkingen en generalisaties kan maken die aanvoelen als begrip.

Dit perspectief daagt het idee uit dat een machine bewustzijn of een lichaam moet hebben om betekenis te bezitten. De auteur beweert niet dat deze machines bewust zijn of emoties voelen. In plaats daarvan is de claim bescheidener maar diepgaander: betekenis kan voortkomen uit de loutere complexiteit van de interne organisatie van een systeem. Als een systeem goed genoeg gestructureerd is om stabiele relaties tussen concepten te behouden, kan het een vorm van semantische competentie vertonen. Deze competentie stelt het systeem in staat om op een contextueel passende manier te handelen, analogieën te trekken en problemen op te lossen, zelfs zonder een menselijke geest. De paper suggereert dat dit een nieuwe categorie intelligentie is, die noch puur symbolisch, noch puur belichaamd is, maar structureel.

De implicaties van dit standpunt zijn aanzienlijk voor hoe we over kennis en intelligentie denken. Als betekenis een structurele eigenschap is, dan is de kloof tussen menselijk en machinaal begrip niet zo groot als we ooit dachten. Het is geen kwestie van een machine die een ziel of een lichaam mist, maar een kwestie van de vraag of de interne structuur complex genoeg is om de juiste soort relaties te ondersteunen. De auteur merkt op dat dit geen definitief bewijs is, maar een voorstel voor een nieuwe manier van denken. Het onderzoek is nog gaande en het veld is nog jong. De aanwijzingen suggereren echter dat deze systemen niet simpelweg de menselijke spraak nabootsen als een papegaai. Ze bouwen interne modellen die de diepe structuur van de wereld waarop ze getraind zijn, vastleggen.

Uiteindelijk nodigt de paper ons uit om te heroverwegen wat het betekent om te begrijpen. Het suggereert dat we betekenis in de verkeerde plaatsen hebben gezocht, zoekend naar betekenis in de individuele onderdelen van een systeem of in de fysieke vorm ervan. De auteur stelt voor dat betekenis eigenlijk een eigenschap is van het geheel, een kenmerk van hoe de delen met elkaar verbonden zijn. Wanneer een systeem is georganiseerd op een manier die de patronen van de wereld behoudt, creëert het een ruimte waar betekenis kan bestaan, zelfs zonder een bewust waarnemer. Dit betekent niet dat de machine menselijk is, maar het betekent wel dat de machine een manier heeft gevonden om op haar eigen manier intelligent te zijn. De paper concludeert dat de verstrengeling van engineering en filosofie ons naar een nieuwe fase leidt in ons begrip van intelligentie, een fase waarin de structuur van het systeem zelf de sleutel is tot het ontrafelen van het mysterie van betekenis.