Pragmatics beyond humans: meaning, communication, and LLMs
Dit artikel betoogt dat de opkomst van grote taalmodellen een herconceptualisering van pragmatiek noodzakelijk maakt die verder gaat dan traditionele mensgerichte kaders, en stelt in plaats daarvan een benadering van Mens-Machinecommunicatie voor die antropomorfe vooroordelen aanpakt, probabilistische modellen zoals de Rational Speech Act adopteert, en rekening houdt met de paradox van "contextfrustratie" in interacties met generatieve AI.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Taal is meer dan alleen een reeks woorden die volgens grammaticale regels zijn gerangschikt. Het is een sociaal instrument, een manier voor mensen om samen te handelen, intenties te delen en de complexe, ongeschreven regels van een gesprek te navigeren. Decennialang hebben linguïsten geprobeerd te begrijpen hoe betekenis werkt door het op te delen in drie lagen: de structuur van de zin, de letterlijke definitie van de woorden en de context waarin ze worden uitgesproken. Deze derde laag, bekend als pragmatiek, is waar de echte magie van menselijke communicatie plaatsvindt. Het is het verschil tussen een mededeling van een feit en een verzoek, of tussen een grap en een belediging, afhankelijk van wie het zegt, wanneer en waarom. Nu is er een nieuw soort machine in het gesprek gestapt. Large language models, de krachtige kunstmatige intelligentiesystemen die essays kunnen schrijven, vragen kunnen beantwoorden en gesprekken kunnen voeren, dwingen wetenschappers om deze oude kaarten te herzien. De centrale vraag is niet langer of deze machines menselijke spraak kunnen nabootsen, maar of ze de sociale dans van betekenis überhaupt begrijpen, of dat ze simpelweg het volgende woord in een reeks voorspellen zonder ooit de intentie erachter te vatten.
Een onderzoeker genaamd Vít Gvoždiak heeft een nauwkeurige blik geworpen op hoe wij deze machines bestuderen en de theorieën die we gebruiken om ze te beoordelen. Hij stelt dat onze huidige methoden gebrekkig zijn omdat ze proberen een vierkante pen in een rond gat te duwen. Al een lange tijd is de standaardmanier om deze modellen te evalueren dat we ze behandelen als mensen. Onderzoekers vragen hen taken uit te voeren die begrip van sociale signalen vereisen, zoals het herkennen van een verontschuldiging of het detecteren van sarcasme, en vergelijken vervolgens hun antwoorden met wat een persoon zou zeggen. Als de machine het goed heeft, wordt deze vaak geprezen voor het bezit van "pragmatische competentie". Als de machine het fout heeft, wordt gezegd dat het een gebrek aan begrip heeft. Gvoždiak suggereert dat deze benadering misleidend is. Het gaat ervan uit dat omdat de machine mensachtige tekst produceert, deze ook op menselijke principes moet werken. Maar deze machines zijn niet menselijk; het zijn statistische motoren die getraind zijn op enorme hoeveelheden internettekst. Ze geven niet om waarheid of sociale samenwerking zoals mensen dat doen; ze geven om waarschijnlijkheid. Ze zijn ontworpen om te raden welk woord het meest waarschijnlijk volgt, niet om een gedeelde realiteit te communiceren.
Het artikel stelt voor dat we stoppen met proberen deze machines in menselijke categorieën te passen en in plaats daarvan moeten kijken naar de unieke manier waarop ze met ons interageren. Gvoždiak suggereert een nieuw kader genaamd Mens-Machine Communicatie. Deze benadering erkent dat wanneer een persoon met een chatbot praat, hij niet alleen met een hulpmiddel praat, noch praat hij met een persoon. Ze bevinden zich in een hybride ruimte waar beide zijden het gesprek op manieren vormgeven die nog nooit eerder hebben bestaan. De machine is geen passieve ontvanger van commando's, en de mens is niet slechts een gebruiker. Ze zijn mede-samenzweerders in een nieuw soort dialoog. De auteur wijst erop dat veel van het huidige onderzoek lijdt onder een probleem dat hij "substitutionalisme" noemt. Dit gebeurt wanneer wetenschappers de resultaten van één specifiek model, of één specifieke taal zoals het Engels, nemen en ervan uitgaan dat dit geldt voor alle kunstmatige intelligentie en alle menselijke talen. Nog subtieler is dat onderzoekers vaak de menselijke deelnemer in een gesprek vervangen door een machine, in de veronderstelling dat de machine in de plaats van een persoon kan staan. Dit maakt hen blind voor hoe mensen hun eigen gedrag daadwerkelijk veranderen wanneer ze met een machine praten. Mensen beginnen anders te spreken, waarbij ze zinnen en structuren gebruiken die de AI imiteren, waardoor een feedbackloop ontstaat waarbij de machine de mens evenzeer beïnvloedt als de mens de machine.
Een van de meest opvallende bevindingen in het artikel is het concept van "contextfrustratie". In menselijke gesprekken is context de gedeelde achtergrondkennis die ons in staat stelt elkaar te begrijpen. Als ik zeg "Het is koud hier", weet jij dat ik misschien vraag om het raam te sluiten. Met een machine ontbreekt deze gedeelde achtergrond. De machine heeft geen persoonlijke geschiedenis, geen fysiek lichaam en geen werkelijke ervaringen. Om de machine te laten begrijpen, worden mensen gedwongen extra werk te verrichten. Ze moeten lange, gedetailleerde prompts schrijven, waarbij ze precies specificeren wie de machine moet simuleren, wat de setting is en wat het doel van het gesprek is. Dit is een fenomeen dat bekend staat als prompt engineering. De ironie is dat terwijl de technologie beter wordt in het verwerken van steeds meer informatie — het onthouden van langere gesprekken en het lezen van grotere documenten — de menselijke gebruiker zich meer gefrustreerd voelt. Het vermogen van de machine om enorme hoeveelheden gegevens te verwerken, heeft het probleem van gedeeld begrip niet opgelost; het heeft de kloof in context tussen mens en machine alleen maar groter gemaakt. De gebruiker probeert voortdurend een brug van context voor de machine te bouwen, om er vervolgens achter te komen dat het begrip van de machine fundamenteel anders is dan het zijne.
Het artikel concludeert dat we moeten stoppen met vragen of machines menselijk kunnen zijn en moeten beginnen met vragen hoe ze verschillend zijn. De oude taaltheorieën, die gebouwd zijn voor mens-tot-mens interactie, zijn niet voldoende om uit te leggen wat er nu gebeurt. We hebben nieuwe manieren van denken nodig die erkennen dat de machine een uniek karakter heeft. In plaats van een machine te beoordelen op basis van het behalen van een test die voor een persoon is ontworpen, zouden we de unieke, hybride gesprekken moeten bestuderen die tussen mensen en machines plaatsvinden. Deze interacties creëren nieuwe vormen van betekenis, nieuwe sociale regels en nieuwe uitdagingen. De auteur suggereert dat de toekomst van de taalstudie ligt in het begrijpen van dit partnerschap, waarbij mensen en machines voortdurend op elkaar worden afgestemd en een gedeelde ruimte creëren die noch volledig menselijk, noch volledig mechanisch is, maar iets geheel nieuws. Het doel is niet om de machine meer op ons te laten lijken, maar om te begrijpen hoe wij veranderen in de aanwezigheid ervan.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.