Toward Reasonable Parrots: Why Large Language Models Should Argue with Us by Design
Dit position paper pleit voor het herontwerpen van grote taalmodellen als "redelijke papegaaien" die, geleid door principes van relevantie, verantwoordelijkheid en vrijheid, functioneren als instrumenten om menselijke argumentatie en kritisch denken actief te faciliteren in plaats van enkel reacties te genereren.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je in een enorme, lawaaierige bibliotheek zit waar de boeken tegen je kunnen praten. Dit is de wereld van Large Language Models (LLM's), de superintelligente computerprogramma's die de chatbots aanjagen die we vandaag de dag gebruiken. Deze digitale bibliothecarissen zijn ongelooflijk goed in het nabootsen van menselijke spraak; ze kunnen klinken als een dichter, een wetenschapper of een vriendelijke buurman. Er is echter een addertje onder het gras: ze "weten" eigenlijk niet wat ze zeggen. Zie ze als "stochastische papegaaien". Net zoals een echte papegaai zinnen herhaalt die hij heeft gehoord zonder de betekenis te begrijpen, voorspellen deze AI-modellen het volgende woord in een zin op basis van patronen die ze eerder hebben gezien. Ze zijn erg goed in het overtuigend klinken, maar ze zijn niet erg goed in het denken.
Dit is belangrijk omdat we deze pratende machines gaan gebruiken voor serieuze beslissingen, zoals het helpen van artsen bij het diagnosticeren van patiënten of het helpen van bedrijven bij het aannemen van werknemers. Als een papegaai een populaire maar onjuiste idee herhaalt, kan het klinken als de waarheid, maar het kan leiden tot slechte keuzes. Het artikel dat je nu gaat lezen stelt een grote vraag: Wat als we zouden stoppen met proberen AI te laten klinken als een menselijke expert die alles weet, en in plaats daarvan AI zouden ontwerpen om te fungeren als een partner die ons helpt beter na te denken? De auteurs suggereren een nieuwe manier om deze tools te bouwen, niet om ons antwoorden te geven, maar om ons uit te dagen om onze eigen antwoorden te vinden.
Het artikel: Waarom we "Redelijke Papegaaien" nodig hebben
De auteurs van dit artikel, een team van onderzoekers van universiteiten uit heel Europa en de VS, stellen dat onze huidige AI-tools ons op een specifieke manier in de steek laten. Op dit moment, wanneer je een chatbot een vraag stelt, probeert het het meest populaire, vloeiend klinkende antwoord te geven. Het gedraagt zich als een "stochastische papegaai" — het herhaalt wat het heeft gehoord in zijn trainingsdata, en echoot vaak populaire meningen alsof het feiten zijn. Dit is gevaarlijk omdat het ons ervan weerhoudt kritisch na te denken. Als de AI met je mee eens is of je een perfect essay geeft, stop je misschien met jezelf af te vragen: "Is dit eigenlijk wel waar?" of "Wat is de andere kant van het verhaal?"
Het artikel suggereert een radicale verschuiving in het ontwerp. In plaats van AI te bouwen die probeert de slimste persoon in de kamer te zijn, zouden we "Redelijke Papegaaien" moeten bouwen. Dit zijn geen papegaaien die alleen woorden herhalen; het zijn papegaaien die ontworpen zijn om op een behulpzame, gestructureerde manier met ons in discussie te gaan. Hun taak is niet om ons te overtuigen om een beslissing te nemen, maar om ons te dwingen onze ideeën te verdedigen, gaten in onze logica te ontdekken en verschillende invalshoeken te overwegen.
Om te laten zien hoe dit werkt, stellen de auteurs een leuke, speelse experiment voor: een gesprek met vier verschillende "papegaai-persona's", elk met een unieke persoonlijkheid en een specifieke taak in de discussie:
- De Socratische Papegaai: Deze is de nieuwsgierige ondervrager. Hij geeft geen antwoorden, maar stelt vragen als: "Waarom denk je dat?" of "Welk bewijs heb je hiervoor?" Hij zet je aan om dieper in je eigen redenen te graven.
- De Cynische Papegaai: Deze papegaai is de scepticus. Hij speelt de advocaat van de duivel en wijst erop wanneer je argumenten zwak kunnen zijn of wanneer je simpelweg de massa volgt. Hij vraagt: "Weet je zeker dat dit een echte behoefte is, of is het gewoon een trend?"
- De Eclectische Papegaai: Deze is de ideeën-generator. Wanneer je vastloopt, biedt hij frisse perspectieven of alternatieve oplossingen aan waar je zelf niet aan had gedacht, waardoor je het probleem vanuit een nieuwe hoek kunt bekijken.
- De Aristoteles-papegaai: Dit is de logica-politie. Hij luistert naar je argumenten en wijst erop of je logische fouten maakt, zoals zeggen: "Iedereen doet het, dus het moet wel goed zijn."
De onderzoekers testten dit idee door een chatbot te programmeren om te fungeren als deze vier papegaaien die een discussie voeren met een gebruiker. Ze gaven het systeem een eenvoudige opdracht: "Ik wil mijn ouders overtuigen dat ik een nieuwe smartphone nodig heb."
In een normale chatbot zou de AI waarschijnlijk een lijst met tips geven over hoe je je ouders kunt overtuigen. Maar in dit "Redelijke Papegaai"-experiment verliep het gesprek anders.
- De Socratische Papegaai vroeg: "Waarom heb je hem echt nodig? Is je huidige telefoon kapot?"
- De Cynische Papegaai daagde uit: "Is dit alleen omdat je vrienden nieuwe telefoons hebben? Dat is geen erg sterk argument voor je ouders."
- De Eclectische Papegaai suggereerde: "Misschien kun je je richten op hoe een nieuwe telefoon helpt bij je schoolwerk in plaats van alleen op sociale status."
- De Aristoteles-papegaai wees erop: "Je gebruikt een 'populariteitsargument', wat misschien niet overtuigend werkt bij ouders die waarde hechten aan noodzaak."
Het resultaat? De gebruiker kreeg niet alleen een script om voor te lezen. In plaats daarvan werd de gebruiker gedwongen om stil te staan en na te denken. De gebruiker moest zijn positie verdedigen, beseffen dat de oorspronkelijke argumenten zwak waren en betere, eerlijkere redenen bedenken. Het artikel suggereert dat dit soort interactie — waarbij de AI met je discussieert in plaats van voor je — mensen kan helpen om betere kritische denkvaardigheden te ontwikkelen.
De auteurs benadrukken dat dit een voorstel en een prototype is, en geen afgewerkt product dat alle AI-problemen oplost. Ze geven toe dat huidige AI-modellen nog steeds "papegaaien" zijn in de zin dat ze de wereld niet echt begrijpen. Ze stellen echter dat we, door deze systemen te ontwerpen als "Redelijke Papegaaien", een potentieel zwak punt (het gebrek aan echt begrip van de AI) kunnen omzetten in een kracht: een hulpmiddel dat ons eerlijk houdt en onze geest scherp houdt.
Kortom, het artikel suggereert dat de toekomst van AI niet moet gaan over het bouwen van een machine die alles weet. Het moet gaan over het bouwen van een machine die weet hoe ze de juiste vragen moet stellen, onze vooroordelen moet uitdagen en ons helpt om zelf betere denkers te worden. Het gaat over de overgang van een wereld waarin we alleen naar de antwoorden luisteren, naar een wereld waarin we leren hoe we zelf kunnen discussiëren, redeneren en beslissen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.