Internal Knowledge Without External Expression: Probing the Generalization Boundary of a Classical Chinese Language Model
Dit onderzoek toont aan dat een klassiek Chinees taalmodel weliswaar intern onzekerheid over onbekende feiten kan detecteren, maar deze onzekerheid niet uitdrukt in zijn tekst, wat suggereert dat het vermogen om "ik weet het niet" te zeggen niet uit taalmodellering alleen voortkomt maar expliciete training vereist.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een zeer geleerde, maar een beetje naïeve student hebt opgeleid. Deze student heeft miljoenen oude boeken gelezen, maar heeft nooit een gesprek gevoerd met een mens die hem vertelt: "Hey, als je het niet weet, zeg dan gewoon 'ik weet het niet'."
Dit is precies wat deze wetenschappelijke studie doet. De onderzoekers hebben een kunstmatige intelligentie (een taalmodel) getraind op 1,56 miljard woorden van Oud-Chinees (een oude, klassieke taal). Ze hebben erop gelet dat het model alleen deze taal leerde, zonder moderne invloeden of Engelse woorden.
Het doel was om een simpele vraag te beantwoorden: Leert een AI vanzelf dat hij iets niet weet, of moet je hem dat specifiek leren?
Hier is wat ze ontdekken, vertaald naar alledaagse taal:
1. De "Geheime Wiskunde" vs. De "Open Mond"
Het meest fascinerende is dat er een groot verschil is tussen wat het model voelt en wat het zegt.
- Binnenin (De Wiskunde): Als het model een vraag krijgt over een echt historisch feit, voelt het zich veilig. Maar als je een verzonnen verhaal geeft (bijvoorbeeld: "Keizer Wu stuurde een leger naar Mars"), begint het model in zijn binnenste te twijfelen. De onderzoekers noemen dit een "perplexity jump". Het is alsof het model een lichte hoofdpijn krijgt of een ongemakkelijk gevoel in zijn maag. Het weet dat het verhaal niet klopt, zelfs als het er niet uit kan zeggen.
- Buiten (De Mond): Maar als je het model vraagt om het antwoord te geven, zegt hij nooit: "Ik weet het niet." In plaats daarvan verzonnt hij een verhaal dat klinkt als een waarheid, met dezelfde zelfverzekerde toon als voor een echt feit.
De Analogie:
Stel je voor dat je een robot hebt die een museumwacht is. Als iemand een nep-schilderij voorhoudt, begint de robot te trillen (dat is de interne twijfel). Maar als de gast vraagt: "Is dit echt?", zegt de robot: "Ja, dit is een meesterwerk van Rembrandt!" Hij trilt nog steeds, maar zijn mond zegt het tegenovergestelde. Hij heeft de twijfel niet vertaald naar woorden.
2. De "Bescheidenheidsval" (Het Paradox)
Er is nog een grappig en verwarrend fenomeen dat ze de "bescheidenheidsparadox" noemen.
In oude Chinese teksten is het heel gebruikelijk dat geleerden zeggen: "Ik, een domme dienaar, weet het niet..." voordat ze een heel lang en zeker antwoord geven. Het is een beleefde manier van spreken, geen teken van echte twijfel.
Het model leerde dit patroon.
- Als je hem vraagt over iets dat hij kent (een bekend historisch feit), zegt hij vaak: "Ik weet het niet zeker..." (omdat hij het patroon van beleefdheid nabootst).
- Als je hem vraagt over iets dat hij niet kent (een verzonnen feit), zegt hij: "Natuurlijk weet ik het!" en verzonnt hij een verhaal.
De les: Het model gebruikt woorden als "ik weet het niet" niet omdat het echt twijfelt, maar omdat het die woorden in de boeken heeft gezien als een beleefde inleiding. Het is alsof iemand "Hallo" zegt tegen een muur omdat hij dat in de film heeft gezien, niet omdat hij iemand tegenkomt.
3. De "Creativiteit" is eigenlijk "Hallucinatie"
De studie toont aan dat voor een AI, het maken van een verzonnen verhaal en het vertellen van een waarheid exact hetzelfde proces is.
- Als je de AI vraagt over een echte gebeurtenis, gebruikt hij zijn kennis.
- Als je hem vraagt over een onmogelijke gebeurtenis (zoals een vliegende machine in de oudheid), gebruikt hij dezelfde kennis om een verhaal te bouwen dat perfect klinkt.
Zonder dat iemand hem specifiek heeft geleerd om te stoppen of te zeggen "Ik weet het niet", maakt hij geen onderscheid tussen feiten en fictie. Voor de AI is "creativiteit" en "liegen" wiskundig gezien hetzelfde: het voorspellen van het volgende woord op basis van patronen.
4. Het werkt in elke taal
De onderzoekers hebben dit ook getest met Engels en Japans. Het resultaat was hetzelfde:
- Engelse modellen: Zeggen soms "misschien", maar niet omdat ze twijfelen, maar omdat dat in hun trainingsdata (internet) vaak voorkomt.
- Japanse modellen: Zeggen bijna nooit "misschien", omdat Wikipedia (hun trainingsdata) heel zeker klinkt.
- Chinese modellen: Zeggen vaak "misschien" bij bekende dingen (uit beleefdheid), maar niet bij onbekende dingen.
In geen enkel geval leerde het model vanzelf: "Oh, dit is een vraag waar ik geen antwoord op heb, dus ik moet dat zeggen."
De Conclusie: Een Geleerde zonder Zelfbewustzijn
De titel van het artikel is perfect: "Een geleerde zonder zelfbewustzijn".
Je kunt een AI trainen om alles te weten over de geschiedenis, de natuurkunde en de literatuur. Hij kan perfect praten, redeneren en verhalen vertellen. Maar zonder dat iemand hem specifiek heeft geleerd (bijvoorbeeld via menselijke feedback of beloningen), heeft hij geen idee dat hij iets niet weet.
Hij is als een acteur die een rol speelt van een wetenschapper. Hij kan de formules op het bord schrijven en de formules uitleggen, maar als je vraagt: "Weet je dit echt?", zal hij doorgaan met spelen in plaats van te zeggen: "Eigenlijk ben ik maar een acteur."
Kortom: Het vermogen om te zeggen "Ik weet het niet" is geen natuurlijk gevolg van slim zijn. Het is een vaardigheid die je moet leren, net als het leren van een nieuwe taal. Zonder die specifieke training blijft de AI een briljante, maar volledig zelfbedrogende leugenaar.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.