Testing the Limits of Truth Directions in LLMs
Deze studie toont aan dat de universaliteit van waarheidsrichtingen in grote taalmodellen beperkter is dan eerder werd aangenomen, omdat deze sterk afhankelijk zijn van de model-laag, het taaktype, de complexiteit en de instructies in de prompt.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat een Large Language Model (LLM), zoals de slimme chatbots die we vandaag gebruiken, een enorm, glazen kasteel is. In dit kasteel zitten duizenden verdiepingen (de "lagen" van het model). Op elke verdieping wordt informatie verwerkt, net als een fabriek waar een product steeds verder wordt afgewerkt.
De onderzoekers van dit paper, Angelos Poulis en zijn team, hebben een heel interessante vraag gesteld: Waar in dit kasteel zit de "waarheidscompasnaald"?
Eerdere studies dachten dat er één vaste naald was die altijd naar "Waar" of "Onwaar" wees, ongeacht wat je vroeg. Maar dit paper laat zien dat het veel ingewikkelder is. Het is alsof je denkt dat er één magische knop is om leugens te detecteren, maar in werkelijkheid hangt het af van waar je op de knop drukt, wat je vraagt, en hoe moeilijk de vraag is.
Hier is de uitleg in drie simpele hoofdstukken:
1. De verdieping maakt het verschil (Waar moet je zoeken?)
Stel je voor dat je een verhaal hoort.
- Verdieping 1-10 (De oppervlakte): Hier hoor je alleen de klanken en de zinnen. Als iemand zegt: "De aarde is plat," hoor je hier alleen de woorden. Het model ziet nog niet of het waar is. Als je hier probeert de waarheid te meten, mis je de boodschap.
- Verdieping 15-20 (De feitelijke kennis): Hier komt het model erachter dat feiten zoals "Parijs ligt in Frankrijk" gewoon in zijn geheugen staan. De "waarheidsnaald" werkt hier perfect voor simpele feiten.
- Verdieping 25-30 (De rekenmachine): Als je vraagt: "Is 37 + 15 gelijk aan 52?", dan moet het model eerst rekenen. Dat gebeurt pas op de bovenste verdiepingen. Als je daarboven kijkt, zie je de waarheid pas als het rekenwerk klaar is.
De les: Je kunt niet op één verdieping zoeken naar de waarheid. Voor feiten moet je lager kijken, voor rekenen hoger. Als je op de verkeerde verdieping kijkt, zie je misschien alleen de "toon" van de zin (bijvoorbeeld of er een "niet" in staat) en niet de feitelijke waarheid.
2. De vraagstelling verandert de kaart (De instructie)
Stel je voor dat je een detective bent.
- Situatie A (Passief): Je leest een dossier: "De dader was om 10 uur op het station." Je kijkt er gewoon naar.
- Situatie B (Actief): Je krijgt een opdracht: "Controleer of deze zin klopt. Was de dader om 10 uur op het station?"
Het paper laat zien dat het model op deze twee manieren heel anders "denkt". Als je het model vraagt om de waarheid te controleren, verandert de interne kaart (de geometrie) van het kasteel. De "waarheidsnaald" wijst ineens in een andere richting.
- Gevolg: Als je een detector traint op passieve zinnen, werkt die niet goed als je het model actief vraagt om te controleren. Het is alsof je een kompas hebt dat werkt in het noorden, maar als je het vraagt om "rechts" te wijzen, draait het kompas rond.
3. De moeilijkheidsgraad breekt de naald (Te veel stappen)
Dit is misschien wel het belangrijkste punt. Stel je voor dat de "waarheidsnaald" een touw is dat je vasthoudt.
- Een stap: "Is Parijs in Frankrijk?" -> Het touw is strak. De naald wijst perfect.
- Twee stappen: "Is Parijs in Frankrijk EN is Berlijn in Duitsland?" -> Het touw is nog steeds strak.
- Drie stappen (Tellen): "Van deze 5 steden, staan er precies 2 in Frankrijk?" -> Hier moet het model gaan tellen en onthouden.
- Vier stappen (Rekenen): "Is (37 + 15) / 4 gelijk aan 13?" -> Hier moet het model tussenstappen berekenen.
Het paper ontdekt een breukpunt: Zodra het model meer dan twee stappen moet doen (zoals tellen of complexe rekenen), wordt het touw slap. De "waarheidsnaald" verdwijnt of wordt wazig. Het model kan de waarheid niet meer duidelijk onderscheiden van de leugen als het te veel "werk" moet doen om het antwoord te vinden.
Samenvatting in één zin
De waarheid in een AI is niet één vaste magische kracht; het is een dynamisch proces dat afhankelijk is van waar in het model je kijkt, hoe je het vraagt, en of de taak te complex is om in één keer te "zien".
Wat betekent dit voor ons?
Het betekent dat we niet kunnen vertrouwen op simpele tests om te zien of een AI liegt. Als we willen weten of een AI eerlijk is, moeten we kijken naar de juiste verdieping, de juiste manier van vragen, en we moeten beseffen dat bij moeilijke taken de AI misschien "niet weet" of het klopt, zelfs als het antwoord eruit komt. De "waarheid" is niet universeel; het is contextafhankelijk.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.