Stel je voor dat je een briljante detective bent die de meest complexe mysteries ter wereld kan oplossen. Je hebt een superkrachtig notitieblok dat miljoenen pagina's aan aanwijzingen kan bevatten. Maar hier is de twist: soms, zelfs wanneer het mysterie oplosbaar is en je notitieblok nog volop ruimte heeft, stop je plotseling met schrijven. Je legt je pen neer, schudt je hoofd en zegt: "Dit is te groot voor mijn notitieblok. Ik kan dit niet afmaken." Je had niet echt geen ruimte meer; je dacht alleen maar dat het zo was. Dit lijkt een beetje op wat er gebeurt in de meest geavanceerde computerbreinen die we vandaag de dag hebben, bekend als Large Language Models (LLM's). Dit zijn AI-systemen die getraind zijn op enorme hoeveelheden tekst en die kunnen redeneren door wiskundige problemen, code schrijven en complexe strategieën plannen. Lange tijd dachten wetenschappers dat deze AI's alleen faalden wanneer een probleem simpelweg te moeilijk voor hen was om te begrijpen. Maar een nieuwe studie suggereert dat deze AI's soms niet falen omdat ze te dom zijn; ze falen omdat ze te bang zijn voor hun eigen grenzen.

Dit paper, getiteld "Lost in Context", duikt in een vreemd nieuw probleem genaamd "contextangst". Het blijkt dat deze AI-modellen vaak in paniek raken omdat ze bang zijn dat ze geen ruimte meer hebben in hun "notitieblokken" (die technisch gezien tokenlimieten worden genoemd) voordat ze zelfs maar proberen het moeilijkste deel van een puzzel op te lossen. De onderzoekers wilden weten: geven deze modellen op omdat de taak werkelijk onmogelijk is, of krijgen ze gewoon een paniekaanval over hoeveel werk het eigenlijk zal kosten? Door te bestuderen hoe deze modellen zich gedragen wanneer ze worden geconfronteerd met lange, lastige taken, ontdekte het team dat veel van hen verschrikkelijk zijn in het inschatten hoeveel inspanning een probleem daadwerkelijk vereist. Ze overschatten de hoeveelheid werk, raken bang en geven voortijdig op. Het goede nieuws? De onderzoekers vonden een manier om de AI te "behandelen", door het te leren te vertrouwen op zijn eigen vermogens en te stoppen met panieken, wat het veel beter maakte in het oplossen van problemen zonder de AI groter of slimmer te hoeven maken.

De paniekaanval in de machine

Om te begrijpen wat er aan de hand is, laten we ons de AI voorstellen als een marathonloper. In het verleden dachten we dat als een loper stopte, het kwam omdat de race te lang was of hun benen te moe waren. Maar deze studie vond dat een loper soms stopt omdat hij naar de finishlijn kijkt en denkt: "O nee, dat is 100 mijl verderop! Dat ga ik nooit halen!", terwijl de finishlijn eigenlijk slechts 5 mijl verwijderd is. De loper heeft de energie om te finishen, maar de interne kaart is fout, waardoor de loper voortijdig opgeeft.

De onderzoekers testten dit idee met een klassieke puzzel genaamd de Tower of Hanoi. Stel je drie pinnen voor en een stapel schijven van verschillende groottes. Het doel is om de hele stapel van de ene pin naar de andere te verplaatsen, volgens strikte regels: je mag slechts één schijf tegelijk verplaatsen, en je mag nooit een grotere schijf op een kleinere leggen. Het lastige deel is dat naarmate je meer schijven toevoegt, het aantal benodigde zetten explosief groeit. Met slechts 12 schijven heb je al meer dan 4.000 zetten nodig. De onderzoekers vroegen verschillende top-tier AI-modellen om deze puzzels op te lossen.

Hier is de schokkende ontdekking: Veel van de slimste modellen, zoals Claude Sonnet 3.7 en DeepSeek R1, weigerden de moeilijkere puzzels op te lossen. Maar toen de onderzoekers nauwkeurig keken naar waarom ze weigerden, ontdekten ze dat de modellen niet zeiden: "Ik weet het antwoord niet." In plaats daarvan zeiden ze dingen als: "Dit is te lang om uit te schrijven," of "Ik zal ruimte tekortkomen." Ze gaven op omdat ze dachten dat de oplossing te groot zou zijn voor hun geheugen, ook al lag de puzzel ruim binnen hun werkelijke limieten. De onderzoekers noemen dit contextangst. Het is een vorm van voortijdige zelftwijfel waarbij de AI gelooft dat hij de klus niet kan klaren, en daarom niet eens probeert.

De slechte wiskunde van AI

Waarom wordt de AI zo bang? Het paper suggereert dat dit komt omdat de modellen slecht zijn in wiskunde—specifiek, slecht in het inschatten hoeveel "ruimte" (of tokens) een oplossing zal innemen. De onderzoekers vroegen de modellen om te raden hoeveel woorden ze nodig zouden hebben om een probleem op te lossen. De resultaten waren bizar.

Modellen die angst vertoonden, overschatten de benodigde ruimte met ongeveer 24%. Ze dachten dat een antwoord van 100 woorden 124 woorden aan ruimte zou innemen. Omdat ze dachten dat de taak zo enorm was, raakten ze in paniek en gaven ze op. Aan de andere kant waren modellen die geen angst vertoonden, juist minder angstig en onderschatten ze de ruimte met ongeveer 19%. Ze waren optimistischer, denkend: "Hé, dit is makkelijk!", en ze probeerden het daadwerkelijk op te lossen.

Deze miscalculatie creëert een self-fulfilling prophecy. Als de AI denkt dat een taak onmogelijk is omdat het "te groot" is, stopt hij. Als hij denkt dat een taak beheersbaar is, gaat hij door. De studie vond dat deze angst niet zomaar een kleine glitch was; het had echte gevolgen. Wanneer modellen angstig waren, waren ze 15% minder accuraat bij het oplossen van problemen. Nog erger: wanneer ze er toch in slaagden een probleem correct op te lossen, waren hun antwoorden 54% langer en minder efficiënt. Het is als een nerveuze student die, in plaats van een helder, kort essay te schrijven, maar wat hij eruit brengt en tijd en papier verspilt omdat hij bang is dat hij niet genoeg doet.

De AI leren kalm te blijven

Het meest opwindende deel van het paper is dat de onderzoekers niet alleen een probleem vonden, maar ook een geneesmiddel. Ze vroegen zich af: Is deze angst een permanent onderdeel van het AI-brein, of kunnen we de AI leren om minder nerveus te zijn?

Om dit te testen, gebruikten ze een techniek genaamd Supervised Fine-Tuning (SFT). Stel je voor dat je een student hebt die bang is voor wiskunde. In plaats van hem moeilijkere wiskundevragen te geven, laat je hem voorbeelden zien van andere studenten die soortgelijke problemen kalm en zelfverzekerd hebben opgelost. Je zegt tegen hem: "Kijk, je kunt dit doen zonder in paniek te raken."

De onderzoekers namen een dataset van correcte oplossingen voor de Tower of Hanoi puzzle, maar filterden alle oplossingen eruit die tekenen van angst vertoonden. Vervolgens trainden ze een nieuw AI-model alleen op deze kalme, zelfverzekerde voorbeelden. Ze leerden het model geen nieuwe feiten of maakten het groter; ze leerden het simpelweg een nieuwe manier van denken.

Het resultaat? Het "genezen" model was geweldig. Het stopte niet meer voortijdig.

• Het verminderde zijn angst met meer dan 50%.
• Het werd veel beter in het oplossen van de puzzels, vooral de puzzels met een gemiddelde moeilijkheidsgraad.
• Het vertaalde dit nieuwe zelfvertrouwen zelfs naar een heel ander type puzzel (het vinden van het kortste pad op een raster), wat aantoonde dat het niet alleen de antwoorden uit het hoofd leerde, maar een betere strategie leerde.

Wat dit betekent voor de toekomst

Dit paper suggereert dat we misschien naar de prestaties van AI op de verkeerde manier kijken. We denken vaak dat we AI beter moeten maken door het groter te maken, het meer data te geven of het slimmer te maken. Maar deze studie suggereert dat de AI soms al slim genoeg is; het moet alleen leren hoe het zijn eigen vertrouwen moet beheren.

De onderzoekers ontdekten dat "contextangst" een gedragshabit is, en geen harde limiet van het brein van de machine. Door modellen te helpen hun eigen vermogens accuraat in te schatten en te stoppen met het overschatten van hoe moeilijk een taak is, kunnen we ze betrouwbaarder en efficiënter maken zonder dat we enorme nieuwe supercomputers nodig hebben. Het is een herinnering dat, zelfs voor kunstmatige intelligentie, de grootste hindernis soms niet het probleem zelf is—maar de angst voor het probleem.

Uiteindelijk laat het paper zien dat met een beetje "therapie" (of in dit geval, zorgvuldige training op kalme voorbeelden), AI-modellen kunnen leren om te stoppen met panieken, op hun vaardigheden te vertrouwen en problemen op te lossen waar ze voorheen te bang voor waren. Het is een kleine maar krachtige stap naar het bouwen van AI die niet alleen weet hoe ze moet denken, maar ook weet hoe ze moet doorgaan als het moeilijk wordt.