How Response Parsing Manufactures Scaling Laws: A Replication and Measurement-Validity Audit of Constraint-Tracking Capacity in LLMs

Stel je een computerprogramma voor dat een lijst met regels kan lezen en deze perfect kan opvolgen, ongeacht hoe lang de lijst wordt. Dit is de belofte van moderne kunstmatige intelligentie, specifelijk een type systeem dat een groot taalmodel wordt genoemd. Deze programma's worden getraind op enorme hoeveelheden tekst en kunnen vragen beantwoorden, verhalen schrijven of problemen oplossen. Naarmate deze systemen groter worden, met meer interne componenten en meer data, worden ze over het algemeen beter in complexe taken. Wetenschappers vragen zich al lang af of er een harde limiet is aan hoeveel onafhankelijke instructies een enkel model tegelijkertijd in zijn "geest" kan vasthouden. Als je een model tien regels geeft om op te volgen, kan het dat dan? Wat als het er twintig zijn? Groeit het vermogen om regels op te volgen gestaag naarmate het model groter wordt, of stort het plotseling in?

Een recente studie beweerde een precies antwoord op deze vraag te hebben gevonden. Het suggereerde dat naarmate modellen groter worden, hun vermogen om meerdere regels bij te houden groeit volgens een specifiek wiskundig patroon, zoals een voorspelbare curve. De onderzoekers stelden voor dat een klein model na slechts een paar regels zou kunnen falen, terwijl een groter model er veel meer zou kunnen aan kunnen, en dat deze relatie een strikte wet volgde. Dit idee was opwindend omdat het een manier bood om precies te voorspellen hoe bekwaam een toekomstige machine zou zijn op basis van de grootte ervan. Echter, een nieuwe onderzoeksinstelling heeft de oorspronkelijke cijfers en de methoden die werden gebruikt om deze te verkrijgen nauwlettend bekeken, en dat vertelt een ander verhaal. Het nieuwe werk stelt vast dat hoewel het basisidee van een limiet echt is, de specifieke wet die beschrijft hoe die limiet groeit, niet door het bewijs wordt ondersteund.

Het onderzoek begon met het heronderzoeken van de oorspronkelijke gegevenslogs, wat de verslagen zijn van wat de modellen daadwerkelijk schreven als reactie op de tests. De onderzoekers bouwden een nieuwe, striktere manier om deze reacties te lezen. In de oorspronkelijke studie had het computerprogramma dat de antwoorden beoordeelde een vangnet: als het niet genoeg duidelijke antwoorden in een reactie kon vinden, zou het de hele tekst opnieuw scannen om te zoeken naar de woorden "ja" of "nee" waar ze ook voorkwamen. Als het deze woorden vond, zou het ze tellen als correcte antwoorden, zelfs als het model ze nooit daadwerkelijk als antwoord op de specifieke vragen had bedoeld. Dit vangnet werd in bijna een kwart van de tests geactiveerd. Het vulde in feite de gaten in voor de modellen, door krediet te geven voor woorden die de modellen per ongeluk schreven of als onderdeel van een zin, in plaats van als directe antwoorden.

Wanneer de nieuwe onderzoekers dit vangnet verwijderden en de computer dwongen om alleen antwoorden te tellen die duidelijk en correct geformatteerd waren, veranderden de resultaten. Het fenomeen van een limiet bestond nog steeds. Een kleiner model worstelde inderdaad en slaagde er uiteindelijk niet in om veel regels op te volgen, terwijl een groter model uit dezelfde familie veel beter presteerde. Dit bevestigde dat de kernobservatie echt was: modellen hebben een capaciteitslimiet en grootte doet ertoe. Echter, de specifieke curve die beschreef hoe deze capaciteit met de grootte groeide, verdween. De oorspronkelijke claim dat het vermogen om regels op te volgen verdubbelde of verdrievoudigde op een voorspelbare manier naarmate het model groter werd, was een illusie gecreëerd door de manier waarop de antwoorden werden geteld.

De onderzoekers testten deze gecorrigeerde methode vervolgens op een veel breder scala aan modellen, inclusief acht verschillende families van systemen die beschikbaar zijn via online diensten. Ze kwamen tot de conclusie dat de oorspronkelijke wiskundige wet niet standhield. Bij het ene type taak vertoonden de modellen helemaal geen voorspelde groei; in plaats daarvan bereikten ze een plafond waarbij ze niet meer dan een bepaald aantal regels konden afhandelen, ongeacht hoe groot ze waren. Bij een andere taak leken de modellen alle regels perfect te volgen, maar dit kwam doordat ze de instructies simpelweg in een lang paragraaf herhaalden in plaats van elke regel daadwerkelijk individueel bij te houden. In verschillende gevallen faalden de modellen niet omdat ze niet de intelligentie hadden om de regels op te volgen, maar omdat ze niet het strikte formaat volgden dat vereist was om een voldoende te krijgen. Ze schreven lange, doordachte essays terwijl de test vroeg om een eenvoudige lijst, en het scoresysteem telde dit als een totaal falen.

Het onderzoek keek ook naar de theorie die werd gebruikt om te verklaren waarom de modellen zich zo gedroegen als ze dat deden. De oorspronkelijke studie suggereerde dat de limiet werd bepaald door een specifiek architecturaal kenmerk van de modellen, een getal dat wordt berekend uit hun interne structuur. De nieuwe audit stelde vast dat de twee modellen die werden gebruikt om deze theorie te bewijzen, exact dezelfde waarde hadden voor dit kenmerk, maar toch heel verschillend presteerden. Dit betekende dat de theorie de verschillen tussen hen niet daadwerkelijk kon verklaren. De voorgestelde verklaring was te breed om nuttig te zijn; het stond elke uitkomst toe, waardoor het de specifieke geobserveerde uitkomst niet kon voorspellen.

De definitieve conclusie is dat het vermogen van deze machines om meerdere beperkingen bij te houden een reële en meetbare zaak is, maar dat de precieze wiskundige wet die beweerde dit te beschrijven, nog niet door bewijs wordt ondersteund. De oorspronkelijke bevinding was een mix van een echte ontdekking en een meetfout. De fout kwam voort uit een veelvoorkomende, onzichtbare keuze in hoe de computer de antwoorden las, een keuze die onbedoeld ontbrekende gegevens invulde en een vals patroon creëerde. De onderzoekers benadrukken dat dit niet betekent dat de modellen perfect zijn of dat we hun limieten volledig begrijpen. Het betekent simpelweg dat de specifieke claim over een voorspelbare schaalwet gebouwd was op wankele grond. Om vooruit te komen, moeten toekomstige studies striktere regels gebruiken voor het lezen van antwoorden, elk ontbrekend antwoord als een fout tellen en veel meer modellen testen voordat ze een universele wet verklaren. De weg naar het begrijpen van deze machines is duidelijk, maar het vereist dat we naar de data kijken zonder de vangnetten die de waarheid kunnen verbergen.