Compress and Forget: bitsandbytes Quantization Amplifies Proactive Interference in LLMs

Stel je een groot taalmodel voor als een zeer attente assistent die een gesprek kan voeren, details kan onthouden en zijn kennis kan bijwerken naarmate er nieuwe informatie binnenkomt. In de echte wereld wordt deze assistent vaak gevraagd om veranderende feiten bij te houden: een vergadering die verschuift van twee naar drie naar vier uur, of een voorkeur van een gebruiker die evolueert tijdens een lang gesprek. Om deze systemen nuttig te maken, moeten ze niet alleen de nieuwste update onthouden, maar ook de oudere, nu onjuiste versies negeren. Echter, onderzoekers hebben een specifieke zwakte ontdekt in hoe deze modellen dergelijke updates afhandelen. Wanneer een stuk informatie vele malen wordt overschreven, begint het vermogen van het model om de meest recente versie op te halen te vervagen. Het begint de huidige versie te verwarren met een van de oudere, weggegooide versies. Dit fenomeen, bekend als proactieve interferentie, is een gedocumenteerde foutmodus waarbij de accumulatie van eerdere updates het moeilijker maakt om de huidige waarheid te herinneren, wat een vergelijkbare strijd weerspiegelt die men bij het menselijk werkgeheugen vindt.

Terwijl deze modellen de stap maken van onderzoeksinstellingen naar alledaagse toepassingen, worden ontwikkelaars geconfronteerd met een praktische uitdaging: hoe ze efficiënt op standaardhardware kunnen draaien. Om geheugen te besparen en de verwerking te versnellen, heeft de industrie grotendeels een techniek genomen die post-training kwantisatie wordt genoemd. Dit proces comprimeert de interne getallen van het model, waardoor de precisie wordt verminderd van een hoogwaardig formaat naar een veel kleiner, grover versie. Een algemeen aanvaarde overtuiging is ontstaan dat deze compressie veilig is en slechts een verwaarloosbaar verlies in de algehele prestaties veroorzaakt. De aanname is dat hoewel de getallen iets minder precies zijn, de kernintelligentie van het model intact blijft. Maar deze aanname was nooit getest tegen de specifieke, fragiele taak van het bijhouden van frequent veranderende informatie.

Een team van onderzoekers zette zich direct in om deze aanname te testen. Ze namen drie verschillende, populaire open-source taalmodellen en lieten deze door een rigoureuze geheugentest gaan, ontworpen om proactieve interferentie te meten. In deze test werden de modellen gepresenteerd aan een personage waarvan de attributen, zoals lievelingskleur of beroep, herhaaldelijk werden bijgewerkt. Het aantal updates varieerde van slechts één tot wel zesënnegentig. Na de laatste update werden de modellen gevraagd om alleen de meest recente waarde te herinneren. De onderzoekers voerden deze zelfde test uit op elk model met drie verschillende precisieniveaus: de originele hoogwaardige versie, een gecomprimeerde acht-bits versie, en een sterk gecomprimeerde vier-bits versie. Ze hielden de taak exact hetzelfde, waarbij ze alleen de precisie van de interne getallen van het model veranderden.

De resultaten onthulden een duidelijk en verontrustend patroon. Terwijl de modellen bijna perfect presteerden wanneer ze hun originele hoogwaardige instellingen gebruikten, hadden de sterk gecomprimeerde vier-bits versies aanzienlijke problemen wanneer het aantal updates hoog was. In een van de geteste modellen daalde de nauwkeurigheid van achtenentachtig procent in de hoogwaardige versie naar slechts zesentachtig procent in de vier-bits versie bij een hoog aantal updates. Dit was geen kleine fluctuatie; statistische analyse bevestigde dat de daling echt en consistent was over alle drie de verschillende modellen. De onderzoekers vonden dat de gecomprimeerde modellen niet simpelweg willekeurige fouten maakten. In plaats daarvan verwarden ze specifiek het huidige antwoord met een van de oudere, overschreven waarden. Wanneer het model faalde, koos het bijna altijd een waarde die eerder in het gesprek waar was, maar niet langer correct was.

Cruciaal was dat de studie toonde dat dit probleem niet werd veroorzaakt door algemene ruis of een simpel verlies van intelligentie. De fout was zeer specifiek voor het type informatie dat werd bijgehouden. Wanneer de onderzoekers de modellen testten met numerieke waarden, zoals aandelenkoersen of temperaturen, waarbij de getallen geen vergelijkbare betekenissen deelden, had de vier-bits compressie bijna geen negatief effect. De modellen handelden de numerieke updates net zo goed als de hoogwaardige versies. Dit onderscheid is essentieel omdat het bewijst dat de compressie het model niet simpelweg over de hele linie "dommer" maakt. In plaats daarvan vervaagt het specifiek de lijnen tussen zaken die semantisch vergelijkbaar zijn, waardoor het voor het model moeilijker wordt om onderscheidelijke concepten gescheiden te houden wanneer ze herhaaldelijk worden bijgewerkt.

De onderzoekers onderzochten ook waar in het model dit uiteenvallen plaatsvond. Ze ontdekten dat het probleem ontstond in het hoofdlichaam van het model, het deel dat verantwoordelijk is voor het verwerken en vasthouden van informatie, en niet in de laatste laag die het antwoord produceert. Dit suggereert dat het compressieproces zelf de manier waarop het model vergelijkbare ideeën representeert, verandert, waardoor ze op een manier overlappen die tot verwarring leidt. Bovendien daagde de studie het idee uit dat een compressieniveau in het middengebied, gebruikmakend van acht bits, volledig veilig was. Hoewel acht-bits compressie beter presteerde dan de vier-bits versie, vonden de onderzoekers dat het nog steeds een kleine maar meetbare straf met zich meebracht in twee van de drie geteste modellen. Dit geeft aan dat zelfs de "veiligere" compressieniveaus niet geheel risicovrij zijn voor taken die betrokken zijn bij frequente updates.

Deze bevindingen suggereren dat de wijdverbreide praktijk van het comprimeren van taalmodellen om middelen te besparen, gepaard kan gaan met een verborgen kostenpost voor toepassingen die vertrouwen op het bijhouden van evoluerende, semantisch dichte informatie. Voor een chatbot die een lang gesprek beheert of een systeem dat de veranderende voorkeuren van een gebruiker bijhoudt, kunnen de standaard benchmarks die een hoge algehele nauwkeurigheid laten zien, een specifieke kwetsbaarheid verbergen. De modellen lijken perfect te werken in algemene tests, maar wanneer ze worden geconfronteerd met een stroom van updates waarbij het verleden moet worden vergeten om het heden te kunnen onthouden, zijn de gecomprimeerde versies eerder geneigd te struikelen. De studie concludeert dat hoewel compressie een krachtig hulpmiddel is voor implementatie, het niet neutraal is; het erodeert selectief het mechanisme dat deze modellen in staat stelt om weerstand te bieden aan verwarring tussen vergelijkbare ideeën, een gebrek dat alleen door gerichte tests aan het licht kan komen.