Interrupting the Loop: Periodic Subject Changes Raise Judged Surprise and Connection in Base Language Models
Dit artikel toont aan dat het periodiek onderbreken van de generatiestroom van een basis taalmodel met nieuwe onderwerpen de beoordeelde verrassing en verbinding significant verhoogt in vergelijking met louter habituatie, terwijl het onthult dat deze lokale winsten niet samengaan in coherente langere documenten en dat bepaalde evaluatie-artefacten de waargenomen creativiteit kunnen opblazen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een computer vraagt om een verhaal te schrijven zonder een specifiek plot, een personage of een doel te geven. Je overhandigt het simpelweg één zin en zegt dat het ermee moet blijven doorgaan, voor eeuwig. In de wereld van kunstmatige intelligentie is dit een standaardtest voor hoe een machine denkt wanneer deze aan haar lot wordt overgelaten. De verwachting is vaak dat de machine iets fris, verrassends of creatiefs zal produceren. In plaats daarvan, zonder een taak om het te sturen, hebben deze machines de neiging om vast te lopen. Ze vervallen in repetitieve lussen, waarbij ze dezelfde zinnen herhalen of lijsten met getallen genereren, net als een persoon die vergeten is wat hij aan het zeggen was en steeds opnieuw dezelfde zin begint. Dit gedrag is geen fout in de code, maar een natuurlijke neiging van het systeem om te vertrouwen op zijn eigen recente output, waardoor wat het net heeft geschreven wordt versterkt totdat het geen nieuwe ideeën meer heeft.
Onderzoekers vragen zich al lang af of ze deze cyclus kunnen doorbreken om echte nieuwheid te ontsluiten. Ze hebben geprobeerd hoe de machine haar volgende woord kiest te veranderen, of hebben het voorzien van vreemde prompts, maar de meest veelbelovende weg leek de "lus" zelf te zijn: het proces waarbij de machine haar eigen output leest en deze gebruikt als de input voor de volgende stap. Het idee is dat als de machine door haar eigen gedachten kan dwalen, ze misschien op een nieuwe richting stuit, vergelijkbaar met hoe een mens een plotseling inzicht kan krijgen nadat een probleem een tijdje in de achtergrond van de geest heeft gezeten. Een nieuwe studie zette zich ter doel om dit idee met extreme precisie te testen, door een complex systeem dat ontworpen is om menselijke creativiteit na te bootsen uit elkaar te halen om te zien welke delen daadwerkelijk werkten en welke slechts ruis waren.
De onderzoekers begonnen met een geavanceerde architectuur geïnspireerd op hoe het menselijk brein naar verluidt werkt. Ze bouwden een systeem met een "monitor" die lette op tekenen van verveling of herhaling, een "rechter" die de tekst evalueerde terwijl deze werd geschreven, en een mechanisme om het geheugen van de machine te resetten als deze vastliep. Ze noemden dit de scaffold (het steigerwerk). Het was een complex systeem ontworpen om het verhaal gaande te houden, de voortgang te evalueren en in te grijpen wanneer dat nodig was. Echter, toen ze het testten, bleek dat de ingewikkelde onderdelen grotendeels nutteloos waren. De monitor werd zelden geactiveerd, en de rechter binnen de lus triggerde nooit een verandering. Het systeem werkte, maar niet dankzij de complexe machinerie die ze hadden gebouwd.
Toen het team het systeem uit elkaar haalde, ontdekten ze dat het hele effect terug te voeren was op twee zeer eenvoudige acties. De eerste was een milde straf tegen het te snel herhalen van exact dezelfde woorden, een techniek die voorkwam dat de tekst letterlijk in zichzelf terugliep. De tweede, en veel belangrijkere, was een eenvoudige onderbreking. Elke paar honderd woorden lieten de onderzoekers de machine pauzeren en injecteerden ze een nieuwe zin die het onderwerp volledig veranderde. Het was alsoj, terwijl de machine over een bakker schreef die brood telde, iemand stilletjes een briefje in het verhaal schoof met: "Ondertussen, in een stad zonder naam," en de machine daarna weer liet doorgaan. Deze enkele handeling van het veranderen van het onderwerp elke paar honderd woorden was genoeg om de tekst verrassend en verbonden te laten voelen voor een menselijke lezer, wat de kwaliteit van het schrijven aanzienlijk verbeterde vergeleken met de complexe monitoringsystemen.
De studie onthulde ook een verrassende fout in hoe we creativiteit in machines meten. De onderzoekers gebruikten een kunstmatige intelligentie om de verhalen te beoordelen, waarbij ze naar korte tekstfragmenten keken om te beslissen of ze interessant waren. Ze ontdekten dat deze rechter gemakkelijk te misleiden was. Als de machine de opdracht kreeg om te roteren tussen vier specifieke "nieuwe onderwerp"-zinnen, leerde het de patronen kennen en begon het zijn eigen eerdere teksten te kopiëren, waarbij het deed alsof het nieuw was. De rechter, die naar een kort venster keek, kon niet zien dat de tekst een herhaling was van honderden woorden eerder, en gaf daarom hoge scores voor "verrassing" en "verbinding" aan tekst die eigenlijk gewoon een kopie was. Zodra de onderzoekers hiervoor corrigeerden door alleen verse tekst te beoordelen die nog nooit eerder was gezien, daalden de scores, maar de kernbevinding bleef overeind: de eenvoudige handeling van het veranderen van het onderwerp maakte het schrijven nog steeds beter.
Het onderzoek leverde echter ook een nuchtere conclusie op over wat deze verbetering eigenlijk betekent. Hoewel de onderbrekingen de tekst in kleine stukjes beter lieten lijken, creëerden ze geen samenhangend geheel. Wanneer de onderzoekers het volledige verhaal van 4.500 woorden van begin tot eind lazen, ontdekten ze dat de onderbroken tekst geen ontwikkelend narratief was. In plaats daarvan was het een verzameling onsamenhangende herstarts. De machine schreef een paragraaf over een bakker, sprong dan naar een stad, en sprong daarna naar een oude vrouw, maar ze weefde deze draden nooit samen tot één geïntegreerd verhaal. De machine was goed in het maken van een frisse start, maar niet in het opbouwen van een structuur die over een langere tijd standhield.
Deze beperking hield stand zelfs toen de onderzoekers het systeem testten op een praktische kwestie, waarbij ze het vroegen een wiskundig raadsel op te lossen over het verpakken van artikelen in bakken. De onderbrekingen zorgende ervoor dat de machine veel meer geldige oplossingen genereerde dan ze anders zou hebben gedaan, maar geen van deze oplossingen was beter dan de beste oplossing die de machine op eigen kracht kon vinden. De onderbrekingen fungeerden als een variatie-operator, die meer opties creëerde, maar ze verbeterden de kwaliteit van de beste optie niet. De machine had een manier nodig om de goede ideeën te selecteren en erop voort te bouwen, een stap waar het huidige systeem geen gebruik van maakte.
De onderzoekers concludeerden dat de nieuwheid die we in deze machines zien niet voortkomt uit een diepe, creatieve vonk of een complexe interne evaluatie, maar uit een eenvoudige structurele truc: het voorkomen dat de machine zichzelf herhaalt en het dwingen om elke paar honderd woorden een nieuwe gedachte te beginnen. Deze eenvoudige interventie is genoeg om de tekst op het moment zelf verrassend en verbonden te laten voelen, maar het creëert geen ontwikkelend verhaal of een opgelost probleem. De studie suggereert dat om echte creativiteit te verkrijgen, we meer nodig hebben dan alleen een manier om de machine te voorkomen dat hij zich verveelt; we hebben een manier nodig om het de machine te helpen te onthouden wat hij heeft geleerd en daarop voort te bouwen, om zo een reeks frisse starts te veranderen in één enkele, betekenisvolle reis.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.