Recursive Agentic Reasoning
Dit artikel introduceert een verenigd kader van drie recursieve redeneeroperators (GROW, PRUNE en BRANCH) en demonstreert door middel van uitgebreide evaluatie dat herhaaldelijk vertakken consequent andere methoden voor redeneren tijdens de testfase overtreft over diverse modellen en benchmarks, terwijl het ook het cruciale belang van gekoppelde evaluatieprotocollen benadrukt om misleidende vergelijkende conclusies te voorkomen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Wanneer een computerprogramma probeert een moeilijk probleem op te lossen, produceert het vaak een enkele lijn van gedachten, een opeenvolging van woorden die naar een antwoord leidt. Jarenlang hebben onderzoekers zich afgevraagd of het geven van deze programma's meer tijd en meer pogingen hen slimmer zou maken. In plaats van dat eerste antwoord te accepteren, zou de computer gevraagd kunnen worden om het opnieuw te proberen, om het probleem in kleinere stukjes te breken, of om verschillende verschillende oplossingen te genereren en de beste te kiezen? Deze vraag staat in het hart van het moderne onderzoek naar kunstmatige intelligentie. Het veld is momenteel gevuld met veel verschillende strategieën voor het besteden van extra rekenkracht om redeneren te verbeteren. Sommige methoden vragen het model om zijn eigen antwoord te verfijnen, andere vragen het om een complexe taak op te splitsen in een reeks eenvoudigere stappen, en weer andere vragen het om veel onafhankelijke pogingen te genereren en over het resultaat te stemmen. Omdat elk van deze benaderingen in isolatie is getest, met verschillende testvragen en verschillende beoordelingsregels, was het onmogelijk om te weten welke strategie eigenlijk het beste werkt wanneer het computerbudget gelijk is.
Een team van onderzoekers zette zich af om dit debat te beslechten door deze verschillende strategieën te behandelen als variaties van één enkel proces: recursie, of de handeling waarbij een systeem zichzelf oproept om een probleem op te lossen. Ze definieerden drie verschillende manieren waarop een computer dit kon doen. De eerste, die ze "grow" noemden, hield in dat men een enkele lijn van redenering nam en de computer vroeg deze uit te breiden, waarbij hetzelfde pad herhaaldelijk wordt verfijnd. De tweede, "prune", hield in dat men de computer vroeg een moeilijk probleem op te splitsen in een lijst van kleinere, geordende vragen, deze één voor één op te lossen, en vervolgens de antwoorden weer aan elkaar te naaien. De derde, "branch", hield in dat men de computer vroeg om vijf volkomen verschillende oplossingen tegelijk te genereren en vervolgens de optie te selecteren die het vaakst voorkwam onder deze opties. Om een eerlijke vergelijking te garanderen, voerden de onderzoekers al deze drie methoden, samen met een standaard enkele passage-poging, uit op exact dezelfde set problemen met exact dezelfde computermodellen. Ze testten deze methoden over vijf verschillende soorten uitdagingen, variërend van complexe meerstaps logische puzzels tot academische vragen op graduate-niveau, met behulp van drie van de meest geavanceerde beschikbare AI-modellen.
De resultaten van dit gecontroleerde experiment waren duidelijk en enigszins verrassend. De strategie om meerdere oplossingen te genereren en te stemmen op de beste, de "branch"-methode, verbeterde de nauwkeurigheid van de antwoorden in elke enkele testcase die ze uitvoerden. Gemiddeld verhoogde deze methode het percentage correcte antwoorden met bijna zes procentpunten vergeleken met de standaard enkele poging. In contrast hiermee waren de andere twee methoden inconsistent. De "grow"-methode, die een enkel pad verdiept, verbeterde de prestaties in de meeste gevallen, maar maakte de computer daadwerkelijk slechter in het oplossen van bepaalde soorten moeilijke vragen. De "prune"-methode, die problemen afbreekt, vertoonde slechts een minimale verbetering die vaak niet te onderscheiden was van willekeurige ruis. De gegevens suggereerden dat er geen noodzaak was voor een complex systeem om te beslissen welke methode voor welk probleem gebruikt moest worden; de methode die simpelweg meerdere paden probeerde en de consensuswinnier koos, was de superieure keuze over de hele linie.
De onderzoekers groeven dieper om te begrijpen waarom deze stemmethode zo goed werkte, en zij ontdekten dat de reden niet was wat de meeste mensen verwachtten. De algemene overtuiging was dat het genereren van meerdere antwoorden hels omdat het de computer in staat stelt om veel verschillende logische paden te verkennen en het juiste pad tussen hen te vinden. Echter, de gegevens toonden aan dat het primaire voordeel uit een andere bron kwam: herstel van falen. Wanneer deze geavanceerde computermodellen gevraagd worden om lang na te denken, raken ze vaak hun toegewezen geheugenruimte kwijt voordat ze hun antwoord kunnen afmaken. In een enkele poging resulteert dit in een leeg antwoord, wat als een foutief antwoord wordt geteld. Maar wanneer de computer echter wordt gevraagd om vijf keer te proberen, is de kans dat alle vijf de pogingen op exact hetzelfde moment falen zeer klein. Het stemsysteem verwerpt automatisch de lege antwoorden en selecteert een geldig antwoord uit de succesvolle pogingen. De onderzoekers vonden een sterke link tussen hoe vaak de standaardmethode er niet in slaagde een antwoord te produceren en hoeveel de stemmethode de score verbeterde. In de moeilijkste tests verminderde de stemmethode het aantal lege, mislukte antwoorden met de helft.
Deze bevinding verandert hoe we moeten denken over het slimmer maken van kunstmatige intelligentie. Het suggereert dat een groot deel van het voordeel van het vragen aan een computer om meerdere keren te proberen, simpelweg is dat het antwoorden herstelt die anders verloren zouden gaan door technische beperkingen. De onderzoekers benadrukten ook een cruciale les voor toekomstige studies: hoe je de resultaten telt, doet er enorm toe. In hun initiële analyse ontdekten ze dat als ze mislukte netwerkverbindingen of time-outs als foutieve antwoorden telden, de stemmethode op sommige taken minder goed leek te presteren. Dit kwam omdat de stemmethode meer pogingen onderneemt, waardoor het meer kansen heeft om een technische storing te raken. Door de methoden strikt te vergelijken op basis van alleen de vragen die ze allemaal succesvol beantwoordden, onthulden de onderzoekers de werkelijke prestaties. Hun werk demonstreert dat voor de meest capabele modellen van vandaag de dag, de eenvoudigste strategie van meerdere keren proberen en de consensus kiezen de meest betrouwbare manier is om betere antwoorden te krijgen, en dat de winst grotendeels voortkomt uit het waarborgen dat de computer zijn gedachte afmaakt in plaats van het vinden van een slimmer pad naar de oplossing.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.