SkillCAT: Contrastive Assessment and Topology-Aware Skill Self-Evolution for LLM Agents
SkillCAT is een trainingsvrij framework dat LLM-agenten verbetert door gebruik te maken van Contrastive Causal Extraction, Assessment-Augmented Evolution en Topology-Aware Task Execution om herbruikbare vaardigheden te genereren, te valideren en efficiënt te implementeren, waarbij een prestatieverbetering van tot wel 40,40% ten opzichte van baselines wordt bereikt over diverse benchmarks.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een zeer slimme robotassistent leert hoe hij complexe taken moet uitvoeren, zoals het beheren van een spreadsheet of het beantwoorden van vragen vanuit een document. De robot is al slim, maar hij heeft een "spiekbriefje" (een set instructies of vaardigheden) nodig om te kunnen slagen.
Het probleem met oudere methoden is dat ze proberen dit spiekbriefje te schrijven door de robot één keer een taak te laten uitvoeren. Als hij slaagt, schrijven ze op wat hij deed. Als hij faalt, gokken ze misschien wat er misging. Vervolgens stapelen ze al deze aantekeningen op tot één enorme, rommelige handleiding. Wanneer de robot een nieuwe taak probeert, moet hij de volledige handleiding lezen, zelfs als het grootste deel ervan irrelevant is, wat hem in verwarring brengt en vertraagt.
SkillCAT is een nieuwe, slimmere manier om het spiekbriefje te bouwen. Het hoeft de robot niet opnieuw te trainen; het organiseert het leerproces simpelweg in drie duidelijke fasen, als een driestaps kookwedstrijd.
1. De "Vergelijk en Contrast" Fase (Contrastieve Causale Extractie)
De Oude Manier: De chef (de robot) probeert een cake te bakken. De cake komt aangebrand uit. De schrijver van het kookboek schrijft dan alleen: "Bak de cake niet aan," zonder te weten waarom.
De SkillCAT Manier: De chef probeert de cake vijf keer te bakken met licht verschillende ingrediënten.
- In één poging is de cake perfect.
- In een andere poging is de cake aangebrand.
- SkillCAT kijkt naar de perfecte cake en de aangebrande cake naast elkaar. Het vraagt zich af: "Wat was het éne specifieke ding dat de chef anders deed vlak voordat de ramp gebeurde?"
- Het negeert de rest van het bakproces en focust zich alleen op dat cruciale moment waarop het succes en de mislukking van elkaar afweek. Dit zorgt ervoor dat de les gaat over de werkelijke oorzaak van het probleem, en niet over willekeurige ruis.
2. De "Proefrit" Fase (Beoordelingsversterkte Evolutie)
De Oude Manier: De schrijver van het kookboek neemt een nieuwe tip (zoals "voeg meer suiker toe") en voegt deze direct toe aan het meesterkookboek, in de hoop dat het helpt. Soms verpest deze nieuwe tip een recept dat al werkend was.
De SkillCAT Manier: Voordat SkillCAT een nieuwe tip aan het meesterkookboek toevoegt, plaatst het deze in een testkeuken.
- Het neemt de nieuwe tip en probeert deze toe te passen op de exact dezelfde recepten voor de cake die de chef al eerder heeft gebakken.
- Het Scorebord:
- Als de tip een mislukte cake verandert in een succes, krijgt het een gouden ster (Hoge Score).
- Als de tip een succesvolle cake succesvol houdt, krijgt het een zilveren ster (Goede Score).
- Als de tip een succesvolle cake verandert in een mislukking, krijgt het een rode kaart (Afgewezen).
- Alleen de tips die deze proefrit doorstaan, mogen in het definitieve boek terechtkomen. Dit voorkomt dat de robot slechte gewoonten aanleert die de dingen die hij al kan, kunnen verpesten.
3. De "Slimme Index" Fase (Topologie-bewuste Taakuitvoering)
De Oude Manier: Wanneer de robot een cake moet bakken, wordt hij gedwongen om het volledige kookboek van 500 pagina's te lezen, inclusief hoofdstukken over hoe je een verbrande pizza repareert of hoe je een soufflé bakt, ook al is hij gewoon een cake aan het maken. Dit is overweldigend en afleidend.
De SkillCAT Manier: SkillCAT organiseert het kookboek als een slim, klikbaar menu.
- Het bouwt een kaart (een topologie) van alle vaardigheden.
- Wanneer de robot de opdracht krijgt om een cake te bakken, kijkt het systeem naar het menu en zegt: "Oké, we hebben alleen het hoofdstuk 'Cake' en het gedeelte 'Mixen' nodig."
- Het laadt alleen die specifieke pagina's in de geest van de robot. Het negeert de hoofdstukken over pizza en soufflé volledig. Dit houdt de robot gefocust, snel en minder verward.
De Resultaten
De onderzoekers testten dit systeem op taken zoals het repareren van spreadsheets, het beantwoorden van vragen vanuit tabellen en het lezen van documenten.
- Betere Scores: Door dit driestaps proces te gebruiken, verbeterde de gemiddelde score van de robot met wel 40% vergeleken met oudere methoden.
- Succes bij Verschillende Modellen: Zelfs als een andere robot (een ander AI-model) het spiekbriefje gebruikt dat door de eerste robot is gemaakt, presteerde deze nog steeds veel beter dan voorheen.
- Geen Training Nodig: Het beste eraan is dat ze de robot niet vanaf nul opnieuw hoefden te leren. Ze hebben simpelweg hun eerdere ervaringen beter georganiseerd.
Kortom: SkillCAT zorgt ervoor dat de robot niet gokt, test zijn nieuwe ideeën voordat ze regels worden, en zorgt ervoor dat hij alleen de instructies leest die hij op dat moment daadwerkelijk nodig heeft.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.