🤖 machine learning

Agentic Skill Optimization over Lie Algebroids

Dit artikel introduceert LASKO, een nieuw framework dat de optimalisatie van agentische vaardigheden modelleert met behulp van Lie-algebroiden om edit-policies en hun niet-commutatieve composities te representeren, wat orde van grootte snellere resultaten mogelijk maakt door edits te screenen via goedkope Lie-bracket-testen vóór kostbare LLM-validatie.

Oorspronkelijke auteurs: Sridhar Mahadevan

Gepubliceerd 2026-07-14

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Sridhar Mahadevan

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een gigantische, complexe machine probeert te repareren die gemaakt is van Lego-blokjes, waarbij elk blokje een specifieke instructie, een regel of een checklist is voor een robot. Deze machine is een "agentic system" dat slimme dingen doet. Het probleem is dat wanneer de robot een fout maakt, je niet zomaar één Lego-blokje kunt vervangen en op het beste hopen. Soms is de volgorde waarin je de blokjes vervangt enorm belangrijk. Als je de "veiligheidsregels" fixt voordat je de "regelregels" fixt, werkt de machine. Maar als je ze in omgekeerde volgorde doet, stort de hele boel in.

Dit is het puzzelstukje dat het papier LASKO (Lie Algebroid SKill Optimization) probeert op te lossen.

Het Problem: De "Volgorde Maakt Zaken" Valstrik

Denk aan de instructies van de robot als een lang verhaal geschreven in een speciale taal genaamd Markdown. Om de robot beter te maken, probeert een AI-optimizer dit verhaal aan te passen. Het stelt kleine wijzigingen voor: "Voeg een regel toe hier," "Verwijder die voorbeelden daar," of "Verbeter dit schema."

Op de oude manier van doen (genoemd SKILLOPT), gedraagt de optimizer zich als een onhandige tuinier. Hij probeert één verandering, kijkt of de plant groeit, en probeert dan een andere. Hij gaat ervan uit dat elke verandering onafhankelijk is, zoals het toevoegen van een enkele bloem aan een tuin. Maar het papier betoogt dat dit fout is. Deze veranderingen zijn meer als tandwielen in een klok. Als je de veer probeert te repareren voordat je het tandwiel repareert waar hij mee verbonden is, zal de klok niet tikken. De tekst stelt expliciet dat je niet zomaar elke mogelijke combinatie van bewerkingen één voor één kunt proberen. Het zegt dat het proberen van elke mogelijke volgorde (een "brute-force" benadering) te duur en te traag is, omdat je de robot bij elke wijziging door een enorme, dure test moet laten gaan. Het betoogt ook tegen het idee dat één enkele "score" voor een verandering het hele verhaal vertelt; soms ziet een verandering er direct goed uit, maar ruïneert het het vermogen van de robot om later te leren.

De Oplossing: De "Geheime Handdruk" Detector

De auteurs stellen een nieuw framework voor genaamd LASKO. Om dit te begrijpen, stel je voor dat de instructies van de robot niet alleen een platte lijst zijn, maar een 3D-structuur met verborgen lagen.

De Zichtbare Laag (Het Anker): Dit is wat je op het scherm ziet—de werkelijke woorden die in het document veranderen.
De Verborgen Laag (De Kernel): Dit is het onzichtbare gedeelte: de interne routering, de template-variabelen en de "stemming" van de robot die je niet direct kunt zien, maar die bepaalt hoe toekomstige veranderingen zich gedragen.
De Geheime Handdruk (De Bracket): Dit is het grote idee van het papier. Het is een wiskundige test die controleert of twee veranderingen correct "handdrukken". Als je Verandering A doet en dan Verandering B, voelt dat dan hetzelfde als Verandering B doen en dan Verandering A?

In de wereld van LASKO, als twee veranderingen niet "commuteren" (wat betekent dat de volgorde het resultaat verandert), markeert het systeem ze als een "high-bracket" paar. Dit is als een verkeersregelaar op een druk kruispunt. In plaats van elke auto (elke mogelijke volgorde van bewerkingen) door te laten rijden om te zien of ze botsen, gebruikt de regelaar een snelle, goedkope sensor om de verkeersstroom te controleren.

De Magie: 15 keer Sneller

Hier worden de cijfers spannend. Het papier heeft een reeks tests uitgevoerd om te zien of dit "verkeersregelaar"-idee daadwerkelijk werkt.

Ze zetten een uitdaging op waarbij de robot een workflow moest repareren met 10 specifieke ankers (zoals "schema", "tool contract", "validator", enzovoort).

De Oude Manier (Brute Force): Om de perfecte fix te vinden, zou je elke mogelijke volgorde van bewerkingen moeten proberen. Voor 10 items zijn dat 90 verschillende geordende paren. Als je elk van deze door een gigantisch AI-model laat lopen (zoals het DeepSeek V3.1 4-bit model met 671B parameters dat in het papier wordt genoemd), duurt het eeuwig.
De LASKO Manier: Het systeem voert eerst een super snelle "bracket probe" uit. Dit is een kleine, goedkope berekening die microseconden duurt (specifiek merkt het papier op dat een probe in één test ongeveer 0,000127 seconden duurde). Deze probe voorspelt welke paren van bewerkingen waarschijnlijk de "high-bracket" paren zijn die er echt toe doen.
Het Resultaat: In plaats van alle 90 paren te testen, voert LASKO 90 bracket probes uit om de lijst te filteren, en valideert vervolgens alleen de top 10 voorspelde paren.

In hun experimenten bereikte deze aanpak een versnelling van bijna 15× vergeleken met de brute-force methode. In een specifieke test met een DeepSeek V3.1 model, duurde de brute-force methode 538,1 seconden om alle opties te valideren, terwijl LASKO dezelfde taak volbracht in slechts 36,2 seconden. Dat is een 14,85× versnelling.

Nog indrukwekkender: in een test met een Nemotron 70B model daalde de tijd van 712,4 seconden naar 86,0 seconden (een 8,28× versnelling). Over alle geteste modellen heen was de gemiddelde versnelling 6,94×.

Wat Dit Eigenlijk Betekent

Het papier is zeer voorzichtig om te zeggen dat dit geen toverstaf is die alles direct oplost. Het verwijdert niet de noodzaak voor de dure "validatie"-stap waarbij de robot de fix daadwerkelijk probeert uit te voeren. In plaats daarvan fungeert het als een filter.

Denk aan een uitsmijter bij een club. De "bracket probe" is de uitsmijter die ID-bewijzen controleert bij de deur. Het is snel en goedkoop. Het houdt de mensen tegen die sowieso niet binnenkomen (de slechte volgordes van bewerkingen), zodat de dure "served validation" (de eigenlijke toegang tot de club) alleen te maken krijgt met de mensen die een echte kans maken.

De auteurs suggereren dat deze methode het systeem in staat stelt om de perfecte reparatiesequentie te vinden (met een score van 1,000) terwijl er slechts een fractie van de tijd en het geld wordt besteed. In een test met 160 bewerkingen zou de brute-force methode 25.441 dure validatiecontroles nodig hebben. LASKO, met zijn bracket-screening, had slechts 168 probes (een combinatie van bracket-checks en definitieve validatie-oproepen) nodig om dezelfde perfecte score te behalen.

De Kernboodschap

Het papier suggereert dat door skill-editing niet te behandelen als een platte lijst van opties, maar als een gestructureerd systeem waarbij de volgorde en de verborgen context ertoe doen, we AI-agents veel sneller kunnen optimaliseren. Het gaat niet om beter gokken; het gaat erom weten welke gokken de dure test waard zijn.

Hoewel de resultaten veelbelovend zijn en de versnellingen gemeten zijn in echte experimenten met grote modellen, presenteren de auteurs dit als een nieuw framework voor optimalisatie. Ze laten zien dat de "Lie bracket" (de volgorde-gevoeligheidstest) een krachtig hulpmiddel is om slechte paden eruit te filteren voordat ze ons tijd en geld kosten. Het verandert een chaotische zoektocht door een doolhof in een begeleide rondleiding, waardoor we alleen de paden bewandelen die de grootste kans hebben om ons bij de uitgang te brengen.

Technische Samenvatting: Agentic Skill Optimization Over Lie Algebroids (LASKO)

1. Probleemstelling

Agentic skill optimization (agentische vaardigheidsoptimalisatie), zoals geïllustreerd door frameworks zoals SKILLOPT, omvat het verbeteren van agent-prestaties door het bewerken van gestructureerde artefacten (prompts, rubrieken, schema's, tool-contracten, validators en traces). De centrale moeilijkheid die in dit artikel wordt geïdentificeerd, is dat de zoekruimte voor deze bewerkingen niet vlak is.

Niet-commutativiteit: De volgorde van bewerkingen is van belang. Het repareren van een schema vóór het toepassen van een normalisatieregel kan andere resultaten opleveren dan het toepassen van deze in omgekeerde volgorde. Twee bewerkingen die lokaal redelijk lijken, kunnen falen bij compositie, of zwakke bewerkingen worden pas productief in een specifieke sequentie.
Latente Structuur versus Zichtbare Effecten: Een bewerkingsbeleid gekozen door een optimizer is niet identiek aan de zichtbare verandering waargenomen in een document of rollout. Gecontroleerde interventies dragen vaak interne implementatiecoördinaten, latente toestanden, routing-context of template-variabelen met zich mee, die in de eerste orde onzichtbaar zijn maar de toekomstige compositie aanzienlijk beïnvloeden.
Inefficiëntie van Huidige Methoden: Korte-horizon loops die slechts enkele bewerkingen valideren, missen kritieke interactie-effecten, terwijl het uitputtend enumereren van geordende bewerkingsprogramma's computationeel onhaalbaar is vanwege de hoge kosten van Large Language Model (LLM) rollouts en validaties.

Het artikel stelt dat dit een geometrisch probleem is: de lokale algebra van bewerkingen rond een getypeerd skill-artefact vereist een formalisme dat onderscheid maakt tussen gecontroleerde interventies en hun zichtbare effecten.

2. Methodologie: LASKO-framework

Het artikel introduceert LASKO (Lie Algebroid SKill Optimization), een framework dat skill-optimalisatie modelleert over een gecontroleerde Lie algebroïde $A \to M_d$ in plaats van een eenvoudige tangentbundel.

2.1 Wiskundig Formalisme

Basiscategorie ( $M_d$ ): De basisruimte is een tangentie-categorie van getypeerde, verankerde Markdown-objecten. Dit omvat documenten, plannen, tool-contracten en validator-traces. In tegenstelling tot Euclidische parameterruimtes zijn dit gestructureerde artefacten met specifieke ankers (bijv. guardrails, schema-velden, bewijskanten).
De Lie algebroïde ( $A$ ): De vezel $A_x$ op een skill-toestand $x$ bevat gecontroleerde bewerkingsbeleid (secties $s, t \in \Gamma(A)$ ). Dit zijn nog geen zichtbare veranderingen, maar vertegenwoordigen modi van interventie (bijv. "versterk guardrail", "repareer schema").
De Ankerkaart ( $\rho$ ): Een bundelafbeelding $\rho: A \to TM_d$ $ρ : A \to T M_{d}$ brengt een gecontroleerde interventie in kaart naar het zichtbare infinitesimale effect op het Markdown-artefact.
- Kern ( $\ker(\rho)$ ): Vertegenwoordigt latente structuur (template-variabelen, routing-keuzes, verborgen toestand) die geen onmiddellijk zichtbaar effect heeft, maar toekomstige compositie beïnvloedt.
De Lie-haak $[\cdot, \cdot]_A$ : Meet de volgordegevoeligheid bij het componeren van twee bewerkingsbeleid. Als $[s, t]_A \neq 0$ , dan communiceren de bewerkingen niet. De haak vangt het "compositiedefect" op voordat de interventie wordt geprojecteerd in observeerbare dynamiek.

2.2 Operationele Mechanisme

LASKO maakt gebruik van een forward-backward proces:

Forward Pass (Tangent Functor): Lokale bewerkingen worden doorgevoerd via rewrites, rollouts en observatiecontexten.
Backward Pass (Cotangent Structuur): Validatieverliezen, kritieken en faalsignalen worden teruggehaald naar specifieke artefact-ankers (diagrammatische backpropagation).
Curvatuur Diagnostiek: Het systeem berekent residuen om non-closure en pad-afhankelijkheid te meten:
- Zichtbaar Frobenius Residue ( $R_{vis}$ ): Meet of zichtbare bewerkingen sluiten onder de Lie-haak.
- Anker Residue ( $R_{anchor}$ ): Meet het gat tussen de geschatte interventie-algebra en de geobserveerde zichtbare haken.
- Kern Residue ( $R_{ker}$ ): Vangt verborgen procedurele interacties op waarbij zichtbare artefacten overeenkomen maar traces verschillen.
- Diagrammatische Backpropagation Curvatuur ( $Curv_D$ ): Meet pad-afhankelijkheid in credit assignment (schuldtoewijzing).

Het optimalisatiedoel minimaliseert een gecombineerde loss bestaande uit taakprestaties en deze curvatuur-residuen, waarbij wordt gezocht naar laag-curvatuur vaste punten waar bewerkingen communiceren of waar hun niet-commutativiteit wordt meegenomen.

3. Belangrijkste Bijdragen

Geometrische Formulering: Het artikel herformuleert agentische skill-optimalisatie als optimalisatie over een Lie algebroïde, waarbij onderscheid wordt gemaakt tussen de gecontroleerde interventie (sectie) en het zichtbare effect (anker).
Lie-haak Screening: Het stelt voor om de Lie-haak te gebruiken als een goedkope screening-statistiek. Hoog-haak paren worden geïdentificeerd als kandidaten voor dure validatie, terwijl laag-haak paren worden gefilterd. Dit vervangt brute-force sequentie-enumeratie door gerichte paar-probing.
Tangent Categorie van Markdown: Het definieert een formele tangentie-categorie voor getypeerde Markdown-workflows, wat een rigoureuze behandeling van lokale bewerkingen, afhankelijkheden en workflow-morfismen mogelijk maakt.
Empirische Validatie: Het artikel biedt voorlopige benchmarkresultaten die aantonen dat LASKO de prestaties van een uitputtend geordend-paar zoeken kan evenaren met een fractie van de validatiekosten.

4. Experimentele Resultaten

Het artikel rapporteert resultaten over verschillende gecontroleerde benchmarks, waarbij strategieën zoals Greedy Single-Edit, Random Ordered Pairs, Exhaustive Ordered Pairs en LASKO-Prioritized worden vergeleken.

Ten-Anchor Benchmark: In een gecontroleerde 10-anker keten behaalde LASKO een score van 1.000 (overeenkomend met exhaustive search) met slechts 10 validatie-probes (plus 90 goedkope haak-probes). In contrast hiermee scoorde de greedy benadering 0.240, en random pairs 0.266 (gemiddelde).
Schaalbaarheid: Naarmate het aantal bewerkingen toenam (tot 160), behield LASKO een score van 1.000 met een lineair aantal validatie-probes, terwijl exhaustive search een kwadratische groei in probes vereiste (bijv. 25.441 probes voor 160 bewerkingen vs. 168 voor LASKO).
Real-World Workflows:
- 10-K Financial Research (BASKET/ROCKET): LASKO gaf prioriteit aan geldige reparatie-ordes (bijv. tabelextractie vóór numerieke gating) om een score van 1.000 te bereiken met 29 validatie-probes, vergeleken met 183 voor exhaustive search.
- Democritus/PSR Causal Manifolds: Bij het repareren van causale manifolds voor fysieke oefening en GLP-1 medicatiestudies, behaalde LASKO een score van 1.000 met 21 validatie-probes, wat overeenkwam met exhaustive search (111 probes).
- Product Feedback (Lovesac): Vergelijkbare resultaten werden waargenomen bij een product-review reparatie taak, waarbij LASKO een score van 1.000 behaalde met 19 validatie-probes.
Versnelling: Wanneer getest met diverse geserveerde modellen (inclusief DeepSeek V3.1 4-bit, Nemotron, en Llama varianten), demonstreerde LASKO versnellingen variërend van 3.69× tot 14.85×. De primaire drijfveer was de reductie in dure LLM validatie-oproepen, aangezien de haak-screening microseconden duurde (bijv. 0.000508 seconden voor 72 probes) vergeleken met seconden per validatie-oproep.

5. Betekenis en Claims

Het artikel claimt dat LASKO een structurele oplossing biedt voor de inefficiëntie van agentische skill-optimalisatie. Door bewerkingen te modelleren als secties van een Lie algebroïde, houdt het framework expliciet rekening met:

Orde-afhankelijkheid: Het erkennen dat de sequentie van reparaties cruciaal is.
Latente Toestand: Het erkennen dat bewerkingen verborgen context (kern) met zich meebrengen die toekomstige interacties beïnvloedt, zelfs als het onmiddellijke artefact ongewijzigd lijkt.
Validatie-economie: Het bieden van een wiskundig onderbouwde methode om de zoekruimte te filteren. De Lie-haak fungeert als een "screening device" dat hoogwaardige bewerking-interacties identificeert voordat de kosten van een volledige rollout-validatie worden gedragen.

De auteurs benadrukken dat dit een voorlopig framework is. De resultaten tonen "orde-van-grootte versnellingen" in specifieke gecontroleerde benchmarks, wat suggereert dat de geometrische structuur van skill-bewerkingen kan worden benut om agentische zelfverbetering schaalbaar te maken. Het artikel claimt niet het oplossen van alle agentische alignment of redeneerproblemen, maar richt zich specif