PRECEPT: Planning Resilience via Experience, Context Engineering & Probing Trajectories A Unified Framework for Test-Time Adaptation with Compositional Rule Learning and Pareto-Guided Prompt Evolution

Het paper introduceert PRECEPT, een unified framework voor testtijd-adaptatie dat de prestaties van LLM-agenten verbetert door deterministische regelretrieval, conflictbewust geheugen en een door Pareto-gestuurde prompt-evolutie (COMPASS) te combineren, wat leidt tot aanzienlijke winsten in generalisatie, robuustheid en leerefficiëntie.

De kern

Stel je voor dat je een zeer slimme, maar soms wat verwarde assistent hebt. Deze assistent (een AI) kan geweldig praten en redeneren, maar als je hem te veel regels tegelijk geeft, of als de wereld om hem heen verandert, raakt hij in de war. Hij vergeet dingen, verwardt oude informatie met nieuwe, en maakt dezelfde fouten keer op keer.

Het paper PRECEPT introduceert een nieuwe manier om zo'n assistent te bouwen. In plaats van te hopen dat de AI "slimmer" wordt door meer te leren, bouwen we hem een strakke, onbreekbare structuur om.

Hier is hoe PRECEPT werkt, vertaald naar alledaagse analogieën:

1. Het Grote Probleem: De "Verwarde Bibliothecaris"

Stel je een bibliotheek voor waar alle boeken (kennis) in de taal van de AI geschreven zijn. Als je vraagt: "Wat moet ik doen als het regent én de weg dicht is?", moet de AI alle boeken doorzoeken, samenvatten en hopen dat hij de juiste zin vindt.

• Het probleem: Bij één vraag lukt dat. Maar bij tien verschillende voorwaarden (regens, weg, tijd, budget, etc.) raakt de AI in de war. Hij begint halve zinnen te combineren die niet kloppen. Het is alsof je probeert een recept te maken door zinnen uit verschillende kookboeken te plakken; het resultaat is vaak onsmakelijk.

2. De Oplossing: PRECEPT (De "Drie-Voudige Superkracht")

PRECEPT lost dit op met drie slimme trucjes:

A. De Perfecte Adreslijst (Deterministische Zoeking)

In plaats van te zoeken in een hoop tekst, geeft PRECEPT elke regel een exact adres (een soort postcode).

• Analogie: Stel je voor dat je in plaats van te vragen aan een bibliothecaris "Waar staat het boek over regen?", je direct naar Schril 123 loopt. Je vindt het boek direct. Geen gissen, geen "misschien".
• Het resultaat: De AI maakt geen interpretatiefouten meer. Als de voorwaarden precies overeenkomen met het adres, pakt hij de juiste regel. Dit werkt zelfs als je 10 of 20 voorwaarden tegelijk hebt.

B. De Slimme Hoed (Conflicthantering)

Soms zegt een oud document (statische kennis) "Doe A", maar zegt je ervaring van vandaag (dynamische kennis) "Doe B".

• Analogie: Stel je voor dat je een oude kaart hebt die zegt dat de brug open is, maar je ziet met je eigen ogen dat hij dicht is. Een normale AI zou verward raken. PRECEPT heeft een Slimme Hoed die zegt: "Hé, mijn ogen (nieuwe ervaring) zijn betrouwbaarder dan die oude kaart. Ik vertrouw de kaart niet meer."
• Hoe werkt het? De AI houdt bij welke bronnen vaak gelijk hebben en welke niet. Als een oude regel vaak fout blijkt, wordt hij automatisch uitgeschakeld.

C. De Oefenmeester (COMPASS)

Soms is de AI niet alleen verward, maar ook gewoon niet efficiënt. Hij doet dingen in de verkeerde volgorde.

• Analogie: Stel je voor dat je een sporter traint. De Oefenmeester (COMPASS) kijkt niet alleen of hij wint, maar ook hoe hij wint. Als de sporter een snelle maar onzeker manier gebruikt, probeert de Oefenmeester een nieuwe strategie uit. Hij houdt een lijst bij van de beste manieren om een taak te doen, zodat de AI nooit vastloopt in een slechte gewoonte.

3. Wat levert dit op? (De Resultaten)

In de tests die in het paper worden beschreven, deed deze nieuwe AI het veel beter dan de oude methoden:

• Sneller: Hij had minder pogingen nodig om een taak te voltooien (zoals iemand die de weg kent, in plaats van iemand die rondrijdt om te zoeken).
• Betrouwbaarder: Als de wereld verandert (bijvoorbeeld: een nieuwe regel of een gesloten weg), past hij zich direct aan. Oude methoden blijven vastzitten in hun oude, foutieve regels.
• Niet verwarrend: Zelfs met heel veel regels tegelijk bleef hij kalm en correct, terwijl andere AI's in de war raakten.

Samenvattend: Waarom is dit belangrijk?

Vroeger hoopten we dat AI's "slimmer" zouden worden door ze meer data te geven. PRECEPT leert ons dat structuur belangrijker is dan alleen maar "slimmer" zijn.

Het is het verschil tussen:

1. Iemand die probeert een complex recept uit het hoofd te onthouden (vaak fouten, vooral als je veel ingrediënten hebt).
2. Iemand die een perfect georganiseerd kookboek heeft met een index, waar elke stap exact staat beschreven, en die weet welke stappen hij moet overschrijven als de ingrediënten veranderen.

PRECEPT bouwt die perfecte index en dat zelfcorrigerende systeem. Hierdoor kunnen AI's veilig en betrouwbaar worden ingezet voor echte, moeilijke taken zoals logistiek, medische zorg of financiële regels, zonder dat ze in paniek raken of dezelfde fouten blijven maken.

Technische samenvatting

Titel: PRECEPT: Planning Resilience via Experience, Context Engineering & Probing Trajectories

Ondertitel: Een unificerend kader voor aanpassing tijdens het testen (Test-Time Adaptation) met compositional rule learning en Pareto-gestuurde prompt-evolutie.

1. Het Probleem

Huidige LLM-agenten (Large Language Models) die kennis opslaan als natuurlijke taal, kampen met fundamentele beperkingen bij het schalen naar complexe, real-world scenario's:

• Afname van zoekopdrachten (Retrieval Degradation): Naarmate het aantal voorwaarden (conditions) toeneemt, degradeert de nauwkeurigheid van het ophalen van kennis exponentieel door interpretatiefouten bij het matchen van natuurlijke taal.
• Compositional Explosion: Het leren van alle mogelijke combinaties van regels is onhaalbaar (O(2^N) training nodig).
• Drift-blindheid: Agents kunnen verouderde of adversariele kennis niet detecteren en blijven deze gebruiken, wat leidt tot fouten wanneer de omgeving verandert.
• Inefficiëntie: Bestaande methoden (zoals Reinforcement Learning) vereisen enorme hoeveelheden trainingsdata (sample complexity) en kunnen niet snel aanpassen zonder volledige hertraining.

2. Methodologie: Het PRECEPT Kader

PRECEPT is een unificerend kader dat drie strak gekoppelde componenten introduceert om deze problemen op te lossen. Het systeem bestaat uit een client-server architectuur waarbij de zware bewerkingen (Bayese tracking, Evo-Memory) worden afgehandeld door een server, terwijl de client-agent lichtgewicht blijft.

A. Deterministische Exact-Match Regel Retrieval

In plaats van semantische zoekopdrachten op natuurlijke taal, gebruikt PRECEPT gestructureerde condition keys.

• Mechanisme: O(1) exacte hash-lookup in een gestructureerde tabel.
• Voordeel: Elimineert interpretatiefouten volledig op het deterministische pad.
• Compositional Stacking: Door een Semantische Tier Hiërarchie (Safety > Compliance > Preferences) te gebruiken, kan het systeem N atomische regels combineren om tot 2^N - 1 complexe scenario's te behandelen zonder extra training.

B. Conflictbewust Geheugen (Evo-Memory) & Drift Adaptatie

PRECEPT implementeert een dynamisch geheugen dat geïnspireerd is op het "Digital Red Queen" principe (continue aanpassing tegen een groeiende geschiedenis van tegenstanders).

• Type I Conflict (Statisch vs. Dynamisch): Wanneer statische kennis (bijv. documentatie) botst met dynamische ervaring (runtime), gebruikt het systeem een Ensemble Conflict Detector (NLI, semantische patronen, etc.) en Bayese Bronbetrouwbaarheid met Thompson Sampling om de meest betrouwbare bron te selecteren.
• Type II Conflict (Omgevingsdrift): Als een regel faalt, wordt de betrouwbaarheid ervan gehalveerd. Na een drempelwaarde (θ=2) wordt de regel ongeldig verklaard en verwijderd. Dit zorgt voor een 64x hogere weerstand tegen verouderde kennis vergeleken met verbale methoden.
• Deterministische Pruning: Een RefineInterceptor zorgt ervoor dat agents nooit dezelfde mislukte actie herhalen (P(repeat_fail) = 0).

C. COMPASS (Prompt Evolution)

COMPASS is een dubbel-frequentie aanpassingslaag die de prompt van de agent optimaliseert.

• Hoge frequentie: Real-time monitoring van acties en fouten per stap.
• Lage frequentie: Event-gestuurde prompt-evolutie. Het gebruikt Pareto-optimaliteit om prompts te selecteren die zowel succes als efficiëntie maximaliseren, en MAP-Elites om strategische diversiteit te behouden en convergentie naar één falende strategie te voorkomen.
• Verificatie: Prompts worden geëvalueerd via daadwerkelijke uitvoering in de omgeving, niet door heuristieken of "LLM-as-judge".

3. Belangrijkste Bijdragen

1. Compositional Rule Learning: PRECEPT bereikt 100% succes op 2-weg logistieke composities en +33,3% verbetering in compositional generalisatie door deterministische retrieval en tier-based stacking.
2. Unificatie van Conflict Oplossing: Het biedt een enkel kader voor zowel statische-dynamische conflicten (Type I) als omgevingsdrift (Type II), met een wiskundig bewezen weerstand tegen cyclische fouten.
3. COMPASS Architectuur: Een dubbel-laags systeem voor prompt-evolutie dat zorgt voor robuustheid in onbekende (OOD) omgevingen.
4. Theoretische Garantieën: Het paper levert gesloten-formule bewijzen voor de voordelen, waaronder een 22,6x voordeel bij 10 voorwaarden en een 64x drift-resilience ratio.

4. Resultaten

De resultaten zijn gebaseerd op 9-10 onafhankelijke seeds over drie domeinen (Logistiek, Boeking, Integratie):

• Eerste-poging Succes (P1): PRECEPT behaalt +41,1% meer succes op de eerste poging vergeleken met Full Reflexion.
• Compositional Generalisatie: +33,3% verbetering.
• Drift Herstel: +55,0% verbetering in het herstel na een verandering in de omgeving (drift).
• Efficiëntie: PRECEPT vereist 61% minder stappen dan concurrenten.
• Adversariele Robuustheid: Zelfs met kwaadaardige statische kennis die de agent probeert te misleiden, herstelt PRECEPT volledig via zijn Bayese conflictresolutie, terwijl baselines falen.
• Statistische Significantie: De kernresultaten zijn statistisch significant (vaak p < 0,001).

5. Betekenis en Impact

PRECEPT vertegenwoordigt een paradigmaverschuiving in het bouwen van LLM-agenten:

• Van Schaal naar Structuur: Het paper betoogt dat betrouwbaarheid niet komt van grotere modellen of langere contextvensters, maar van architecturale structuur. Door deterministische retrieval te combineren met probabilistische inferentie voor conflicten, worden de inherente zwaktes van LLM's (zoals hallucinaties en prior bias) omzeild.
• Auditability: In tegenstelling tot "black-box" RL-politiek, slaat PRECEPT kennis op als expliciete, inspecteerbare regels, wat essentieel is voor toepassingen in hoog-risico domeinen zoals logistiek, gezondheidszorg en financiële regulering.
• Toekomstperspectief: Het biedt een blauwdruk voor agents die niet alleen leren, maar ook kunnen "vergeten" (unlearn) en zich aanpassen aan veranderende realiteiten zonder volledige hertraining.

Kortom, PRECEPT bewijst dat het combineren van deterministische regels met adaptieve, Bayese conflictoplossing leidt tot agents die aanzienlijk robuuster, efficiënter en betrouwbaarder zijn dan bestaande state-of-the-art methoden.