Externalization in LLM Agents: A Unified Review of Memory, Skills, Protocols and Harness Engineering
Dit artikel presenteert een systematisch kader dat de evolutie van LLM-agenten beschrijft als een verschuiving van interne modelgewichten naar geexternaliseerde cognitieve infrastructuren zoals geheugen, vaardigheden, protocollen en besturingsmechanismen, die samen de betrouwbaarheid en prestaties van deze agenten fundamenteel transformeren.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat een Groot Taalmodel (LLM) zoals ChatGPT een genie is. Het is slim, kan veel weten en praat vloeiend. Maar als je dit genie alleen laat werken, heeft het een groot probleem: het heeft een kortetermijngeheugen alsof het net uit de kooi is gekomen, het vergeet wat het gisteren deed, en het moet elke keer het wiel opnieuw uitvinden als het een taak moet uitvoeren.
Deze paper, getiteld "Externalization in LLM Agents", zegt eigenlijk: "Stop met proberen het genie slimmer te maken. Bouw in plaats daarvan een beter kantoor om het genie heen."
Hier is de uitleg in simpele taal, met een paar creatieve metaforen.
De Grote Verandering: Van "Alles in het hoofd" naar "Alles in het systeem"
Vroeger dachten we: "Hoe meer kennis we in het brein van de AI stoppen (door het te trainen), hoe beter het wordt."
Nu zien we: "Hoe beter we de omgeving rondom de AI organiseren, hoe betrouwbaarder het wordt."
De auteurs noemen dit Externalisatie. Het idee is dat we de zware cognitieve lasten van het AI-brein afpakken en in externe hulpmiddelen stoppen. Denk aan hoe mensen ook werken: wij gebruiken geen geheugen voor alles; we gebruiken agenda's, post-its, en collega's.
De paper beschrijft vier belangrijke onderdelen van dit nieuwe "kantoor":
1. Het Geheugen (Memory) = De Notitieblokjes
Het probleem: Een AI vergeet alles zodra je de chat venster sluit. Het is alsof je elke ochtend wakker wordt zonder te weten wie je bent of wat je gisteren hebt gedaan.
De oplossing: External Memory.
- De Metafoor: Stel je voor dat de AI een detective is. In plaats van alles in zijn hoofd te proberen te houden, heeft hij een groot archief met dossiers.
- Hoe het werkt: Als de detective een nieuwe zaak begint, pakt hij niet uit zijn hoofd wat hij weet, maar hij kijkt in zijn archief. Hij zoekt naar oude dossiers (episodisch geheugen), feiten over de stad (semantisch geheugen) en notities over de cliënt (persoonlijk geheugen).
- Het resultaat: De AI hoeft niet meer te "herinneren" (wat moeilijk is), maar moet alleen maar "herkennen" wat er in het dossier staat. Het is makkelijker om een dossier te lezen dan om het uit je hoofd te reproduceren.
2. De Vaardigheden (Skills) = De Handleidingen
Het probleem: Als je de AI vraagt om een complexe taak te doen (bijv. "Maak een website en test hem"), moet het elke keer zelf bedenken hoe het dat doet. Soms vergeet het een stap, soms doet het het verkeerd. Het is alsof je een kok vraagt om een recept te bedenken terwijl hij kookt.
De oplossing: Externalized Skills.
- De Metafoor: In plaats van dat de kok het recept uit zijn hoofd moet kennen, hangen we stap-voor-stap handleidingen op de muur.
- Hoe het werkt: Er zijn specifieke "vaardigheidskaarten" voor dingen zoals "Code schrijven", "E-mail sturen" of "Data analyseren". De AI hoeft niet meer uit te vinden hoe hij iets doet; hij pakt gewoon de juiste handleiding, leest hem, en volgt de instructies.
- Het resultaat: De AI wordt niet slimmer, maar consistent. Het maakt minder fouten omdat het zich aan een bewezen plan houdt, net zoals een piloot die de checklist afvinkt.
3. De Protocollen = De Regels van het Spel
Het probleem: Als de AI met andere computers, mensen of tools praat, is het vaak een chaos. Het moet raden hoe het een bericht moet opstellen, wat de juiste volgorde is, en wie toestemming heeft.
De oplossing: Protocols.
- De Metafoor: Stel je voor dat de AI een tolk is die met verschillende landen praat. Zonder protocollen zou hij in het wilde weg praten. Met protocollen heeft hij een standaard vertaalboek en een formulier dat hij moet invullen.
- Hoe het werkt: Protocollen zijn strikte regels voor hoe de AI met tools praat. Het is niet meer "raak maar een knop in", maar "vul dit formulier in met deze gegevens". Het zorgt ervoor dat de communicatie veilig, voorspelbaar en gestructureerd is.
- Het resultaat: De AI kan veilig samenwerken met andere systemen zonder dat er dingen misgaan door slechte communicatie.
4. De Harness (Het Systeem) = De Manager
Het probleem: Je hebt nu een archief, handleidingen en regels. Maar wie zorgt dat de AI de juiste handleiding pakt, het juiste dossier zoekt, en niet te veel tijd verspilt?
De oplossing: Harness Engineering.
- De Metafoor: De Harness is de manager of de regisseur in het kantoor.
- Hoe het werkt: De manager zorgt voor:
- Toezicht: Hij kijkt of de AI niet te ver gaat (veiligheid).
- Organisatie: Hij zorgt dat de AI niet overbelast raakt met te veel informatie.
- Controle: Hij houdt bij wat er gebeurt, zodat we kunnen terugkijken als er iets misgaat.
- Het resultaat: De AI werkt in een veilige, georganiseerde omgeving waar hij zich kan focussen op het slimme werk, terwijl de manager zorgt voor de rest.
Waarom is dit zo belangrijk?
De paper zegt dat we niet hoeven te wachten tot AI's "goden" worden die alles uit hun hoofd weten. In plaats daarvan bouwen we beter gereedschap om hen heen.
- Vroeger: We dachten dat de oplossing was om het AI-brein groter te maken (meer gewichten).
- Nu: We zien dat de oplossing is om de taak te veranderen. We maken de taak makkelijker voor de AI door het geheugen, de regels en de stappen extern te maken.
De conclusie in één zin:
Een goede AI-agent is niet alleen een slim brein; het is een slim brein in een slim kantoor. Door de lasten van het geheugen, de procedures en de communicatie uit het hoofd van de AI te halen en in externe systemen te stoppen, worden ze betrouwbaarder, veiliger en slimmer in de praktijk.
Het is alsof je niet probeert een mens te trainen om een supercomputer te zijn, maar je geeft hem een supercomputer, een perfecte bibliotheek en een team van experts om mee te werken. Dat is de toekomst van slimme AI.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.