Governed Collaborative Memory as Artificial Selection in LLM-Based Multi-Agent Systems

Dit artikel kadert de uitdaging van het selecteren van persistente geheugens in op LLM's gebaseerde multi-agent systemen in als "geleid collaboratief geheugen" en stelt een ontwerpagenda voor die geheugengovernance behandelt als een regime voor kunstmatige selectie om epistemische kwaliteit, betrouwbaarheid van de herkomst en een traceerbare institutionele staat te waarborgen in plaats van uitsluitend te vertrouwen op de nauwkeurigheid van retriever.

De kern

Stel je een team van AI-assistenten voor dat samenwerkt aan een langetermijnproject. In het verleden waren deze AI's als vreemden die elkaar ontmoetten voor een enkel koffietje: ze spraken, gaven advies en vergaten daarna alles zodra de vergadering voorbij was. Ze hadden geen "geheugen" van wie ze waren of wat ze hadden geleerd.

Maar nu krijgen deze AI's persistent geheugen. Ze kunnen lessen van gisteren onthouden, regels voor morgen opslaan en kennis doorgeven aan hun teamgenoten. Dit is geweldig, maar het creëert een nieuw probleem: Wie mag beslissen wat deel gaat uitmaken van de permanente geschiedenis van het team?

Als een AI een fout maakt, een grappig maar fout verhaal schrijft, of een slechte gewoonte aanleert, moet dat dan een permanente regel worden voor het hele team? Of moet het privé blijven?

Dit artikel betoogt dat we een systeem nodig hebben van "Gereguleerd Collaboratief Geheugen". Denk hierbij niet alleen aan een archiefkast, maar aan een selectieproces – zoals een museumconservator beslist welke artefacten worden tentoongesteld en welke in de kelder blijven staan.

Hieronder volgt een uiteenzetting van hun ideeën met behulp van eenvoudige analogieën:

1. Het Probleem: Het "Wilde Westen" van Geheugen

Zonder regels kan een AI gewoon alles opslaan wat het interessant vindt.

• De Analogie: Stel je een student voor die elke gedachte die hij heeft opschrijft in een dagboek, inclusief typefouten, dagdromen en valse feiten. Als hij later dat dagboek leest om te beslissen wat hij moet doen, kan hij handelen op basis van een leugen die hij per ongeluk heeft opgeschreven.
• Het Risico: In AI-termen is dit "ongereguleerde persistentie". Een valse herinnering wordt opgeslagen, opnieuw geladen en herhaald totdat het een permanente, onveranderlijke "feit" wordt voor het hele systeem.

2. De Oplossing: Vier Verschillende "Geheugenniveaus"

De auteurs suggereren dat we niet alle herinneringen hetzelfde moeten behandelen. In plaats daarvan moeten we ze indelen in vier aparte "kamers" in het huis, elk met eigen regels voor wat er binnenkomt:

• Kamer 1: De Persoonlijke Kluis (Agent-Lokaal Geheugen)

  • Wat het is: Privénotities specifiek voor de rol van één AI.
  • De Analogie: Het persoonlijke receptenboek van een chef-kok of de specifieke toolvoorkeuren van een monteur.
  • Waarom: Als we de chef-kok en de monteur dwingen exact dezelfde notities te delen, zou de chef-kok misschien auto's gaan repareren en de monteur misschien gaan koken. We moeten hun unieke "identiteiten" gescheiden houden zodat ze goed blijven in hun specifieke taken.

• Kamer 2: Het Stadhuis (Gedeeld Institutioneel Geheugen)

  • Wat het is: De officiële, permanente regels en lessen voor het hele team.
  • De Analogie: De officiële wetten van de stad of het handboek van het bedrijf.
  • De Regel: Niets komt hier binnen tenzij het een strenge "governance"-controle passeert. Het is niet genoeg dat een AI denkt dat het een goed idee is; het heeft bewijs en goedkeuring nodig.

• Kamer 3: Het Archief (Archiefgeheugen)

  • Wat het is: Oude geschiedenis, onderzoek en achtergrondinformatie.
  • De Analogie: De kelder van een bibliotheek of de opslagkluis van een museum.
  • De Regel: Je kunt deze items bekijken, maar het zijn geen actieve regels. We hoeven niet over elke oude krantenknipsel te stemmen voordat iemand het leest, maar we moeten wel weten waar het vandaan komt.

• Kamer 4: Het Whiteboard (Project-Continuïteitsgeheugen)

  • Wat het is: Tijdelijke notities voor de huidige taak.
  • De Analogie: Een post-it op een bureau voor de vergadering van vandaag.
  • De Regel: Dit wordt gewist of verplaatst zodra het project klaar is. Het mag niet per ongeluk worden verward met de permanente wetten in het Stadhuis.

3. Hoe de "Selectie" Werkt

Het artikel vergelijkt verschillende manieren om te beslissen wat er in het "Stadhuis" (Gedeeld Geheugen) komt:

• De "Laat Alles Binnen"-Benadering (Ongereguleerd): Snel, maar gevaarlijk. Onwaarheden worden permanente feiten.
• De "Toetsscore"-Benadering (Automatisch): Een AI controleert of een herinnering een wiskundescore of snelheid verbetert. Goed voor cijfers, maar slecht voor zaken als "eerlijkheid" of "billijkheid".
• De "Regelboek"-Benadering (Constitutioneel): De AI volgt een reeks door mensen geschreven regels (zoals "leugens niet vertellen"). Het is schaalbaar, maar mist mogelijk nuances.
• De "Menselijke Rechter"-Benadering (Menselijk Geraadpleegde Kunstmatige Selectie): Een mens (of een door mensen geleid proces) bekijkt de kandidaat-herinnering en zegt: "Ja, dit is waar en belangrijk; laten we het officieel maken."
  • Waarom dit belangrijk is: Mensen zijn beter in het beoordelen van dingen die niet gemeten kunnen worden met een score, zoals "klinkt deze AI betrouwbaar?" of "past dit bij de waarden van ons team?"

4. Wat het Bewijs Laat Zien

De auteurs hebben dit idee getest in één real-world AI-systeem. Ze ontdekten:

• Fouten gebeuren: Zelfs met regels kan een AI nog steeds een nepverhaal maken.
• Het systeem leert: In plaats van de fout gewoon te verwijderen, registreerde het systeem waarom het een fout was en creëerde een nieuwe regel om het de volgende keer te voorkomen.
• Identiteiten blijven veilig: Nieuwe AI-teamleden konden zich aansluiten en de regels van het team leren zonder hun eigen unieke persoonlijkheid te verliezen.
• Transparantie: Het systeem hield een "papieren spoor" bij waarin te zien was welke herinneringen werden afgewezen, welke werden herzien en welke werden goedgekeurd. Je kon de geschiedenis van de beslissing zien, niet alleen het eindresultaat.

De Grote Kernboodschap

Het artikel zegt niet "Mensen moeten elke enkele herinnering controleren". In plaats daarvan zegt het: We moeten intentioneel zijn over hoe we herinneringen selecteren.

We moeten vragen:

1. Wat slaan we op? (Een feit? Een gevoel? Een regel?)
2. Wie beslist dat het goed genoeg is om permanent te worden? (Een test? Een regelboek? Een mens?)
3. Hoe houden we de unieke persoonlijkheid van de AI gescheiden van de gedeelde kennis van de groep?

Als we deze vragen niet beantwoorden, riskeren we AI-teams te bouwen die efficiënt zijn, maar vatbaar voor het herhalen van hun eigen leugens, het verliezen van hun unieke vaardigheden, of het worden van een verwarde, identieke klomp data. Het doel is om geheugen inspecteerbaar, corrigeerbaar en eerlijk te maken.

Technische samenvatting

Technische Samenvatting: Gereguleerde Collaboratieve Geheugen als Kunstmatige Selectie in LLM-gebaseerde Multi-Agent Systemen

Probleemstelling
Naarmate Large Language Model (LLM)-gebaseerde multi-agent systemen evolueren van stateloze deelnemers in geïsoleerde interacties naar statedragende componenten met persistent geheugen, is een kritieke ontwerpgap ontstaan. Hoewel bestaand onderzoek zich richt op ophaalnauwkeurigheid, toegangscontrole en geheugenconsistentie, wordt vaak de fundamentele vraag van selectie over het hoofd gezien: welke kandidaat-geheugens moeten overgaan van privé, tijdelijke data naar gedeelde, duurzame en gedragsvormende institutionele staat?

Zonder expliciete regulering loopt persistent geheugen het risico een vector te worden voor "erfelijke" fouten, waarbij plausibele maar valse samenvattingen worden herladen en verspreid over sessies, agenten en systeemversies. Het kernprobleem is niet merely wie een geheugen kan lezen, maar wie of wat bepaalt dat een kandidaat-geheugen deel moet uitmaken van de gedeelde ontologie van het systeem. Dit artikel presenteert deze uitdaging als gereguleerd collaboratief geheugen, en betoogt dat geheugenregulering fungeert als een selectieregime dat bepaalt welke geheugenvarianten blijven bestaan, privé blijven, worden afgewezen of worden vervangen.

Methodologie en Kader
Het artikel stelt een conceptueel kader en een gelaagd architecturaal ontwerp voor in plaats van een gecontroleerde experimentele vergelijking. De methodologie omvat:

1. Definiëren van Selectieregimes: De auteurs categoriseren geheugenregulering in vier distincte regimes, met de nadruk dat dit ontwerpkiezen zijn gebaseerd op doel-eigenschappen en geen hiërarchie van superioriteit:

   • Ongecontroleerde Persistentie: Geheugens komen zonder bewuste evaluatie in duurzame opslag. Dit biedt lage wrijving maar riskeert het voortbestaan van onwaarheden en hallucinaties.
   • Constitutionele/Hybride Selectie: Door mensen geschreven principes of beperkingen worden afgedwongen door geautomatiseerde processen (bijv. RLHF, Constitutionele AI). Dit schaalt goed maar kan eigenschappen missen die niet in de principes zijn opgenomen of bezwijken voor beloningshacking.
   • Automatische Op Metrische Criteria Gebaseerde Selectie: Persistentie wordt bepaald door benchmarks, tests of meetbare beloningen. Dit is effectief voor meetbare prestaties maar faalt in het vastleggen van oordeelskwaliteit, epistemische eerlijkheid of institutionele coherentie.
   • Door Mensen Geraffineerde Kunstmatige Selectie: Een operator of reguleringsproces beslist expliciet over persistentie. Dit is langzamer en minder schaalbaar maar noodzakelijk voor het selecteren van kwaliteiten die geen schone metrieken hebben, zoals rolbehoud en institutionele coherentie.

2. Voorgesteld Gelaagd Architectuur: Om deze regimes te implementeren zonder heterogene agent-identiteiten te laten instorten, stellen de auteurs voor het geheugen te scheiden in vier distincte lagen met verschillende reguleringslasten:

   • Agent-Lokaal Geheugen: Standaard privé; behoudt rol-specifieke heuristieken, beperkingen en faalmodi om identiteitsinstorting te voorkomen.
   • Gedeeld Institutioneel Geheugen: Een duurzame opslag voor cross-agent gebeurtenissen, principes en lessen. Deze laag draagt de zwaarste reguleringslast en vereist bewijs en explicite ratificatie.
   • Archiefgeheugen: Historische artefacten en achtergrondkennis op lange termijn. Deze zijn ophaalbaar maar distinct van actief institutioneel geheugen om reguleringsoverbelasting te voorkomen.
   • Project-Continuïteitsgeheugen: Actieve taakstaten en overdrachtcontexten, gescheiden gehouden om scopeverontreiniging tussen tijdelijk werk en duurzame kennis te vermijden.

3. Mechanisme van Regulering: Het kader vertrouwt op provenance en versie-lijn. Selectie gaat niet alleen over het uiteindelijke geaccepteerde record maar over het inspecteerbaar maken van het proces. Dit omvat het bijhouden van wie een geheugen heeft opgesteld, welk bewijs het ondersteunde, wie het heeft geratificeerd, en welke versies zijn afgewezen of vervangen. De architectuur adopteert een "vervangen-niet-wissen" semantiek, waarbij correcties traceerbaar blijven als institutionele kennis.

Bewijs en Resultaten
Het artikel ondersteunt zijn ontwerpeisen met gedocumenteerde sporen uit één lopend LLM-gebaseerd multi-agent ecosysteem (per april 2026). De auteurs stellen expliciet dat deze sporen observationeel zijn en geen causale superioriteit over andere regimes aantonen. Het bewijs illustreert vijf kernpatronen:

• Falen van Ongecontroleerde Persistentie: Een onbeheerd auto-geheugenbestand bevatte drie plausibele valse invoeren die bleven bestaan tot een latere audit, wat aantoont hoe fouten herlaadbare staat worden zonder selectie.
• Geratificeerd Institutioneel Geheugen: Een procedurele les werd succesvol omgezet in een geratificeerd principe, wat het resultaat van het selectieproces toont.
• Versie-Registratie Selectielus: Het systeem registreerde een kandidaat-versie, identificeerde gebreken, markeerde deze als gefaald, herzag het en corrigeerde vervolgens de bijgewerkte staat. Dit toont aan dat afwijzing en herziening zichtbaar zijn, niet verborgen.
• Identiteitsbehoudende Uitbreiding: Een nieuwe agent trad toe tot het ecosysteem, met toegang tot gedeeld institutioneel geheugen terwijl het aparte privé-identiteitscoördinaten behield, wat de architecturale scheiding van gedeeld en lokaal geheugen valideert.
• Regulering als Leerproces: Een fabricagefout na regulering trad op. In plaats van de fout te voorkomen, documenteerde het systeem het falen en zette het om in een geratificeerd principe "onthouding boven hallucinatie", wat regulering illustreert als een leermechanisme in plaats van een perfect firewall.

Belangrijkste Bijdragen en Ontwerpeisen
De primaire bijdrage is een ontwerpagenda voor persistente LLM-gebaseerde multi-agent systemen. Het artikel betoogt dat geheugenregulering moet worden beschouwd als een selectielaag die het toekomstige gedrag van het systeem bepaalt. Belangrijke ontwerpeisen zijn:

• Persistente systemen vereisen expliciete selectieregimes voor gedeeld geheugen.
• Gereguleerd collaboratief geheugen moet agent-lokaal, gedeeld institutioneel, archief- en project-continuïteitsgeheugen scheiden.
• Door mensen geraffineerde kunstmatige selectie is essentieel wanneer doel-eigenschappen oordeelskwaliteit, provenance-trouw en rolbehoud omvatten.
• Afgewezen, onthoudende en vervangen geheugens moeten inspecteerbare selectieresultaten blijven, geen administratief lawaai.
• Evaluatie van geheugensystemen moet zich uitbreiden buiten recall en prestaties om provenance-trouw, selectietraceerbaarheid, epistemische kwaliteit, correctiepaden en rolbehoud te omvatten.

Betekenis en Beperkingen
De betekenis van het artikel ligt in het herformuleren van geheugenregulering van een opslag- of toegangscontroleprobleem naar een probleem van selectieregimes. Het stelt dat in persistente multi-agent systemen de beslissing wat gedeelde staat wordt, de meest kritieke ontwerpkies is, die bepaalt of het systeem collectief leert of fouten verspreidt.

De auteurs zijn bescheiden in hun claims, met de erkenning dat:

• Het bewijs beperkt is tot één ecosysteem en niet de superioriteit van door mensen geraffineerde regimes boven automatische bewijst.
• Menselijke ratificatie bottlenecks introduceert en potentiële operator-bias.
• Het schalen van regulering naar meerdere ratificators of gedistribueerde autoriteiten een onopgeloste uitdaging blijft.
• Legacy geheugensystemen bootstrappingproblemen ondervinden waarbij pre-regulering records al het gedrag kunnen beïnvloeden.

Uiteindelijk roept het artikel op tot een verschuiving in hoe ontwerpers en evaluatoren agent-geheugen benaderen: van optimalisatie voor ophaalefficiëntie naar het waarborgen dat het selectieproces zelf expliciet, inspecteerbaar en afgestemd is op het behoud van heterogene agent-identiteiten.