🤖 AI

Chronology of Multi-Agent Interactions for Provenance of Evolving Information

Dit artikel stelt een post hoc attributiesysteem voor dat gebruikmaakt van "symbolische kronieken" om de herkomst van inhoud gegenereerd door collaboratieve multi-agent systemen te traceren en te kroniken, waardoor verantwoordingsplicht wordt geboden door ondertekende, met tijdstempel voorziene records direct in de synthetische inhoud in te bedden zonder afhankelijkheid van intern geheugen of externe metadata.

Oorspronkelijke auteurs: Ching-Chun Chang, Isao Echizen

Gepubliceerd 2026-05-01

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Ching-Chun Chang, Isao Echizen

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een groep schrijvers voor die om een tafel zitten en een enkel notitieboekje heen en weer doorgeven om samen een verhaal te schrijven. Schrijver A begint een alinea, geeft het dan door aan Schrijver B, die het bewerkt, en vervolgens aan Schrijver C, die de helft herschrijft, en zo verder. Tegen de tijd dat het verhaal voltooid is, ziet de uiteindelijke tekst eruit als één samenhangend stuk. Maar als je in het notitieboekje kijkt, is er geen manier om te vertellen wie welk deel heeft geschreven, of in welke volgorde. De oorspronkelijke bijdragen zijn overschreven, waardoor er geen spoor van de geschiedenis overblijft.

Dit artikel pakt precies dat probleem aan, maar dan met AI-agenten in plaats van menselijke schrijvers. Omdat meerdere AI-modellen samenwerken om content te creëren, verdwijnt de geschiedenis van "wie wat deed" vaak. De auteurs stellen een slimme oplossing voor: een systeem dat de "ontvangstbewijs" van elke interactie direct in het verhaal zelf verbergt, zonder dat er externe logs of metadata nodig zijn.

Hier is hoe hun systeem werkt, opgesplitst in eenvoudige concepten:

1. Het Probleem: Het "Wisser"-Effect

In een normale multi-agent AI-keten herschrijft een nieuwe agent die een taak overneemt vaak de vorige tekst om deze vloeiender te maken. Het is alsof een schilder over het werk van een vorige kunstenaar schildert om een fout te herstellen. Uiteindelijk is het doek bedekt met verse verf en zijn de oorspronkelijke lagen verdwenen. Als je wilt weten wie wat heeft geschilderd, kun je niet alleen naar het eindbeeld kijken; je hebt een apart notitieboekje (metadata) nodig om de geschiedenis bij te houden. Maar wat als dat notitieboekje verloren gaat, wordt verwijderd of gescheiden van het schilderij? De geschiedenis is dan voor altijd weg.

2. De Oplossing: Het "Onzichtbare Inkt"-Chronicle

De auteurs stellen een systeem voor dat een Chronicle wordt genoemd. Denk hierbij aan een geheime code die met "onzichtbare inkt" (statistische patronen in woordkeuze) in het verhaal wordt geschreven, in plaats van met zichtbare tekst.

Het Codeboek: Stel je een gigantisch woordenboek voor waarin elk woord een specifieke kleur krijgt toegewezen. Voor elke mogelijke combinatie van schrijvers (bijvoorbeeld "Schrijver 1, dan Schrijver 2, dan Schrijver 3") is er een uniek "kleurenpatroon" toegewezen aan die volgorde.
De Bias: Wanneer een AI-agent op het punt staat de volgende zin te schrijven, fluistert het systeem tegen hem: "Voor dit specifieke moment in het verhaal, neig je alstublieft iets meer naar woorden die passen bij ons geheime kleurenpatroon."
Het Resultaat: De AI schrijft nog steeds een natuurlijk klinkend verhaal, maar kiest onbewust iets andere woorden dan normaal. Deze subtiele keuzes vormen een verborgen vingerafdruk die zegt: "Ik werd geschreven door Agent A, dan Agent B, dan Agent C."

3. De Feedback-lus: Het Ontvangstbewijs Bijwerken

Het systeem werkt als een estafettewedstrijd waarbij de estafettestok een geheim bericht is.

Start: Het verhaal begint met een blanco blad (een "null"-agent).
Stap 1: Agent 1 schrijft een stukje. Het systeem werkt het geheime bericht bij om "Agent 1" op te nemen en embedt dit nieuwe bericht in de tekst die ze net hebben geschreven.
Stap 2: Agent 2 leest de tekst, ziet het verborgen "Agent 1"-bericht, en werkt het geheime bericht bij naar "Agent 1 → Agent 2". Vervolgens schrijven ze het volgende deel en embedden dit nieuwe gecombineerde bericht in hun tekst.
Herhalen: Dit gaat de hele lijn door. Elke keer als de tekst wordt gegenereerd, wordt het "ontvangstbewijs" van de volledige geschiedenis bijgewerkt en opnieuw in de nieuwe woorden verwerkt.

4. Het Detectiewerk: Het Verhaal Decoderen

Later, als iemand de geschiedenis van het verhaal wil weten, hebben ze de oorspronkelijke logs niet nodig. Ze nemen gewoon de uiteindelijke tekst en voeren een statistische analyse uit.

De decoder kijkt naar de gebruikte woorden en vraagt: "Passen deze woorden bij het patroon voor 'Agent 1, dan 2, dan 3'?"
Omdat de AI was bevooroordeeld om specifieke woorden te kiezen voor die specifieke geschiedenis, zal het statistische patroon sterk genoeg zijn om de exacte volgorde van agenten te onthullen, zelfs als de tekst vele malen is bewerkt of herschreven.

5. De Ruil: Duidelijkheid versus Perfectie

Het artikel benadrukt een afweging, zoals het afstemmen van een radio:

Sterk Signaal (Hoge Bias): Als je de AI vertelt de geheime code zeer strikt te volgen, is de geschiedenis makkelijk te lezen (hoge nauwkeurigheid). Het verhaal kan echter een beetje stijf of onnatuurlijk klinken, omdat de AI gedwongen wordt specifieke woorden te kiezen.
Zwak Signaal (Lage Bias): Als je de AI vrijer laat schrijven, klinkt het verhaal natuurlijk, maar is de verborgen code flauwer en moeilijker te detecteren, vooral als de tekst wordt bewerkt of woorden worden vervangen (zoals een synoniemvervanging).

6. Wat de Experimenten Toonden

De onderzoekers testten dit met een kleine groep AI-"schrijvers" (2 tot 4 agenten) die een verhaal stap voor stap schreven.

Nauwkeurigheid: Toen ze een sterke "bias" gebruikten (de AI vertellend om de code nauwkeurig te volgen), konden ze de geschiedenis van wie wat schreef bijna perfect reconstrueren, zelfs na meerdere rondes van herschrijven.
Robuustheid: Ze probeerden het systeem te "breken" door woorden te vervangen door synoniemen (zoals "gelukkig" veranderen in "blij"). Het systeem hield het goed vol als de bias sterk was, maar had moeite als de bias zwak was.
Complexiteit: Het moeilijkere deel is de wiskunde. Naarmate je meer agenten toevoegt of het verhaal langer maakt, explodeert het aantal mogelijke geschiedenissen (alsof je probeert een combinatieslot te raden met meer draaiknoppen). Dit maakt het decodeerproces computationally zwaar voor zeer lange of complexe ketens.

Samenvatting

Kortom, dit artikel introduceert een manier om een met tijdstempel voorziene, ondertekende geschiedenis direct in het DNA van door AI gegenereerde tekst in te bedden. In plaats van te vertrouwen op externe bestanden die verloren kunnen gaan, is de geschiedenis geweven in de structuur van de content zelf, waardoor iedereen het eindproduct kan bekijken en precies kan traceren welke AI-agenten eraan hebben bijgedragen en in welke volgorde.

1. Probleemstelling

Naarmate kunstmatige intelligentie vordert naar autonome multi-agent systemen, wordt content steeds vaker gegenereerd via collaboratieve ketens waarin agenten bijdragen van elkaar interacteren, herzien, uitbreiden of overschrijven. Een kritieke uitdaging ontstaat bij provenance-tracking: het bepalen van de chronologische geschiedenis van welke specifieke agent op elk moment heeft bijgedragen aan een stuk content.

De Kernkwestie: In een generatieve keten overschrijven volgende agenten vaak eerdere content om de verhaallijn of consistentie te behouden. Dit proces wist sporen van eerdere bijdragen, waardoor de uiteindelijke output geen inherente registratie bevat van zijn evolutionaire geschiedenis.
Beperkingen van Bestaande Methoden:
- Metadata/Logs: Externe logs (keten van bewaring) zijn fragiel; ze kunnen tijdens overdracht losgekoppeld worden van de content of beschadigd raken.
- Vingerafdrukken: Cryptografische hashing is te gevoelig voor contentwijzigingen (brekend bij kleine bewerkingen), terwijl perceptuele hashing geen unieke eigenschappen heeft.
- Watermerken: Standaard zero-bit watermerken schrijven content toe aan een enkele bron en hebben moeite om de temporele volgorde van meerdere agenten in een collaboratieve keten te bepalen.

Het paper zoekt een methode om een ondertekend, tijdstempelend record van agent-interacties direct in de gegenereerde tekst in te bedden, zonder afhankelijkheid van externe metadata of interne geheugentoestanden.

2. Methodologie: Het Chronologisch Systeem

De auteurs stellen een systeem voor gebaseerd op Symbolische Kronieken, die fungeren als een steganografische "keten van bewaring" die in de tekst is ingebed via vooroordeelvolle token-sampling.

A. Kernconcepten

Kroniek ( $x$ ): Een symbolische sequentie van lengte $T$ (aantal generatiestappen), waarbij elk symbool $x_t \in \{0, 1, \dots, n\}$ de identiteit van de agent vertegenwoordigt die actief is op tijdstip $t$ (0 duidt een null/niet-toegewezen agent aan).
Codeboek ( $C$ ): Een mapping waarbij elke geldige kroniek $x$ $x$ geassocieerd wordt met een uniek binair codewoord $c(x)$ $c (x)$ van lengte $|V|$ $∣ V ∣$ (de vocabulairegrootte).
- Het codewoord markeert een schaarse subset van de vocabulaire (bijvoorbeeld 50% van de tokens zijn "gemarkeerd" met een 1).
- Het systeem gebruikt een schaalbare constructiestrategie: het genereren van unieke basis-codewoorden in een gereduceerde dimensie $d$ en het uitbreiden ervan naar de volledige vocabulairegrootte via herhaling en opvulling.

B. De Feedbacklus

Het systeem werkt via een recursieve feedbacklus met drie componenten:

Encoder (Generatie):
- Op tijdstip $t$ haalt het systeem het codewoord $c(x^{(t)})$ op dat overeenkomt met de huidige kroniekstoestand.
- De agent (LLM) genereert tekst op basis van een prompt.
- Biasing: De encoder modificeert de logits van het model. Voor elke token $v$ in de vocabulaire wordt, als het corresponderende bit in het codewoord 1 is, een bias $\delta$ toegevoegd aan de logit ( $\tilde{\ell}_v = \ell_v + \delta$ ).
- Dit beïnvloedt de sampling-kans ten gunste van tokens die geassocieerd zijn met de huidige kroniek, waardoor de identiteit van de agent en de geschiedenis van eerdere interacties in de tekstverdeling worden ingebed.
Decoder (Retrieval):
- Gegeven de gegenereerde tekst, tokeniseert de decoder deze.
- Het berekent de frequentie van "gemarkeerde" tokens voor elke mogelijke geldige kroniek in het codeboek.
- De kroniek met de hoogste frequentie van overeenkomende tokens wordt geselecteerd als de gereconstrueerde geschiedenis ( $\hat{x} = \arg \max_x f(x)$ ).
Update-mechanisme:
- Na generatie wordt de kroniek bijgewerkt om de identiteit van de huidige agent op positie $t$ op te nemen, waardoor de "actieve" slot voor de volgende stap verschuift. Dit stelt het systeem in staat om de volledige sequentie $x^{(1)}, x^{(2)}, \dots, x^{(T)}$ te volgen.

3. Belangrijkste Bijdragen

Provenance in de Tekst: Een nieuwe methode om de geschiedenis van multi-agent interacties direct in de semantische inhoud van gegenereerde tekst in te bedden, waardoor afhankelijkheid van fragiele externe metadata wordt geëlimineerd.
Kroniek Formalisme: De definitie van "kronieken" als ondertekende, tijdstempelende symbolische ketens die evolueren naast het generatieproces.
Schaalbare Codeboekconstructie: Een combinatorische strategie om unieke codewoorden te genereren voor een enorme ruimte van mogelijke agent-sequenties zonder dat er verbodsbepalende geheugenslag nodig is.
Post Hoc Toewijzing: Het vermogen om de volledige generatieve geschiedenis (wie wat wanneer schreef) uitsluitend te reconstrueren uit de uiteindelijke tekstoutput met behulp van statistische analyse.

4. Experimentele Resultaten

Het systeem werd geëvalueerd met Llama (1B parameters) in een voortdurend schrijftaak met 2–4 agenten over 3–6 tijdstappen.

Chronologische Nauwkeurigheid:
- Met een bias-strength ( $\delta$ ) van 3 bereikte het systeem bijna perfecte nauwkeurigheid (99–100%) over verschillende configuraties.
- De nauwkeurigheid degradeert natuurlijk na verloop van tijd (foutpropagatie) en bij grotere populaties agenten, maar een hogere bias-strength mitigeert dit effectief.
Generatieve Kwaliteit (Perplexiteit):
- Er is een afweging: het verhogen van de bias-strength verbetert de toewijzingsnauwkeurigheid maar verhoogt de perplexiteit (wat de vloeiendheid/natuurlijkheid van de tekst vermindert).
- De impact op perplexiteit stabiliseert echter na de eerste generatiestap en is niet zwaar afhankelijk van het aantal agenten.
Adversariële Robuustheid:
- Het systeem werd getest tegen lexicale substitutie (het vervangen van woorden door synoniemen, tot 70%).
- Lage Bias ( $\delta=1$ ): De nauwkeurigheid daalde snel, naderend naar willekeurig gissen.
- Hoge Bias ( $\delta=3$ ): Het systeem bleef robuust. Voor 2 agenten bleef de nauwkeurigheid boven de 90%, zelfs bij 60% woordsubstitutie. Hogere bias concentreert de sampling-verdeling op specifieke tokens, waardoor het statistische signaal veerkrachtig is tegen semantische ruis.

5. Betekenis en Toekomstige Richtingen

Vertrouwen en Verantwoordelijkheid: Dit onderzoek biedt een fundamenteel mechanisme voor verantwoordelijke AI. Het zorgt ervoor dat in collaboratieve AI-ecosystemen de oorsprong en evolutie van content traceerbaar zijn, wat transparantie en vertrouwen bevordert.
Forensische Toepassing: De methode fungeert als een "digitale keten van bewaring" voor AI, waardoor forensische analyse van synthetische content mogelijk is om te bepalen of deze theoretisch was beredeneerd, empirisch getest of kritisch uitgedaagd door specifieke agenten.
Beperkingen & Toekomstig Werk:
- Schaalbaarheid: De zoekruimte groeit exponentieel met het aantal agenten en de lengte van de kroniek ( $|X| = (n+1)^T$ ), wat efficiënte decoding of structurele priors vereist voor grootschalige systemen.
- Homogeniteit: Huidige experimenten gebruiken identieke modellen; toekomstig werk moet heterogene agenten met verschillende vocabulaires aanpakken.
- Afwegingen: De spanning tussen toewijzingsnauwkeurigheid en tekstkwaliteit (perplexiteit) vereist afstemming op basis van specifieke toepassingsbehoeften.
- Robuustheid: Toekomstig onderzoek moet robuustheid onderzoeken tegen complexere verstoringen zoals syntactische herstructurering, vertaling of inkorting.

Concluderend presenteert het paper een levensvatbaar, wiskundig onderbouwd raamwerk voor het inbedden van multi-agent provenance in generatieve AI, waardoor de tekst zelf wordt omgezet in een zelfbevattende historische registratie van zijn creatie.