🤖 AI

Local verification cannot detect non-transportability: a cohomological theory of context preservation in agentic reasoning

Dit artikel introduceert een cohomologisch kader dat aantoont dat lokale verificatiebeveiligingen in agentic AI structureel ongeschikt zijn voor het detecteren van niet-transporteerbare conclusies voortvloeiend uit harmonische bewijsconflicten, en stelt de Ksetra-procedure voor om dergelijke globale inconsistenties te identificeren en af te schermen met behulp van cyclusgebaseerde statistieken.

Oorspronkelijke auteurs: Suyash Mishra

Gepubliceerd 2026-08-13

📖 7 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Suyash Mishra

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Dilemma van de Kaartenmaker: Waarom Verdwalen Niet Altijd Jouw Schuld Is

Stel je voor dat je een enorme, onbekende stad probeert te navigeren met een set kleine, overlappende straatkaarten. Je hebt een kaart voor het binnenstadswijk, een andere voor de haven, en een derde voor de heuvels. Om van je hotel naar het museum te gaan, spring je misschien van de binnenstadkaart naar de havenkaart, en dan naar de heuvelkaart. Dit is hoe moderne AI-agenten werken wanneer ze complexe problemen proberen op te lossen: ze koppelen stukjes informatie uit verschillende bronnen aan elkaar, zoals een arts die beweegt van een laboratoriumuitslag naar de medische geschiedenis van een patiënt, of een bank die beweegt van een lokale kredietscore naar een wereldwijde economische trend.

Een lange tijd dachten wetenschappers dat de enige manier om te garanderen dat deze reis veilig was, het controleren van elke individuele stap was. Je zou verifiëren dat de binnenstadkaart overeenkomt met de havenkaart op de grens, en dat de havenkaart overeenkomt met de heuvelkaart. Als elke lokale verbinding er goed uitzag, nam je aan dat de hele reis veilig was. Maar er is een addertje onder het gras: soms, zelfs als elke grens er perfect uitziet, kan de stad zelf zo gevormd zijn dat je eindbestemming afhangt van welke route je hebt genomen. Het is alsof je in een cirkel loopt op een Möbiusstrip; je kunt aan de "andere kant" van de wereld terechtkomen zonder ooit te beseffen dat je een grens bent overgestoken. Dit paper stelt een angstaanjagende vraag: wat als onze beste veiligheidscontroles blind zijn voor dit soort verborgen, structurele verwarring?

Het Paper: Wanneer "Lokale Controles" het Grotere Plaatje Missen

Dit paper, geschreven door AI-onderzoeker Suyash Mishra, pakt een probleem aan dat klinkt als een wiskundige puzzel, maar eigenlijk gaat over hoe AI-agenten beslissingen nemen in de echte wereld. De auteur betoogt dat de huidige manier waarop we AI-redeneren verifiëren fundamenteel incompleet is. We controleren de "lokale" verbindingen (past dit stuk bewijs bij dat ene?), maar we missen de "globale" vorm van het probleem.

De Kernontdekking: De Onzichtbare Lus
Het paper bewijst dat een AI elke enkele lokale veiligheidscontrole kan passeren en toch het verkeerde antwoord kan geven, simpelweg omdat het een andere route door het bewijsmateriaal heeft genomen. De auteur gebruikt een tak van de wiskunde genaamd cohomologie (denk aan de studie van gaten en lussen in vormen) om aan te tonen dat bewijsmateriaal een "twist" kan hebben.

Stel je voor dat je rond een park wandelt. Je controleert het hek tussen het gras en de bloemen, dan het hek tussen de bloemen en de bomen, en tot slot het hek tussen de bomen en het gras. Elk hek ziet er solide uit. Maar als het park is gebouwd op een gigantische, onzichtbare lus (zoals een donutvorm), kun je terugkomen waar je begon maar dan licht verschoven, of op een ander "niveau" van de werkelijkheid. Het paper noemt dit holonomie. Het is een structurele fout waarbij het bewijsmateriaal de lus niet precies sluit, ook al ziet elk individueel stuk bewijs er prima uit.

Wat het Paper Uitsluit
De auteur is zeer duidelijk over wat niet werkt. Ze bewijzen dat elk verificatiesysteem dat alleen naar kleine, lokale stukken kijkt (zoals het controleren van één paar kaarten tegelijk), structureel blind is voor dit probleem. Hoe zorgvuldig je de grenzen ook controleert, je kunt deze "twist" niet detecteren als je alleen naar de grenzen kijkt. Het paper verwerpt expliciet het idee dat betere lokale controles of meer consensus tussen AI-panels dit probleem zullen oplossen. Als de twist bestaat, zullen een panel van experts die discussiëren over het pad simpelweg discussiëren over dezelfde onzichtbare lus; ze zullen het gat niet vinden.

De Drie Typen Verwarring
Het paper verdeelt conflicten in bewijsmateriaal in drie verschillende typen, gebruikmakend van een wiskundig hulpmiddel genaamd Hodge-decompositie (wat lijkt op het sorteren van een rommelige stapel wasgoed in drie aparte manden):

De Gradiënt (Kalibratie): Dit is een eenvoudige offset. Misschien zegt één kaart "Noord" is boven, en de andere kaart "Noord" is iets gekanteld. Dit is makkelijk te herstellen; je kalibreert gewoon de kompasnaald opnieuw.
De Curl (Lokale Inconsistentie): Dit is een rommel in een klein gebied. Misschien komt het hek tussen de bloemen niet overeen met het hek tussen de bomen. Dit is detecteerbaar als je samen een kleine groep van drie kaarten bekijkt.
De Harmonische (De Onzichtbare Twist): Dit is de grote factor. Dit is een conflict dat alleen bestaat wanneer je naar de hele lus kijkt. Het passeert elke lokale test, maar zorgt ervoor dat het uiteindelijke antwoord afhangt van de gevolgde route. Dit is het deel dat huidige AI-veiligheidscontroles niet kunnen zien.

De Oplossing: Ks.etra
Om dit op te lossen, stelt de auteur een nieuwe methode voor genaamd Ks.etra (uitgesproken als "K-setra"). In plaats van alleen te controleren of de stukken passen, berekent Ks.etra de "harmonische energie" van het bewijsmateriaal-netwerk. Als deze energie hoog is, betekent dit dat er een structurele twist aanwezig is die niet kan worden opgelost door simpelweg meer data op hetzelfde niveau te verzamelen.

Het paper suggereert dat wanneer een AI deze twist detecteert, de AI niet moet gokken of harder moet proberen. De AI moet zich onthouden van een antwoord (weigeren te antwoorden) en nog belangrijker, de menselijke operator exact vertellen waar hij moet kijken. Het fungeert als een wegwijzer die zegt: "De lus sluit hier niet; je moet deze groep mensen opsplitsen in twee kleinere groepen om de kaart te herstellen."

Wat de Simulaties Laten Zien
De auteur heeft dit idee getest in twee gesimuleerde werelden: één die betrekking heeft op medicijnontwikkeling (Pharma) en één op kredietscores (Credit).

In de Pharma-simulatie verminderde het gebruik van Ks.etra de snelheid van schadelijke beslissingen met 0,032 (ongeveer 3,2%) vergeleken met de beste bestaande methode.
In de Credit-simulatie was de verbetering 0,043 (ongeveer 4,3%).
Het paper vond ook dat de "twist" (harmonische energie) een sterke voorspeller was van fouten die niet te herstellen waren, met een correlatie van 0,37 in de simulaties.

Hoe Zeker Zijn We?
Het is belangrijk om op te merken dat deze resultaten voortkomen uit simulaties, en nog niet uit echte wereldgegevens. De auteur is hier zeer eerlijk over. Ze bouwden een wiskundig model waarin de "twist" werd gegenereerd door een specifiek mechanisme (genaamd effectmodificatie, wat een verborgen variabele is die de spelregels verandert). In deze simulaties hield de wiskunde perfect stand. Ze creëerden zelfs een statistische test (een F-test) die kan detecteren of er een globaal, consistent antwoord bestaat, en deze werkte goed in hun tests.

Het paper concludeert echter door te stellen dat de volgende stap is om dit op echte data te testen. Ze suggereren om naar bestaande medische studies of financiële gegevens te kijken om te zien of de "twist" echte wereld-onenigheid voorspelt. Tot die tijd blijft het idee dat "lokale controles blind zijn voor globale lussen" een krachtig theoretisch inzicht dat wordt ondersteund door computersimulaties, maar nog niet een bewezen feit van de echte wereld.

De Kernboodschap
De belangrijkste boodschap van het paper is een waarschuwing voor de toekomst van AI: Je kunt niet alleen de stappen controleren; je moet de vorm van de reis controleren. Als een AI probeert een conclusie van de ene context naar een andere te transporteren, en de "vorm" van de contexten heeft een verborgen lus, kan de AI met groot vertrouwen fout zitten. De oplossing is niet om meer te discussiëren; het is om de lus te herkennen, te stoppen en de kaart opnieuw te tekenen.

Technisch Samenvatting: Lokale Verificatie Kan Niet-Transporteerbaarheid Niet Detecteren

Probleemstelling

Agentische AI-systemen transporteren steeds vaker conclusies over diverse biologische, klinische en commerciële contexten. Huidige state-of-the-art architecturen (bijv. Medea) vertrouwen op lokale verificatie: het controleren bij elke stap of entiteiten representeerbaar zijn, parameters compatibel zijn en outputs coherent zijn met het plan. Deze controles zijn "lokaal" in die zin dat ze ondersteund worden op begrensde stukken van de contextruimte (enkele contexten, paren of triades).

Het artikel identificeert een structurele onvolledigheid in deze aanpak. Hoewel lokale controles specifieke soorten fouten kunnen detecteren, zijn ze blind voor structurele niet-transporteerbaarheid. Dit manifesteert zich als een situatie waarin een agent elke lokale verificatiecontrole doorstaat, maar toch een conclusie produceert die afhankelijk is van het gevolgde redeneerpad. Dit fenomeen is formeel analoog aan "lus-inconsistentie" (loop inconsistency) in netwerkmeta-analyse, waarbij direct en indirect bewijs rond een gesloten lus afzonderlijk weliswaar solide zijn, maar gezamenlijk incoherent.

Methodologie

Theoretisch Kader

De auteur modelleert het probleem met behulp van algebraïsche topologie en schematheorie (sheaf theory):

Context Site: De ruimte van besluitvormingsrelevante situaties $X$ wordt bedekt door een eindige verzameling contexten $\mathcal{U} = \{U_i\}$ . De nerve $N(\mathcal{U})$ wordt geconstrueerd waarbij knopen contexten zijn, randen overlappingen (brugbewijs) vertegenwoordigen, en driehoeken drievoudige overlappingen vertegenwoordigen.
Bewijs-cochain: Bewijs wordt gemodelleerd als een reële 1-cochain $\omega \in C^1(N(\mathcal{U}); \mathbb{R})$ , die een gemeten contrast toekent aan elke overlapping.
Agentische Transport als Padintegratie: Een agent die een bewering transporteert van anker $a$ naar doel $t$ voert padintegratie uit: $\hat{\theta}_t = \theta_a + \langle \omega, \gamma \rangle$ , waarbij $\gamma$ het pad in de nerve is.
Hodge-decompositie: De ruimte van 1-cochains wordt orthogonaal gedecomposed in drie componenten:
- Gradiënt ( $g = \delta_0 \beta$ ): Instrumentele offsets per context. Verwijderbaar door herkalibratie.
- Curl ( $c \in \text{im}(\delta_1)^\top$ ): Lokale inconsistenties detecteerbaar bij drievoudige overlappingen (niet-nul $\delta_1 c$ ).
- Harmonisch ( $h \in H^1$ ): De component in de kernel van zowel $\delta_1$ als $\delta_0^\top$ . Dit vertegenwoordigt de eerste Čech-cohomologieklasse $[\omega] \in H^1$ .

Belangrijkste Theoretische Resultaten

Padonafhankelijkheid: De getransporteerde schatting is padonafhankelijk indien en slechts indien de bewijs-cochain exact is ( $\omega \in \text{im } \delta_0$ ).
Holonomie: De discrepantie tussen twee redeneerpaden is exact de holonomie van de cohomologieklasse $[\omega]$ .
Blindheid van Lokale Verificatie: Elke consistentiecontrole die ondersteund wordt door simplexen (randen, driehoeken) kan niet onderscheiden tussen een exacte cochain en een cochain die gepenetreerd is door een harmonische component. Aangezien harmonische componenten voldoen aan $\delta_1 h = 0$ , passeren zij alle drievoudige overlapcontroles, maar genereren zij toch een niet-nul verschil tussen paden.
Mechanisme van Obstructie: De harmonische component ontstaat door effectmodificatie gecombineerd met context-specifieke populatiesamenstelling (Simpson's paradox op een netwerk). Indien effectmodificatie afwezig is, vervalt de harmonische energie tot machineprecisie.

Voorgestelde Methode: Ks.etra

De auteur stelt Ks.etra (Ksetra) voor, een procedure die:

De context site construeert en de bewijs-cochain assembleert.
$\omega$ decomponeert in gradiënt-, curl- en harmonische delen via kleinste kwadraten.
Triage:
- Dominante Gradiënt $\to$ Herkalibreer instrumenten.
- Dominante Curl $\to$ Herhaal meting of herhaal deliberatie (lokale inconsistentie).
- Dominante Harmonische $\to$ Structurele obstructie; de dekking moet verfijnd worden (stratificatie).
Gating: Het systeem onthoudt zich van het nemen van een besluit als de harmonische energie $\|\omega_h\|$ een drempelwaarde overschrijdt. Bij onthouding geeft het de specifieke cyclus uit die de grootste holonomie draagt als instructie voor gegevensverzameling.

Resultaten

Simulatiestudies

De auteur voerde simulaties uit in twee domeinen:

Pharma RWE: Contexten gedefinieerd door (CKD-stadium $\times$ zorgsetting). De attribuutruimte is contractibel; $H^1$ ontstaat alleen door bewijsgaten.
Consumentenkrediet: Contexten gedefinieerd door (regio $\times$ macro-economisch regime). De regime-as is cyclisch (expansie $\to$ herstel), wat door constructie een topologische obstructie creëert.

Belangrijkste Bevindingen:

Voorspellende Kracht: In het mechanistische model waar holonomie voortkomt uit effectmodificatie, zijn zowel harmonische als curl-energieën vergelijkbaar voorspellend voor de irreducibele fout van de optimale estimator (Spearman $\rho \approx 0.37$ voor harmonisch en $0.33$ voor curl). Deze correlatie ontstaat omdat een enkele latente oorzaak (effectmodificatie) beide componenten genereert. Echter, harmonische energie behoudt onafhankelijke voorspellende waarde na conditionering op de andere componenten (partiële $\rho \approx 0.19$ ), terwijl curl dat niet doet. Het operationele onderscheid tussen de twee wordt gedefinieerd door hun remedie (hermeting voor curl versus verfijning voor harmonisch), niet enkel door hun voorspellende waarde.
Padafhankelijkheid: Zowel harmonische als curl componenten voorspellen padafhankelijkheid (spreiding over redeneerpaden), maar alleen de harmonische component voorspelt de foutvloer onafhankelijk van de andere componenten.
Prestaties: Ks.etra (gating op harmonische energie) presteert beter dan een "Residual-gated" baseline (gating op totale conflict) in de Area Under the Risk-Coverage Curve (AURC), waarbij het deze met 0.029 (pharma) en 0.039 (credit) vermindert.
Drift Kosten: "Stille vergroving" (het reduceren van contexten zonder verificatie) veroorzaakt aanzienlijke fouten, zelfs in perfecte systemen.

Finance Testcase (FX en IFRS 9)

Exacte F-test: De auteur leidt een exacte F-test af voor het bestaan van een globale bewering, waarbij vrijheidsgraden worden gepartitioneerd in kalibratie, lokale coherentie en transport. De test is correct geschaald onder isotrope ruis.
FX Arbitrage: In een geconstrueerde 15-valuta complex met uitvoerbaarheidrestricties, detecteert de harmonische component "loop arbitrage" (P&L op cycli die niet gevuld worden door uitvoerbare driehoeken) die standaard triangulaire arbitragecontroles (curl) mist.
IFRS 9: Toegepast op een PD-modelinventaris over een cyclische regimespace, identificeert de methode 17 onafhankelijke lussen die in staat zijn om incoherente verhalen te dragen die ondetecteerbaar zijn door paarwijze of drievoudige validatie.

Betekenis en Claims

Het artikel levert een negatief resultaat als centrale bijdrage: Geen enkele familie van op simplexen gebaseerde consistentiecontroles kan de harmonische obstructie detecteren. Dit impliceert dat huidige agentische verificatiestrategieën, ongeacht de implementatiekwaliteit, een fundamentele blinde vlek hebben.

Betekenis:

Theoretisch: Het identificeert loop-inconsistentie in bewijssynthese als de eerste cohomologie van een context site, waarmee het concept wordt uitgebreid van behandelnetwerken naar willekeurige context-dekkingen.
Operationeel: Het herkadert onthouding van een heuristische vertrouwensscore naar een cohomologische grootheid. Een niet-nul harmonische klasse is niet slechts een waarschuwing; het is een specifieke instructie om de dekking te verfijnen (verder stratificeren) in plaats van meer bewijs te verzamelen op hetzelfde granulariteitsniveau. Het onderscheid tussen de curl- en harmonische componenten wordt gedefinieerd door hun remedie (hermeting versus verfijning), niet enkel door hun voorspellende waarde.
Economisch: De methode biedt een transparante mapping van selectief risicogeometrie naar portfolio-uitkomsten, waarbij wordt aangetoond dat cohomologische gating economisch levensvatbaar is waar de kosten van een foutieve verbintenis materieel groter zijn dan de winst van een correcte (bijv. gereguleerde therapeutische en kredietbeslissingen).

Beperkingen en Bescheidenheid:

Het artikel stelt expliciet dat het geen validatie met echte data bevat. De simulaties zijn gecontroleerde validaties van de theorie.
Het mechanisme voor harmonische generatie (effectmodificatie) is gemodelleerd, niet geobserveerd in echte agent-traces.
De auteur erkent dat gecorreleerde fouten over overlappingen en de elicitatie van de juiste context-factorisatie openstaande problemen zijn die hier niet zijn opgelost.
De bijdrage is geformuleerd als een theoretische identificatie van een blinde vlek en een voorgesteld medicijn, waarbij de oproep voor echte data-validatie (bijv. gebruikmakend van gepubliceerde netwerkmeta-analyses of Medea's gist-benchmarks) als de noodzakelijke volgende stap wordt gepresenteerd om de resultaten van simulatie naar de praktijk te brengen.