Beyond Post-hoc Explanation: Toward Glassbox AI via Probabilistic Mediation

Technische Samenvatting: Voorbij Post-hoc Verklaring: Naar Glassbox AI via Probabilistische Mediatie

Probleemstelling
Het artikel behandelt de kritieke governance-uitdaging die wordt gevormd door de inzet van Large Language Models (LLM's) als infrastructuur in hoog-risico institutionele omgevingen (bijv. publieke administratie, gezondheidszorg, juridische redenering). Het centrale probleem is de opaciteit van de redenering van LLM's, wat besluitvorming juridisch en institutioneel onhoudbaar maakt. De auteurs stellen dat het dominante paradigma van post-hoc verklaarbaarheid (bijv. LIME, SHAP) structureel ontoereikend is voor deze contexten. Post-hoc methoden lijden onder drie specifieke faalmodi:

1. Instabiliteit: Verklaringen variëren willekeurig bij kleine wijzigingen in de input, waardoor ze geen consistente redenering bieden.
2. Niet-betwistbaarheid: Omdat verklaringen benaderingen zijn die door een apart mechanisme worden gegenereerd, ontbreekt het hen aan een formele relatie met het werkelijke redeneerproces van het model, wat het voor betrokken partijen verhindert om echte bezwaren aan te tekenen.
3. De Verantwoordelijkheidskloof: Post-hoc methoden identificeren weliswaar invloedrijke kenmerken, maar verifiëren niet of voorspellingen overeenstemmen met domeinkennis, normatieve beperkingen of expliciete standaarden.

Het artikel stelt dat de kernoorzaak niet een gebrek aan uitleg is, maar een gebrek aan gestructureerde redenering binnen het systeem zelf.

Methodologie: Het Glassbox-framework
De auteurs stellen een nieuwe architecturale paradigma voor genaamd het Glassbox Framework, die de verantwoordelijkheid verschuift van post-hoc (achteraf) naar ante-hoc (voor de inferentie). Het kernmechanisme bestaat uit het gebruik van Bayesiaanse Netwerken (BN's) als transparante, mediatie-lagen voor generatieve modellen.

De architectuur bestaat uit drie verticaal gerangschikte functionele lagen:

1. De Governance-laag: Een institutionele (niet-computationele) laag waar domeinexperts en juridische autoriteiten de BN-structuur (variabelen, Directed Acyclic Graph/DAG causale structuur, en prior-verdelingen) specificeren op basis van huidige institutionele standaarden. Deze laag beheert auditlogs en updateprotocollen, waardoor wordt gewaarborgd dat structurele wijzigingen geautoriseerd en gedocumenteerd zijn.
2. De Inferentie-laag: De technische kern waar een LLM en een BN iteratief met elkaar interageren.
   • De LLM voert een initiële parsing uit van ongestructureerde input om kandidaat-toekenningen voor BN-variabelen voor te stellen.
   • Deze voorstellen gaan door een semantische vertaalinterface, die natuurlijke taal in kaart brengt naar de discrete, formeel gespecificeerde variabelenruimte van de BN.
   • De BN activeert een contextueel relevante subgraaf (in plaats van het volledige netwerk) om probabilistische inferentie uit te voeren.
   • Consistentiecontrole: De BN controleert de toekenningen van de LLM tegen de gecodeerde domeinstructuur. Als toekenningen incoherent zijn (bijv. conflicterende bewijslast), genereert de BN een gerichte her-query naar de LLM. Deze lus gaat door totdat een coherente instantiatie is bereikt of een structureel informatieve fout wordt gesignaleerd.
   • De BN geeft een posterior verdeling en een volledige inferentie-trace terug, die door een LLM weer in natuurlijke taal wordt gerenderd.
3. De Verantwoordelijkheidslaag: Deze laag maakt de volledige redeneertrace beschikbaar voor institutionele beoordeling, beroep en betwisting. Omdat de trace een direct verslag is van de ante-hoc structuur, kunnen belanghebbenden specifieke knopen, conditionele afhankelijkheden of governance-beslissingen aanvechten.

Belangrijkste Bijdragen
Het artikel levert vier primaire bijdragen:

1. Conceptuele Architectuur: Het introduceert en karakteriseert formeel het Glassbox Framework als een conceptuele architectuur voor verantwoorde generatieve AI, en onderscheidt het van bestaande XAI en neuro-symbolische benaderingen.
2. De BN-LLM Interface: Het definieert de interface tussen de LLM en de BN als een afzonderlijk wetenschappelijk object, los van post-hoc verklaarbaarheid. Deze interface wordt geïdentificeerd als de centrale technische uitdaging, waarbij de mapping van distributionele, impliciete LLM-representaties naar discrete, gestructureerde BN-representaties vereist is.
3. Operationele Demonstratie: Via een gestructureerd gedachte-experiment in een scenario van rechtmatigheid van uitkeringen, illustreert het artikel de operationele eigenschappen van het framework. Het demonstreert hoe het systeem omgaat met semantische ambiguïteit, inconsistenties detecteert (bijv. tussen werkstatus en inkomenssignalen) en controleerbare traces produceert die node-niveau betwisting mogelijk maken.
4. Onderzoeksagenda: Het identificeert vijf fundamentele uitdagingen die opgelost moeten worden om het framework op schaal te realiseren:
   • Semantische Gronding: Het overbruggen van de kloof tussen context-afhankelijke natuurlijke taal en context-onafhankelijke probabilistische variabelen.
   • Structuurleren in Normatieve Domeinen: Het ontwikkelen van methoden om DAG's te leren of te extraheren die zowel data-consistent als normatief verdedigbaar (juridisch/ethisch) zijn, in plaats van louter statistisch.
   • Probabilistische Interface: Het construeren van een principiële wiskundige mapping tussen LLM-tokenverdelingen en BN-conditionele kansentabellen, specifiek door gebruik te maken van "virtueel bewijs" in plaats van hard bewijs om de BN-prior te behouden.
   • Human-in-the-Loop Governance: Het vaststellen van formele protocollen voor deskundige onenigheid, auditing door niet-technische actoren en geautoriseerde modelupdates.
   • Schaalbaarheid en Generalisatie: Onderzoeken of meta-structuren of transfermechanismen het framework kunnen generaliseren over verschillende domeinen (bijv. van rechtmatigheid van uitkeringen naar medische triage).

Resultaten en Claims
Het artikel presenteert geen volledig geïmplementeerd systeem of empirische experimentele resultaten. In plaats daarvan biedt het een theoretische en architecturale analyse.

• Theoretisch Resultaat: De auteurs demonstreren dat het Glassbox Framework beschikt over vier eigenschappen die direct voortvloeien uit de architectuur: Transparantie van Structuur (de redeneerstructuur is inspecteerbaar vóór de inferentie), Betwistbaarheid van Outputs (bezwaren kunnen zich richten op specifieke knopen/afhankelijkheden), Formele Onzekerheidskwantificering (native waarschijnlijkheidsverdelingen in plaats van puntvoorspellingen) en Modulariteit (domeinspecifieke kennis kan worden bijgewerkt zonder de algemene architectuur te wijzigen).
• Casestudy Analyse: In het scenario van de rechtmatigheid van uitkeringen wordt getoond hoe het framework structurele incoherentie detecteert (bijv. hoge zekerheid over werkloosheid versus bewijs van inkomen) en een gerichte her-query triggert, wat resulteert in een trace die de uitkomst expliciet koppelt aan wettelijke voorwaarden. Dit contrasteert met standaard LLM-pipelines, die onstabiele, niet-betwistbare samenvattingen produceren.

Betekenis en Omvang
Het artikel beweert dat het Glassbox Framework een "geprincieerd pad" vormt naar AI-systemen die fundamenteel verantwoordelijk zijn. De betekenis ligt in de verschuiving van de focus van het verklaren van opake modellen naar het ontwerpen van systemen waarbij de redeneerstructuur inherent inspecteerbaar en bestuurbare is.

De auteurs zijn bescheiden over hun claims en stellen expliciet dat het framework een "onderzoeksrichting" is en geen voltooid systeem. Ze benadrukken dat de realisatie van dit framework afhangt van het oplossen van openstaande wetenschappelijke problemen, met name de "semantische uitlijning" tussen taal en waarschijnlijkheid en de formalisering van probabilistische governance. Zij argumenteren dat zonder het oplossen van deze fundamentele problemen, de transitie van LLM's naar hoog-risico infrastructuur juridisch en ethisch precair zal blijven, aangezien post-hoc verklaringen niet kunnen dienen als vervanging voor gestructureerde, verantwoorde redenering.