A Neuro-Symbolic Framework for Accountability in Public-Sector AI

Deze proefschrift stelt een neuro-symbolisch raamwerk voor dat een wettelijke ontologie, regelextractie en op oplossers gebaseerd redeneren integreert om ervoor te zorgen dat geautomatiseerde rechtmatigheidsbeslissingen voor CalFresh in overeenstemming zijn met wettelijke regels, waardoor traceerbare en aanvechtbare procedurele verantwoordingsplicht mogelijk wordt gemaakt.

De kern

Stel je een overheidsbureau voor dat beslist wie voedselhulp krijgt. Wanneer ze een aanvrager "nee" zeggen, sturen ze een brief met de reden. Meestal zijn deze brieven geschreven in verwarrende juridische jargon. De aanvrager leest het, denkt: "Dat klinkt redelijk," maar kan niet echt controleren of de overheid de regels correct volgt. Ze zitten vast in het vertrouwen op de brief omdat ze niet over de juridische middelen beschikken om deze te verifiëren.

Dit artikel stelt een nieuwe "digitale scheidsrechter" voor om die brieven te controleren. Hieronder wordt uitgelegd hoe dit werkt, opgesplitst in eenvoudige concepten:

Het Probleem: De "Black Box" van de Bureaucratie

Stel je het besluitvormingsproces van de overheid voor als een black box. Je stopt je informatie erin en er komt een beslissing uit. Soms is die box een computerprogramma; soms is het een mens die een complex reglement volgt. Het probleem is dat de "verklarende brief" die je ontvangt, misschien op het oppervlak goed oogt, maar stiekem de regels kan overtreden.

Momenteel vertrouwen we op "interpretatie"—het proberen het denken van de computer zichtbaar te maken. Maar de auteurs betogen dat in een juridische context het alleen maar zien van het denken niet genoeg is. Je hebt auditbaarheid nodig. Je moet weten of de verklaring daadwerkelijk overeenkomt met de wet, net als het controleren of een kassabon overeenkomt met de artikelen die je hebt gekocht.

De Oplossing: Een "Vertaler" en een "Regelcontroleur"

De auteurs hebben een systeem gebouwd dat een Neuro-Symbool Kader wordt genoemd. Je kunt dit zien als een team van twee personen dat samenwerkt:

1. De Vertaler (Het "Neurale" Deel):
   Stel je een superslimme robot voor die de rommelige, complexe overheidswetten (geschreven in het Engels) en de rommelige verklarende brieven die aan aanvragers worden gestuurd, leest. De taak van deze robot is om die menselijke taal te vertalen naar een strikte, wiskundige taal die computers perfect kunnen begrijpen. Het is als een vertaler die een gedicht omzet in een nauwkeurige reeks wiskundige vergelijkingen.

   • In het artikel: Ze gebruikten een Groot Taalmodel (LLM) om wetten zoals "Je moet minder dan $2.000 verdienen" om te zetten in een formele regel: Als Inkomen > 2000, Dan Niet Gekwalificeerd.

2. De Regelcontroleur (Het "Symbool" Deel):
   Zodra de wetten en de verklarende brieven zijn omgezet in wiskundige vergelijkingen, treedt een strenge logische machine (een SMT-oplosser) in actie. Deze machine gokt niet; ze rekent uit. Ze vraagt: "Bewijst de verklarende brief de beslissing wiskundig?"

   • Als de brief zegt: "Je wordt afgewezen omdat je te veel verdient," en de wiskunde toont aan dat je wel te veel verdient, zegt de machine SAT (Voldoende/Geldig). De verklaring houdt stand.
   • Als de brief zegt: "Je wordt afgewezen omdat je te veel verdient," maar de wiskunde toont aan dat je niet te veel verdient, zegt de machine UNSAT (Niet Voldoende/Ongeldig). De verklaring is een leugen of een vergissing, zelfs als het voor een mens plausibel klinkt.

De Realiteitstest: CalFresh

Het team testte dit systeem op CalFresh, het voedselhulpprogramma van Californië. Ze namen 50 echte gevallen waarbij mensen hun uitkeringen werden geweigerd of gekort.

• De Opzet: Ze voerden het systeem de daadwerkelijke wet, de feiten van de aanvrager (inkomen, gezinsgrootte) en de officiële brief die de overheid stuurde.
• Het Resultaat: Het systeem slaagde erin "juridische mismatches" te vinden. In één test verzonnen ze een scenario waarbij ze een "Afgewezen" beslissing veranderden in "Goedgekeurd", maar dezelfde verklaring behielden (waarin stond dat de persoon te veel verdiende). Het systeem schreeuwde direct UNSAT, en wees erop dat de verklaring in tegenspraak was met de nieuwe beslissing.
• Het "Rookend Pistool": Wanneer het systeem een fout vond, zei het niet alleen "Fout". Het wees naar de exacte pagina en alinea van de wet die werd overtreden. Het is als een scheidsrechter die niet alleen de fluit blaast, maar ook naar de specifieke pagina in het reglement wijst die de speler heeft overtreden.

Waarom Dit Belangrijk Is

De auteurs betogen dat we moeten stoppen met proberen alleen maar uit te leggen hoe AI denkt, en moeten beginnen met het auditeren van de juridische rechtvaardigingen die het produceert.

• Huidige Manier: "Hier is waarom de computer nee zei. Het is gebaseerd op een patroon dat het heeft geleerd." (Dit is moeilijk aan te vechten in de rechtbank).
• Nieuwe Manier: "Hier is de brief. Ons systeem heeft deze gecontroleerd tegen de wet en geconstateerd dat het artikel 63-409.111 schendt." (Dit is makkelijk aan te vechten in de rechtbank).

De Kern

Dit artikel claimt niet dat het de overheid vervangt of de uiteindelijke beslissingen neemt. In plaats daarvan bouwt het een digitale veiligheidsnet. Het zorgt ervoor dat wanneer de overheid je een brief stuurt met "Nee", die brief eigenlijk een geldige juridische reden is, en niet zomaar een verwarrende smoes. Het verandert de "verklaring" van een stuk papier dat je moet vertrouwen, in een stuk bewijs dat je kunt verifiëren.

Belangrijkste Leerpunt: In de wereld van publieke uitkeringen gaat het bij een verklaring niet alleen om duidelijkheid; het gaat erom dat het juridisch waar is. Dit systeem is het gereedschap dat controleert of de waarheid daadwerkelijk wordt verteld.

Technische samenvatting

Technische Samenvatting: Een Neuro-Symbolisch Kader voor Juridische Verantwoordingsplicht in AI in de Publieke Sector

1. Probleemstelling

Publieke agentschappen vertrouwen steeds vaker op systemen voor geautomatiseerde besluitvorming (ADM) om toegang tot sociale zekerheidsvoorzieningen te regelen. Hoewel deze systemen efficiëntie beloven, ontbreekt het vaak aan transparantie, waardoor het voor aanvragers moeilijk is om bevoegdheidsbepalingen te begrijpen of aan te vechten. Huidige benaderingen voor Verklaarbare AI (XAI) richten zich op modelinterpretatie, fideliteit of gebruikersvertrouwen. In juridische en administratieve contexten is de primaire functie van een verklaring echter niet enkel om begrepen te worden, maar om te dienen als een juridische rechtvaardiging die in adversariële of quasi-rechterlijke settingen betwist kan worden.

Het kernprobleem dat wordt geïdentificeerd, is dat bestaande verklaringen (bijvoorbeeld Actieaankondigingen) voor menselijke lezers plausibel kunnen lijken, maar toch falen in het verwijzen naar de juiste wettelijke autoriteit of verkeerde wettelijke voorwaarden weergeven. Er ontbreekt technische infrastructuur om te verifiëren of deze rechtvaardigende artefacten juridisch geldig zijn ten opzichte van de geldende wetten. Huidige auditmethoden richten zich vaak op naleving op beslissingsniveau of modelgedrag, en negeren de juridische integriteit van de verklaringen zelf. Deze kloof verhindert dat aanvragers en toezichthoudende organen effectief beoordelen of een beslissing voldoet aan wettelijke criteria en procedurele normen.

2. Methodologie

De auteurs stellen een neuro-symbolisch kader voor dat is ontworpen om automatisch de juridische adequaatheid van verklaringen voor sociale zekerheid te verifiëren. Het systeem verschuift de focus van het interpreteren van modelinterne processen naar het auditen van de rechtvaardigingen die aan aanvragers worden verstrekt. De architectuur bestaat uit vier hoofdfasen:

2.1 Data Bronnen

• Wetgevend Corpus: De California Manual of Policies and Procedures (MPP) Afdeling 63, die het CalFresh (SNAP)-programma regelt.
• Zaakdata: 50 administratieve beroepsbeslissingen van de State Hearings Division van het California Department of Social Services (CDSS). Deze dossiers bevatten de oorspronkelijke verklaring van het agentschap, de uitkomst van de beslissing en de feitelijke omstandigheden die door de eiser werden gepresenteerd.

2.2 Systeemarchitectuur

Het kader werkt via een processtroom die juridische regels scheidt van zaakspecifieke beweringen:

1. Ontologieconstructie:

   • Een gecontroleerde juridische vocabulaire wordt afgeleid uit de MPP-regelgeving met behulp van Named Entity Recognition (NER) en op embedding gebaseerde overeenkomstmatching (met Qwen3-Embedding-8B).
   • De ontologie richt zich op kernaspecten van bevoegdheid: inkomen, woonplaats, nationaliteit, middelen en studentenstatus.
   • Deze structuur zorgt voor traceerbaarheid naar autoritatieve bronnen en voorkomt redundantie.

2. TBox (Terminological Box) Encodering:

   • Vertegenwoordigt de normatieve structuur van de wet (zaak-invariante regels).
   • Wettelijke bepalingen worden gesegmenteerd en operationele termen worden geëxtraheerd.
   • Een Large Language Model (LLM), specifiek OpenAI's o1, wordt geprompt om deze bepalingen te vertalen naar formele, voor de solver geschikte logische regels (bijvoorbeeld implicaties, noodzakelijke voorwaarden).
   • Elke regel is gekoppeld aan de bronvermelding (bijvoorbeeld MPP §63-409.111).

3. ABox (Assertion Box) Constructie:

   • Vertegenwoordigt zaakniveau-inhoud (feiten en verklarende beweringen).
   • De verklaring van het agentschap wordt met behulp van de LLM vertaald naar hetzelfde logische formaat als de TBox.
   • Feitelijke predicaten (bijvoorbeeld huishoudgrootte, inkomensbedragen) worden geëxtraheerd uit de hoorzittingsdossiers.
   • De ABox combineert de opgehaalde TBox-regels die door de verklaring worden ingeroepen, de vertaalde verklaringslogica en de specifieke zaakfeiten.

4. SMT-gebaseerde Verificatie:

   • Een Satisfiability Modulo Theories (SMT)-solver evalueert de gezamenlijke vervulbaarheid van de TBox (juridische regels) en de ABox (zaakbeweringen).
   • SAT-resultaat: De verklaring is coherent met de geldende wet en kan fungeren als een juridisch toelaatbare rechtvaardiging.
   • UNSAT-resultaat: De verklaring is inconsistent met de wet. De solver extrahert een onvervulbare kern—een minimale subset van constraints die verantwoordelijk is voor het conflict—en koppelt deze terug aan specifieke wettelijke bepalingen.

3. Belangrijkste Bijdragen

• Verschuiving van Interpretatie naar Auditbaarheid: Het artikel pleit voor een paradigmaverschuiving waarbij publieke algoritmische verantwoordingsplicht wordt gemeten aan de juridische geldigheid van verklaringen in plaats van enkel aan modelinterpretatie.
• Neuro-Symbolische Verificatieprocesstroom: Een innovatieve integratie waarbij neurale componenten (LLM's) de extractie en vertaling van ongestructureerde juridische tekst en verklaringen afhandelen, terwijl symbolische componenten (SMT-solvers) deterministische verificatie en traceerbaarheid bieden.
• Verklaringsniveau Verantwoordingsplicht: In tegenstelling tot eerder werk dat screeningstools formaliseerde (bijvoorbeeld Escher en Banovic, 2020), evalueert dit kader de rechtvaardigende artefacten (actieaankondigingen) die aan aanvragers worden verstrekt, en ondersteunt het het recht op betwisting en beroep.
• Statuut-gebaseerde Signalen: Het systeem markeert niet alleen fouten; het produceert actieerbare verantwoordingsignalen door exact aan te geven welke wettelijke bepalingen door een verklaring worden geschonden.

4. Resultaten

Het kader werd geëvalueerd op 50 CalFresh-zaken verdeeld over vijf categorieën van bevoegdheid (Studentenstatus, Inkomen, Woonplaats, Nationaliteit, Middelen). Voor de evaluatie creëerden de auteurs gepaarde instanties door de bevoegdheidsbepaling om te keren terwijl de verklaring constant bleef, om juridische tegenstrijdigheden te testen.

• Verificatie Nauwkeurigheid: Het systeem behaalde een algehele nauwkeurigheid van 97,7% in het onderscheiden tussen juridisch coherente (SAT) en niet-coherente (UNSAT) verklaringen.
• Localisatie Precisie: Wanneer een inconsistentie werd gedetecteerd (UNSAT), slaagde het systeem erin de specifieke wettelijke bepaling die erbij betrokken was, te localiseren.
  • Localisatie F1-score: Varieerde per categorie, variërend van 0,51 (Inkomen) tot 0,83 (Nationaliteit), met een algehele gemiddelde van 0,977 voor de UNSAT-zaken waar localisatie van toepassing was.
  • Categorieën met meer deterministische regels (Nationaliteit, Woonplaats) vertoonden een hogere ophaalnauwkeurigheid dan die met contextuele nuances (Inkomen, Studentenstatus).
• Casestudie: In een specifieke zaak waarbij een beëindiging van uitkeringen werd gerechtvaardigd met "bruto inkomen overschrijdt de limiet", bevestigde het systeem dat de verklaring SAT was. Toen de beslissing werd omgekeerd naar "bevoegd" terwijl dezelfde verklaring behouden bleef, gaf het systeem correct UNSAT terug en identificeerde het MPP §63-409.111 als de geschonden bepaling.

5. Betekenis en Aanspraken

De auteurs stellen dat dit werk een proof-of-concept biedt voor het inbedden van juridische verantwoordingsplicht in de technische ondergrond van AI in de publieke sector.

• Institutionele Steigers: Het systeem is niet ontworpen om administratief discretionair vermogen te vervangen of juridische oordelen te automatiseren, maar om te fungeren als "institutionele steigers" die toezicht en betwistbaarheid versterken. Het automatiseert de verificatie van rechtvaardigingen, niet de beslissingen zelf.
• Bestuur boven Transparantie: Het artikel herformuleert verklaarbaarheid als een bestuurlijke uitdaging. Het stelt dat voor publieke algoritmes verklaringen meer moeten doen dan statistische associaties onthullen; ze moeten de juridische basis voor een beslissing articuleren om te voldoen aan rechten op behoorlijk proces.
• Toepasbaarheid: Het kader is toepasbaar ongeacht of de onderliggende beslissingsmotor voorspellend, regelgebaseerd of hybride is, aangezien het de verklarende laag evalueert die aan de aanvrager wordt verstrekt.
• Beperkingen: De auteurs merken bescheiden op dat het systeem afhankelijk is van een taakspecifieke formalisering van wetten en niet volledig open-getextureerde standaarden of discretionaire oordelen kan vastleggen. De evaluatie gebruikte gecontroleerde zaken met één wet om duidelijke toewijzing te garanderen, wat betekent dat real-world complexiteit waarbij meerdere interactieve wetten betrokken zijn, extra uitdagingen kan opleveren. Het systeem is een technisch instrument voor infrastructuur van verantwoordingsplicht, geen vervanging voor holistisch juridisch oordeel.

Concluderend toont het artikel aan dat juridische verantwoordingsplicht op verklaringsniveau computationeel hanteerbaar kan worden gemaakt door middel van neuro-symbolische methoden, en biedt een mechanisme voor agentschappen, toezichthoudende organen en individuen om te beoordelen of geautomatiseerde rechtvaardigingen voldoen aan wettelijke vereisten.