RuleConEx: an intrinsically interpretable neural network unifying logical rules and counterfactual explanations for data access control
RuleConEx is een intrinsiek interpreteerbaar neuraal netwerk dat beslissingen over toegang, ABAC-conforme IF-THEN-regels en geldige contrafactische verklaringen verenigt binnen één enkele forward pass, waarbij een nauwkeurigheid wordt bereikt die vergelijkbaar is met state-of-the-art modellen terwijl het een afstembare afweging biedt tussen gebruikersgerichte en auditorgerichte verklaarbaarheid.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de digitale wereld is toegangscontrole de poortwachter. Het bepaalt wie een gebouw mag betreden, wie een bestand mag openen of wie geld kan overmaken tussen rekeningen. Decennialang werden deze beslissingen genomen door beheerders die expliciete regellijsten uitschreven, zoals "managers van de financiële afdeling mogen facturen goedkeuren". Deze lijsten waren gemakkelijk te lezen en te controleren, maar ze waren rigide; als de omgeving veranderde, moesten de regels handmatig worden herschreven, een traag en foutgevoelig proces. Recentelijk hebben wetenschappers zich gericht op deep learning, een type computersysteem dat patronen leert uit enorme hoeveelheden historische gegevens om deze beslissingen automatisch te nemen. Deze systemen zijn ongelooflijk nauwkeurig en presteren vaak beter dan door mensen geschreven regels, maar ze lijden aan een kritiek gebrek: ze zijn opaak. Ze nemen beslissingen via complexe interne berekeningen die geen mens gemakkelijk kan traceren, waardoor het onmogelijk is om uit te leggen waarom een specif으로 persoon de toegang is geweigerd. Dit gebrek aan transparantie is niet alleen een technisch ongemak; het is een juridische hindernis. Regelgeving zoals de Algemene Verordening Gegevensbescherming vereist dat organisaties geautomatiseerde beslissingen die individuen beïnvloeden, moeten kunnen uitleggen, een eis die opaak systemen niet kunnen voldoen.
Onderzoekers van de Universiteit van Dschang in Kameroen hebben een nieuw systeem ontwikkeld genaamd RuleConEx om dit specifieke probleem op te lossen. Hun doel was om een slim toegangscontrolesysteem te bouwen dat zowel zeer nauwkeurig als volledig transparant is, in staat om zijn eigen redenering op twee verschillende manieren uit te leggen die verschillende menselijke behoeften dienen. Ze wilden een systeem dat een auditor de algemene regels kon vertellen die het volgt, terwijl het tegelijkertijd de geweigerde gebruiker precies kon vertellen welke kleine aanpassing zij konden maken om toegang te krijgen. Om dit te bereiken, creëerden het team een neuraal netwerk dat niet alleen een antwoord raadt, maar op exact hetzelfde moment als de beslissing ook twee soorten verklaringen genereert. De ene verklaring neemt de vorm aan van duidelijke, logische "als-dan"-beweringen die het algemene beleid beschrijven, vergelijkbaar met de traditionele regellijsten uit het verleden. De andere is een "contrafactische" verklaring, die de vraag beantwoordt: "Wat zou er anders moeten zijn om mij toegang te geven?", door specifieke, geldige wijzigingen in de attributen van de gebruiker voor te stellen.
De onderzoekers testten dit nieuwe systeem op elf verschillende datasets die diverse toegangscontrolescenario's vertegenwoordigen, waaronder echte gegevens van Amazon en synthetische gegevens die ontworpen zijn om complexe organisatiestructuren na te bootsen. Ze vergeleken RuleConEx met verschillende andere methoden, waaronder de beste bestaande deep learning-modellen en traditionele machine learning-tools. De resultaten lieten zien dat RuleConEx een hoog niveau van nauwkeurigheid bereikte, waarbij het even goed presteerde als de meest geavanceerde opaak systemen en slechts iets minder nauwkeurig was dan een standaard deep learning-model dat helemaal geen verklaringen biedt. Belangrijker nog, het systeem genereerde succesvol de dubbele verklaringen waarvoor het was ontworpen. De logische regels die het produceerde, dekten ongeveer 80 procent van de toegangsverzoeken en bleken getrouw te zijn aan de werkelijke beslissingen van het systeem, wat betekent dat de regels echt weerspiegelden hoe het systeem dacht. De contrafactische verklaringen waren ook zeer effectief; in 96 procent van de gevallen waren de voorgestelde wijzigingen geldig en zouden ze daadwerkelijk leiden tot het verlenen van toegang, waarbij doorgaans slechts twee attributen van de gebruiker gewijzigd hoefden te worden.
Een belangrijke ontdekking in dit werk was hoe de onderzoekers de spanning tussen deze twee soorten verklaringen beheerden. Meestal produceert een systeem dat zeer korte, eenvoudige suggesties aan een gebruiker geeft, regels die te breed zijn voor een auditor, of andersom. Het team ontdekte dat ze het systeem met één instelling konden afstemmen om de balans te verschuiven. Door deze instelling aan te passen, konden ze prioriteit geven aan het bieden van een zeer korte, gemakkelijk te bereiken weg naar toegang voor de gebruiker, of ze konden prioriteit geven aan het bieden van een set regels aan de auditor die perfect overeenkwam met de specifieke situatie van de gebruiker. Ze demonstreerden dat ze deze balans continu konden verschuiven zonder de algemene nauwkeurigheid van het systeem te verliezen. Dit betekent dat het systeem niet vastzit aan een vaste afruil; beheerders kunnen het niveau van detail en het type verklaring kiezen dat het beste bij de situatie past, of ze nu reageren op een gefrustreerde gebruiker of een formele audit uitvoeren.
De studie onthulde ook dat de manier waarop het systeem de data "ziet" cruciaal is. De onderzoekers ontdekten dat voor deze regels leesbaar en nauwkeurig te zijn, het systeem de relaties tussen de gebruiker en de bron moest begrijpen, zoals of zij tot dezelfde afdeling behoren, in plaats van alleen naar hun individuele kenmerken te kijken in isolatie. Zonder dit vermogen om verbindingen te zien, werden de regels lang, verwarrend en onnauwkeurig. Bovendien pakte het team een kritiek beveiligingsprobleem aan: als een systeem zijn beslissingen uitlegt, kan een kwaadwillende die uitleg dan gebruiken om uit te zoeken hoe het systeem te hacken? Zij voerden aan dat hoewel dit een risico is, hun ontwerp de schade beperkt. Het systeem onthult alleen de specifieke wijziging die nodig is voor een geweigerd verzoek, in plaats van het volledige regelboek bloot te leggen, en het beperkt suggesties tot attributen die de gebruiker daadwerkelijk kan veranderen, waardoor het lekken van gevoelige informatie over de bronnen zelf wordt voorkomen.
Uiteindelijk vormt dit werk een belangrijke stap naar het betrouwbaar maken van krachtige kunstmatige intelligentie in omgevingen met hoge belangen. Het bewijst dat een systeem niet een 'black box' hoeft te zijn om nauwkeurig te zijn. Door logische regels en actiegerichte suggesties te verenigen in één enkel, trainbaar model, hebben de onderzoekers een hulpmiddel gecreëerd dat aan de juridische behoefte aan transparantie voldoet terwijl de prestaties van moderne deep learning behouden blijven. Het systeem biedt een praktische manier om geautomatiseerde beslissingen te auditeren en om gebruikers te helpen begrijpen waarom hun toegang is geweigerd, waardoor de kloof tussen de complexiteit van machine learning en de menselijke behoefte aan helderheid wordt overbrugd. De bevindingen suggereren dat we met het juiste ontwerp intelligente systemen kunnen hebben die niet alleen slim zijn, maar ook eerlijk over hoe ze denken.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.